AINews

Meta AI: Scatta l’allerta per i genitori se i figli parlano di suicidio o autolesionismo con il chatbot

La nuova misura di sicurezza, integrata negli strumenti di supervisione di Instagram, punta a intercettare tempestivamente i segnali di disagio psicologico tra i più giovani.

In un contesto in cui l’intelligenza artificiale diventa sempre più una confidente quotidiana per le nuove generazioni, Meta ha annunciato una svolta importante sul fronte della sicurezza dei minori. I genitori che utilizzano le funzioni di supervisione per gli account dei propri figli adolescenti riceveranno una notifica automatica qualora il ragazzo discuta di temi legati al suicidio o all’autolesionismo all’interno delle chat con Meta AI.

La funzionalità, inizialmente rilasciata nei paesi anglofoni (Stati Uniti, Regno Unito, Canada e Australia), verrà estesa a livello globale entro la fine dell’anno.

Come funziona lo scudo per i minori

Il sistema si basa su un algoritmo di intelligenza artificiale sviluppato in collaborazione con oltre 75 esperti di salute mentale e clinici. Il software scansiona le interazioni tra gli adolescenti e il chatbot alla ricerca di indicatori di disagio.

Se vengono rilevati riferimenti chiari o sottili a pratiche autolesionistiche o intenzioni suicide:

  • Notifica ai genitori: Viene inviato un alert al genitore collegato tramite il Centro per le famiglie di Meta. Per evitare buchi nei sistemi di sicurezza, Meta ha specificato che i moderatori umani esamineranno i casi dubbi e che l’azienda preferirà “eccedere nella cautela”, inviando la notifica anche in presenza di falsi allarmi.
  • Risposta dell’IA: Meta AI è programmata per convalidare emotivamente i sentimenti del ragazzo, evitando risposte brusche o un blocco immediato della chat, e reindirizzandolo contemporaneamente verso linee telefoniche di supporto e contatti di emergenza offline.

Il legame con la supervisione: La notifica non è spionaggio indiscriminato. La funzione è attiva solo se i genitori hanno configurato gli strumenti di Supervisione Genitoriale (che richiedono l’accettazione da parte dell’adolescente). I genitori non vedranno l’intera cronologia della chat per rispetto della privacy del minore, ma riceveranno l’alert specifico sul tema critico rilevato.

Intervento dei soccorsi in tempo reale

Oltre alle notifiche familiari, Meta sta implementando un sistema per allertare direttamente i servizi di emergenza (come le forze dell’ordine o il personale sanitario) nel caso in cui le conversazioni con Meta AI (sia di minori che di adulti) suggeriscano un rischio imminente e credibile per la vita dell’utente. Si tratta dell’estensione di una pratica già applicata da anni ai post pubblici e ai messaggi su Facebook e Instagram, che solo l’anno scorso ha portato a oltre 19.000 interventi di controllo del benessere da parte dei primi soccorritori nel mondo.

Il dibattito degli esperti: un passo avanti, ma non basta

La reazione della comunità scientifica e delle associazioni per la tutela dei minori è generalmente positiva, ma cauta. Da un lato, psicologi e analisti tecnologici concordano sul fatto che dare uno strumento in più alle famiglie per intercettare precocemente il malessere sia una vittoria. Dall’altro, molte organizzazioni sottolineano che le aziende tech dovrebbero concentrarsi sull’eliminare a monte i fattori scatenanti delle crisi (come il cyberbullismo, la pressione estetica degli algoritmi e la dipendenza da schermo) piuttosto che limitarsi a monitorare gli effetti del disagio quando è già in corso.

Meta ha inoltre ricordato che gli account dei minori sono impostati di default sul filtro di contenuti più restrittivo (Impostazione 13+), impedendo all’IA di assecondare o approfondire discorsi inappropriati o pericolosi per l’età dello sviluppo.

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *

Pulsante per tornare all'inizio