Il chatbot Grok di xAI ha fatto notizia negli ultimi mesi per le sue risposte controverse, dall’antisemitismo alle lodi di Hitler e agli insulti al presidente turco. Tuttavia, il controverso chatbot potrebbe presto lanciare una versione per bambini chiamata Baby Grok.
Elon Musk ha annunciato la notizia su X, affermando: “Realizzeremo Baby Grok @xAI, un’app dedicata ai contenuti per bambini”. Il CEO di xAI non ha fornito dettagli sulla data di rilascio di Baby Grok né su come verrà addestrato per essere adatto ai bambini.
Un Grok adatto ai bambini rimane un concetto vago, e le differenze tra questo e il Grok originale non sono ancora chiare. Tuttavia, è più probabile che Baby Grok sia una versione ridotta di Grok con misure di sicurezza più rigorose, specificamente progettata per scopi educativi.
L’annuncio di Elon Musk di un Grok pensato per i bambini arriva dopo che Google ha rilasciato una versione del suo chatbot Gemini per bambini. La versione di Google di Gemini pensata per i bambini si concentra sull’aiutare i bambini con i compiti, rispondere alle loro domande e inventare storie. Inoltre, i genitori possono disabilitare l’accesso tramite l’app Family Link. Questa versione è disponibile per bambini di età inferiore ai 13 anni.
Google ha inoltre assicurato ai genitori che Gemini per bambini non contiene pubblicità e non raccoglierà dati dai suoi utenti minorenni. L’app è focalizzata esclusivamente sull’istruzione e sullo sviluppo della creatività dei bambini.
Oltre ai commenti antisemiti su Grok, anche i nuovi avatar “Companions” di xAI stanno suscitando preoccupazione tra i genitori. Uno di questi avatar AI è un personaggio femminile di nome Ani, che indossa un abito provocante e si impegna in dialoghi provocanti.
Gli utenti lamentano che avatar basati sull’intelligenza artificiale come Ani possano esporre i bambini a un linguaggio esplicito. Inoltre, alcuni utenti hanno segnalato che il comportamento civettuolo di Ani si verificava anche quando la Modalità Bambini dell’app Grok era abilitata.
Resta da vedere come Baby Grok affronterà le problematiche di sicurezza mantenendo al contempo l’attenzione sugli scopi educativi.
