Google ha aggiornato l’app Gemini per rilevare se un’immagine è stata generata o modificata utilizzando l’intelligenza artificiale. Tuttavia, la novità è che la nuova funzionalità è attualmente disponibile solo per le immagini generate o modificate tramite l’intelligenza artificiale di Google.
La forza del rilevatore di immagini AI di Gemini è SynthID, una tecnologia di filigrana digitale introdotta da Google nel 2023. SynthID incorpora segnali impercettibili nei contenuti generati dall’IA, che rimangono intatti anche dopo la modifica.
Google ha testato la tecnologia attraverso il suo portale di verifica SynthID Detector , reso disponibile a giornalisti, ricercatori e professionisti dei media interessati all’inizio di quest’anno. È in grado di individuare i contenuti generati dall’intelligenza artificiale in diverse modalità e di evidenziare le parti che hanno maggiori probabilità di essere contrassegnate con la filigrana SynthID.
Il colosso della ricerca ha anche aggiunto il supporto SynthID allo strumento di intelligenza artificiale generativa Reimagine in Magic Editor. Detto questo, puoi verificare rapidamente se un’immagine caricata nell’app Gemini è stata generata utilizzando l’intelligenza artificiale di Google ponendoti le seguenti domande: “È stata creata con l’intelligenza artificiale di Google?” oppure “È generata dall’intelligenza artificiale?”.
Il chatbot verificherà la filigrana SynthID nell’immagine caricata e utilizzerà le sue capacità di ragionamento per fornire una risposta che aggiunga ulteriore contesto all’immagine. In futuro, Google utilizzerà il suo strumento di verifica SynthID per supportare più tipi di contenuti, inclusi audio e video, e integrerà la funzionalità nella Ricerca Google e in altre piattaforme.
Non riguarda solo Google; la crescente minaccia dei contenuti generati dall’intelligenza artificiale, che ingannano e ingannevoli gli utenti, ha svegliato anche altre aziende tecnologiche. Google è membro del comitato direttivo della Coalition for Content Provenance and Authenticity (C2PA), che include anche Adobe, OpenAI, Meta e Microsoft e altri.
Mentre SynthID è un progetto proprietario di Google, C2PA è uno standard aperto che associa metadati sicuri a immagini, audio o video. Anche Adobe ha sviluppato un proprio strumento di watermarking digitale basato sulle credenziali C2PA.
Google ha affermato che il suo nuovo modello di generazione di immagini Nano Banana Pro integrerà i metadati C2PA nei contenuti generati nell’app Gemini, Vertex AI e Google Ads. Google ha implementato le credenziali C2PA in prodotti come YouTube, Ricerca, Pixel e Foto.
L’aggiunta futura delle credenziali di contenuto C2PA ai suoi strumenti di verifica consentirà agli utenti di “controllare la fonte originale dei contenuti creati da modelli e prodotti che esistono al di fuori dell’ecosistema di Google”, ha affermato l’azienda.