Hai mai dubitato della veridicità di un’immagine o di un video che hai visto online? In un mondo in cui i deepfake diventano sempre più convincenti, rilevare i contenuti generati dall’intelligenza artificiale è diventata una sfida quotidiana. Scopri come Google e altri attori della tecnologia cercano di armarci di fronte a questa nuova realtà.
Le 3 informazioni da non perdere
- Google utilizza SynthID, una tecnologia di marcatura invisibile, per identificare i contenuti generati dai propri modelli di IA.
- Lo standard C2PA consente di verificare l’origine delle immagini e dei video, anche quelli creati dai concorrenti di Google come OpenAI.
- Nonostante questi progressi, nessun strumento sostituisce lo spirito critico, indispensabile per distinguere il reale dall’artificiale.
I limiti dei vecchi modelli IA
Fino a poco tempo fa, i modelli di IA producevano video con incoerenze evidenti, rendendo la loro rilevazione abbastanza semplice per l’occhio umano. Tuttavia, i rapidi progressi tecnologici hanno permesso di creare rendering molto più realistici. I deepfake si sono infiltrati nei social network, rendendo la distinzione tra realtà e illusione più complessa che mai.
Google e la tecnologia SynthID
Di fronte a questa sfida, Google ha introdotto SynthID, sviluppato da Google DeepMind. A differenza dei filigrani tradizionali, SynthID agisce sulla componente frequenziale del segnale digitale. L’algoritmo regola le statistiche di colore e luminosità, creando un’impronta non rilevabile a occhio nudo, ma riconoscibile dal modello Gemini di Google.
Con pochi clic, gli utenti possono inviare un’immagine o un video a Gemini e porre la domanda: “Questa immagine è stata creata da un’IA?”. Il chatbot analizzerà quindi i metadati per identificare la marcatura SynthID.
L’interoperabilità con lo standard C2PA
Per superare i limiti di SynthID, in particolare di fronte ai contenuti creati dai concorrenti, Google punta sullo standard C2PA. Questo protocollo garantisce la tracciabilità dei file fin dalla loro creazione. È adottato da giganti come Adobe, Microsoft e OpenAI, permettendo così di verificare l’origine dei contenuti, anche in assenza della marcatura SynthID.
Per utilizzare C2PA, basta andare sulla piattaforma Content Credentials dove un’immagine può essere analizzata rapidamente. Tuttavia, questo standard non è infallibile. Ad esempio, un semplice screenshot può cancellare le informazioni di tracciabilità, rendendo impossibile la rilevazione.
Le sfide dell’autenticità digitale
Nonostante gli strumenti sofisticati sviluppati dai giganti dell’IA, il discernimento umano rimane cruciale. La tecnologia non può ancora sostituire la nostra capacità di valutare la veridicità di un contenuto. Come aveva previsto Blaise Pascal, la verità e la menzogna sono spesso intrecciate, e il nostro ruolo è di districare questi fili per distinguere il reale dall’artificiale.
In questa corsa alla veridicità, aziende come Google, OpenAI e Adobe innovano costantemente per offrire soluzioni di rilevazione più efficaci. Tuttavia, il loro successo dipende anche dalla nostra capacità di rimanere vigili e critici di fronte alle informazioni che consumiamo quotidianamente.
