Da parte di Google arriva l’annuncio che è stato messo a punto un tool in grado di riconoscere le immagini generate dall’intelligenza artificiale.
Il dibattito sulla intelligenza artificiale, sul modo in cui va utilizzata e anche sul modo in cui non andrebbe utilizzata continuerà per un bel po’. Almeno fino a quando non ci saranno norme, codici di condotta, leggi vere e proprie per decidere che cosa possiamo lasciare alle IA e che cosa invece non si può avere.
Gli strumenti dotati di intelligenza artificiale si stanno moltiplicando ed è quindi ovviamente necessario che si arrivi ad una norma per evitare abusi, storture e nuove tipologie di crimini informatici e non.
Secondo la filosofia di Google, un primo passo è quello di mettere gli utenti nelle condizioni di sapere che l’immagine che stanno guardando non è una foto e non è stata prodotta da un essere umano ma dal lavoro combinato di un essere umano con una intelligenza non umana. Il tool, presentato attraverso il blog di Deep Mind, per ora ha un funzionamento limitato ma potrebbe essere una filosofia destinata a espandersi.
Il nuovo tool di Google per le immagini generate dall’intelligenza artificiale, Synth ID
Una domanda cui nessuno finora sembrava aver trovato una risposta convincente, ogni volta che magari sono apparse immagini che sono poi state riconosciute come generate mescolando intelligenza umana e non, è proprio quella sul come si distingue un collage generativo da un’immagine che è al 100% frutto del lavoro di un essere umano?
Una domanda che si riverbera anche sugli altri tipi di contenuti che le IA possono produrre. Esattamente come succede per un testo, anche le immagini hanno per ora evidenti problemi di qualità il più delle volte. Ma ad un occhio poco accorto possono passare per realistiche. Esattamente come un testo scritto da una intelligenza artificiale se viene letto con superficialità può non essere percepito come sintetico. Ma date le prospettive di espansione nell’utilizzo degli strumenti generativi è chiaro che occorre mettere gli utenti nelle condizioni di sapere che quello che stanno leggendo o quello che stanno guardando è stato creato da un essere umano ma con l’aiuto di questi strumenti così avanzati.
Siamo di fronte, in buona sostanza, a una questione di onestà perché, e basta fare un giro sui social per rendersene conto, purtroppo ci sono già diversi sedicenti artisti che si stanno creando migliaia di fan spacciando per proprie opere d’arte che invece sono il frutto di strumenti addestrati con il lavoro di altri. Tornando però a guardare la questione dal punto di vista degli utenti è chiaro che sapere che l’immagine all’interno di un articolo è sintetica perché creata con una intelligenza artificiale è un passo in più nella consapevolezza di quello che si sta guardando.
Ed è per questo che Google all’interno del suo servizio Imagen ha deciso di sperimentare una sorta di carta d’identità embeddata all’interno delle informazioni dei pixel dell’immagine stessa e che, come un codice a barre o un chip sottopelle, identifica le immagini generate. Il servizio si chiama Synth ID e ovviamente funziona solo con le immagini prodotte dal servizio di Google che nella generazione infila nelle immagini le informazioni che poi sono lette ma non è difficile immaginare che questa filosofia venga utilizzata e implementata anche dagli altri servizi che offrono intelligenza artificiale generativa per le immagini. Un sistema di riconoscimento che può trasformarsi in una nuova metrica di valutazione? La domanda con Google è sempre lecita.
Una questione di fiducia
La società della grande G la mette sulla questione della fiducia e sul fatto che la società voglia offrire contenuti di qualità mantenendo un clima di “fiducia tra creatori e utenti“, questo si legge nel post sul blog di Deep Mind. E sempre lo stesso blog sottolinea come le intelligenze generative possono “sbloccare un potenziale creativo enorme ma presentano anche nuovi rischi” che sono poi proprio quelli della disinformazione volontaria o casuale.
Il poter riconoscere attraverso un watermark invisibile ad occhio umano le immagini generate è un modo per indicare agli utenti se un contenuto è umano o meno ma, e siamo sicuri qualcuno glielo chiederà, occorrerà vedere se e in che modo eventualmente l’algoritmo e il ranking di Google cambierà anche in base alla presenza massiccia o meno di immagini generate dall’intelligenza artificiale. Soprattutto perché Google, in chiusura del suo post, sottolinea come il sistema di Synth ID “possa essere espanso per l’utilizzo attraverso altri modelli di intelligenza artificiale” con la prospettiva anche di renderlo “disponibile a terze parti in futuro“.
Per ora la percezione delle immagini generate dall’intelligenza artificiale è ancora variegata e a titolo di esempio ci sono moltissimi studi di sviluppo di videogiochi che stanno aggiornando i propri contratti inserendo una clausola specifica che impedisce l’utilizzo di contenuti generati anche solo per motivi di copyright mentre più di qualche testata giornalistica e sito di informazione invece ogni tanto fa ricorso proprio alle immagini generate negli articoli.
