che CosA SONO I DEEPFAKE?

Nel Gennaio 2023 Kai – Fu – Lee, esperto di intelligenza artificiale coreano, e Chen Quifan, scrittore di fantascienza cinese, hanno realizzato un libro che spiega l’AI attraverso racconti ambientati in un futuro in cui è diventata stabilmente parte delle nostre vite. Si chiama “AI 2024, Scenari dal futuro dell’intelligenza artificiale”

Uno di questi racconti, “Gli dei dietro la maschera”, parla dei deepfake. Ci faremo aiutare da questa storia per parlarne, spiegare come funzionano e analizzarne le possibili ricadute nella nostra società. #TELOSPIEGO

Gods Behind the mask: Manipolare la politica di un paese attraverso video deepfake

Nel racconto un giovane nigeriano esperto di deepfake viene ricattato da un’organizzazione politica per realizzare video falsi utilizzando i volti di leader di partiti del suo paese.

Nella società in cui vive Amaka, il protagonista della storia, i deepfake invadono ogni ambito della vita delle persone, e i governi si sono già dotati di software per smascherarli. Il suo compito è creare il deepfake perfetto, così ben fatto da riuscire ad ingannarli, cosicché tutti lo credano vero. Ci riuscirà, ma nel mentre inizierà a riflettere sulle conseguenze della sua azione, e troverà il modo di rimediare.

Aldilà dell’aspetto umano della storia, che indaga l’utilizzo dei deepfake in politica da un punto di vista etico, il racconto è estremamente efficace per far capire come si creano da un punto di vista tecnico.

Come si creano i deepfake: le Generative adversarial Networks

La creazione dei deepfake si basa su una teconologia chiamata GAN, o Generative Adversarial Network, che in italiano possiamo tradurre con “Rete Generativa Avversaria”.

In pratica si prendono due reti neurali artificiali e le si mettono a combattere fra loro. Una delle due, la rete GENERATIVA, ha il compito di creare immagini (o video) falsi, l’altra, la rete DETECTIVE, ha il compito di scoprirla. Sulla base dei feedback della Detective, la rete Generativa aggiusterà il tiro sempre di più, fino a che le due non raggiungeranno un equilibrio.

Il giovane protagonista della storia viene contattato da un’organizzazione clandestina, che dopo averlo convinto a collaborare per mezzo di un ricatto, gli fornisce accesso a moltissima potenza computazionale, la “benzina” dei deepfake, grazie alla quale Amaka riesce a creare un fake così perfetto da ingannare anche i migliori software-detective esistenti sul mercato, sfruttando proprio le GAN.

La possibile crisi del sistema dell’informazione

Il rischio più grande paventato da questa storia, oltre all’inganno in se per se, è un altro: potrebbe generarsi nella popolazione una sfiducia generalizzata in tutti i tipi di contenuti visuali, che arriverebbe a mettere in dubbio anche quelli autentici, poiché in un mondo dove tutto può essere falsificato nessuno si sentirebbe più sicuro a credere a nulla.

La paura è quindi che si apra un periodo di fortissima crisi del sistema dell’informazione, che poi è uno dei pilastri delle società democratiche. Le ricadute sulla politica mondiale potrebbero essere moltissime. Per questo motivo alcuni Stati e organizzazioni internazionali, come l’Unione Europea, si stanno già muovendo per regolare l’intelligenza artificiale e tentare di arginarne le possibili conseguenze negative.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Autore : Luigi Muraca