Se andate su TikTok, potreste vedere Tom Cruise che suona una chitarra acustica con indosso una maglietta bianca e un cappellino verde. Oppure potreste vedere lo stesso attore di Top Gun mentre si guarda allo specchio a torso nudo. O che gioca a golf con una polo bianca.
Peccato che Tom Cruise non sia su TikTok. Tutte le sue apparizioni sul social network sono “deepfake”, cioè video generati tramite sistemi di intelligenza artificiale che riescono a “montare” il viso, la voce e le movenze di una persona su un altro corpo.
Abbiamo fatto nostro questo esempio citato dalla newsletter di Quartz per darvi un’idea di cosa è possibile fare, oggi, con la tecnologia. E come tutto questo, se usato a scopi malevoli, possa generare disinformazione e condizionare l’opinione pubblica. Anche, giusto per restare connessi con l’attualità, nel conflitto appena scoppiato in Ucraina, con la Russia che è già nota per fare ampio utilizzo di fake news a fini di propaganda.
Ma cosa sono esattamente questi deepfake? In estrema sintesi si tratta di falsi digitali. Sono rappresentazioni multimediali altamente credibili di eventi alterati o fabbricati ad arte, create utilizzando tecniche sofisticate di intelligenza artificiale. Questi contenuti non sono impeccabili – a guardarli bene qualcosa che non torna di solito c’è. Ma il loro aspetto realistico, combinato con la naturale attitudine degli individui a fidarsi di ciò che vedono e percepiscono con i loro sensi, rende il loro impatto potentissimo. Nel bene e nel male.
Deepfake, fake news e offensiva russa
“Siamo sotto attacco non solo dalle bombe, ma anche dai falsi”, ha detto in questi giorni il presidente ucraino Volodymyr Zelensky, sottolineando l’importanza di ottenere notizie vere da fonti ufficiali e definendo la propaganda russa uno degli aspetti più pericolosi della guerra in atto.
A maggior ragione nell’era dei social network, con milioni di utenti che condividono video, foto, dati e testimonianze di quello che sta accadendo sul campo. Questi contenuti, infatti, vengono condivisi da altri utenti e ripresi dalle testate giornalistiche e che finiscono per contribuire al racconto mediatico del conflitto in atto. La loro veridicità è dunque fondamentale affinché l’informazione risulti affidabile.
Va detto che la Russia non è estranea alla manipolazione dei social media (ricordate le accuse degli Usa nel periodo delle elezioni statunitensi del 2016?). Basti pensare che la Internet research agency (Ira) russa, un’azienda impegnata in operazioni di propaganda online per conto di compagnie nazionali e dello stesso Putin, è stata ribattezzata “la fabbrica dei troll”, perché capace di creare e gestire migliaia di account falsi sui social network, sui forum di discussione e fra i commenti dei giornali online, con l’obiettivo di promuovere la propaganda russa. E utilizza tecniche sempre più sofisticate, come i deepfake appunto, che riescono a manipolare un video fino a farlo sembrare reale.
Un esempio concreto
Ha fatto scalpore un video pubblicato per la prima volta su Telegram lo scorso 18 febbraio 2022 da un canale dei separatisti del Donbass, e immediatamente diffuso dai media russi. Il video mostra due sabotatori delle forze ucraine, ma che parlano in polacco, mentre cercano di far esplodere bombole di cloro a Horlivka, nel territorio controllato dai separatisti dell’autoproclamata Repubblica popolare di Donetsk. La disinformazione dei filorussi raccontava che il tentativo di sabotaggio era stato sventato e che i due militari del fronte ucraino erano stati uccisi: il video sarebbe stato recuperato da una telecamera trovata addosso proprio a uno dei due presunti sabotatori.
L’analisi dei metadati ha rilevato però una manipolazione evidente: il video era stato montato ad arte (giorni prima, tra l’atro, della condivisione su Telegram) con Adobe Premiere, inserendo al suo interno l’audio di un altro video del 2010, scrive Open.
Insomma, distinguere ciò che è attendibile da ciò che non lo è diventa sempre più importante e sempre più difficile. Le grandi piattaforme dei social media – Meta, Alphabet, Youtube – stanno cercando di arginare il fenomeno della disinformazione (in generale sicuramente, ma anche in particolare per quanto riguarda la propaganda russa). Ad esempio Meta, la società che controlla Facebook, Instagram e WhatsApp, ha creato un centro operativo speciale che include madrelingua ucraini e russi per monitorare i contenuti e ha intensificato i propri sforzi di verifica delle notizie attraverso partner esterni in lingua ucraina e russa.
Deepfake nella finanza
Abbiamo già affrontato la questione delle fake news in ambito finanziario, parlando di come possano rivelarsi pericolose per chi investe (qui il vademecum della Consob per difendersi dalle fake news). L’innovazione tecnologica applicata alla disinformazione rischia di essere ancora più pericolosa, come rileva una recente analisi della Banca d’Italia.
“Nel settore finanziario, la crescente diffusione delle piattaforme online per i pagamenti e le operazioni bancarie espone i consumatori e gli investitori retail ad attacchi basati sull’intelligenza artificiale”, rileva via Nazionale. “Inoltre, a livello macro, la diffusione malevola di deepfake attraverso canali d’informazione come i social media può generare una certa diffidenza verso le istituzioni finanziarie e, in ultima analisi, produrre effetti sistemici”.
Con l’avvento dei deepfake infatti, prosegue Bankitalia, le azioni di disinformazione veicolate sui canali digitali hanno visto migliorare notevolmente la loro efficacia. Questi sintetici artefatti tuttavia non sono illegali di per sé: ad oggi, il loro uso malevolo potrebbe essere perseguito solo se la condotta in questione rientrasse in specifiche forme di reato. Insomma, discernere le informazioni vere da quelle false diventa sempre più difficile.
Nel campo degli investimenti è utile tenere a mente, come sempre, che in finanza non esistono “pasti gratis”. Meglio non fidarsi troppo di chi ci promette guadagni stellari senza sforzi e in tempi brevi. Probabilmente non la racconta giusta.
