La tecnologia degli effetti speciali ha visto un vero e proprio boom negli ultimi decenni, con la CGI che è passata da rudimentalmente rozza e primitiva a quasi indistinguibile dalla realtà. Ora, mentre la creazione di immagini verosimili diventa sempre più comune, esperti politici ed esperti di giustizia penale stanno anticipando un panico intorno alla cosiddetta tecnologia 'deep fake', che ha il potenziale per complicare ulteriormente una discussione internazionale in corso sulle 'fake news'. Ma cos'è esattamente un 'deep fake' e quanto rappresenterà una minaccia questa tecnologia in futuro?
La tecnologia deep fake (a volte stilizzata come 'deepfake') si riferisce a immagini e / o video sintetizzati e / o sovrapposti creati dall'intelligenza artificiale utilizzando immagini e video esistenti. Utilizzando l'apprendimento automatico, questa tecnologia potrebbe teoricamente creare filmati convincenti di una persona che esegue un'azione che non è mai avvenuta nella vita reale.
Owen Williams, un ingegnere di software professionista e artista di effetti visivi, ha offerto una semplice spiegazione.
'È un modo di utilizzare un sistema software automatizzato per sostituire il volto di una persona in un video con un altro volto che è molto più automatico e convincente di quanto fosse stato possibile con la tecnologia del passato', ha detto Williams Oxygen.com .
la schiavitù è ancora legale in alcuni paesi
Williams ha notato che film popolari e tradizionali come 'Jurassic Park' e 'Blade Runner: The Final Cut' utilizzavano software per computer per alcune scene in modi che avrebbero potuto essere un precursore di falsi profondi: 'Nell'industria cinematografica, questo è molto comune. Supponiamo che tu abbia un personaggio che deve eseguire un'acrobazia e preferiresti che il suo viso fosse visibile. La classica soluzione alternativa sarebbe che li vedresti solo da dietro, oppure i loro capelli sarebbero in faccia, quindi non potresti dire che fosse un doppio. Ma c'è una storia piuttosto complicata di registi che usano i computer per mettere la faccia di un attore su quella di una controfigura. '
'In passato era un processo molto manuale,' ha continuato Williams. 'Ora, con la tecnologia deep fake, fornisci a un computer due cose: prima il video che sostituirai, e poi una serie di input della faccia con cui sostituirai. Devi ottenere abbastanza immagini di una persona che fa diverse espressioni facciali e da diverse angolazioni. Stai creando una libreria di come può apparire il viso di questa persona in diverse situazioni, quindi il computer lo esamina e guarda il video. Non ha nemmeno bisogno di una corrispondenza esatta. Può schiacciare e trasformare ciò che ha nella libreria per adattarlo a ciò di cui ha bisogno. Ciò che prima richiedeva centinaia di ore di artisti per provare ad eseguire un effetto davvero complicato ora è solo la pressione di un pulsante. '
Un aspetto di questa tecnologia che preoccupa le persone è che una persona non ha necessariamente bisogno di presentare volontariamente il proprio volto affinché questo processo venga eseguito, considerando quante immagini esistono online della maggior parte delle persone, in particolare celebrità e personaggi politici.
come prevenire un'invasione domestica
'Ci sono abbastanza immagini di qualsiasi celebrità da angolazioni sufficienti per creare quella libreria [senza consenso]', ha detto Williams. 'C'è una certa quantità di lavoro richiesta per farlo, ma per qualsiasi figura marginalmente popolare quella roba esisterà. La mia sensazione è che sia meno probabile che ciò sia possibile per una persona normale. '
I primi video falsi profondi sono apparsi sui forum di Reddit alla fine del 2017, secondo Variety . Un utente ha affermato di aver utilizzato il suo computer per creare video pornografici altamente realistici di varie celebrità impegnate in attività sessuali che non sono mai realmente accadute nella vita reale. L'utente ha affermato di aver alimentato al suo computer migliaia di foto delle stelle, da cui l'IA potrebbe ricavare le espressioni facciali ei movimenti raffigurati. Un'app utilizzata da creatori di deep fake e condivisa su Reddit è stata infine scaricata oltre 100.000 volte. (Reddit alla fine avrebbe vietato questo tipo di contenuti, affermando che violava la loro politica sulla 'pornografia involontaria', secondo The Verge .)
Il realismo che questo mezzo può raggiungere al momento è messo in dubbio da Williams.
'Se hai mai visto uno di questi falsi profondi ... c'è una certa quantità di stranezza lì', ha detto Williams. 'Non sono lucidati. Probabilmente andrà sempre meglio, però, soprattutto perché Hollywood ha interesse a rendere tutto questo automatizzato piuttosto che a pagare artisti costosi '.
Allo stesso modo, Williams ha intuito che nonostante il panico intorno al porno falso profondo , i mutevoli atteggiamenti culturali intorno alla natura di cose come il revenge porn o le immagini di nudo trapelate significa che è probabile che le persone che creano questo tipo di media sarebbero condannate e non celebrate, anche all'interno dell'industria dell'intrattenimento per adulti.
la scomparsa del documentario maura murray
'Non sarà mai mainstream', ha teorizzato Williams. 'Dopo ' Il fappening 'cosa è accaduta su Reddit, le persone sono state in grado di cambiare la conversazione e dire:' Questo non è uno scandalo, è un crimine sessuale '. Quindi non vedo che questo diventi uno scandalo tanto quanto la gente pensa che sarà. Le persone possono anche trovare abbastanza facilmente il porno originale da cui è stato creato il deep fake, il che significa che è abbastanza facile da sfatare.
Ma non è solo motivo di preoccupazione perché potrebbe essere utilizzato per creare falsi porno di celebrità. Le persone sono anche preoccupate per le ramificazioni politiche.
Esperti politici hanno iniziato a scrivere sulla proliferazione di falsi profondi nel 2018. Un articolo del Guardian dal novembre dello stesso anno ha notato la diffusione virale di un video che presumibilmente raffigurava il presidente Donald Trump che incoraggiava la nazione del Belgio a ritirarsi dall'accordo sul clima di Parigi. Ciò ha catalizzato una discussione più ampia sul potenziale per vari governi di utilizzare questa tecnologia in campagne di disinformazione di massa, una conversazione che era già stata avviata grazie alle indagini in corso sul coinvolgimento della Russia nelle elezioni presidenziali statunitensi del 2016.
Il panico intorno ai falsi profondi ha persino ispirato il comitato editoriale di Bloomberg Media Group a scrivere un editoriale fortemente formulato sull'argomento.
chi era l'assassino i 5
'Le prove video sono diventate un pilastro del sistema di giustizia penale ... proprio perché il film sembra una registrazione così affidabile del discorso o delle azioni di qualcuno. I falsi profondi potrebbero rendere fattibili tali prove sospette ', scrissero nel giugno 2018. 'Una sfida fondamentale, quindi, sarà identificare e denunciare questi falsi, se possibile'.
Williams concorda sul fatto che la natura dei falsi profondi minaccia le nostre nozioni di 'realtà' per quanto riguarda le prove video, ma ha notato che questo pantano legale non è unico nel nostro panorama digitale contemporaneo.
'In un certo senso si riduce a questa idea che le persone hanno quel video uguale alla verità, cosa che non è mai stata. Lo sapevamo da Rodney King in poi. Oppure pensa a Eric Garner : La gente pensava che [l'agente che lo ha ucciso] fosse innocente, indipendentemente dal video dell'incidente previsto. A me [molti dei timori sui falsi profondi] sembrano in qualche modo infondati. '
Williams ha elencato diversi altri incidenti che non hanno coinvolto la tecnologia deep fake che hanno mostrato i modi in cui il video è stato audacemente manipolato per distorcere l'opinione pubblica su una questione, come La controversa rimozione di ACORN da parte di James O'Keefe e un recente scandalo che coinvolge video ritoccato che presumibilmente raffigura il giornalista della CNN Jim Acosta che attacca un dipendente della Casa Bianca .
La conclusione finale di Williams è stata che l'isteria che circonda i falsi profondi è in qualche modo esagerata.
'Quello che vedo accadere è che funzionerà in entrambi i modi. Se esce un video ed è reale, le persone affermeranno che è falso. Se esce un video ed è falso, le persone affermeranno che è vero. Ogni caso presuppone una certa quantità di verità assegnata al video [stesso]. È difficile sapere in che direzione andrà tutto questo. Se The Pee Tape in realtà è uscito, per esempio, sai esattamente cosa succederebbe: metà delle persone direbbe: 'Questi sono tori - t, è un attore!' e metà delle persone direbbe: 'Eccolo! È vero!' Quindi nulla cambierebbe davvero. Questo tende ad essere ciò che accade con la nuova tecnologia: le cose non cambiano tanto quanto la gente pensa. '
[Foto: SAUL LOEB / AFP / Getty Images]
