Il termine deepfake è un neologismo che nasce nel 2017 e deriva dall’unione dei termini “fake” (falso) e “deep learning”, una particolare tecnologia di intelligenza artificiale in grado di riprodurre l’immagine umana partendo da contenuti reali.
I deepfake riproducono dei contenuti multimediali (foto, video e audio) che, partendo da immagini e audio reali, ricreano o modificano in modo estremamente realistico, i movimenti, le caratteristiche fisiche e la voce di un determinato soggetto.
Il prodotto finale è un falso ricreato digitalmente ma la materia di partenza è sempre costituita dalle immagini e dalla voce reali di una persona.
Inizialmente le tecnologie deepfake erano poco diffuse e molto costose, riservate quasi esclusivamente alla creazione di effetti speciali cinematografici ma negli ultimi anni la loro creazione e diffusione sono considerevolmente aumentate.
Complice lo sviluppo tecnologico, si sono diffusi rapidamente app e software che permettono di realizzare deepfake, anche molto elaborati e realistici, utilizzando semplicemente un comune smartphone.
Ovviamente con l’aumentata diffusione dei deepfake sono aumentati anche i rischi connessi, soprattutto legati alla sfera della privacy.
cosa si intende per deepfake
Riservatezza e dignità a rischio con il deepfake
I soggetti riprodotti nei deepfake, soprattutto se a loro insaputa, non solo perdono il controllo della rappresentazione e della diffusione della loro “immagine fisica”, ma possono essere anche privati del controllo sulle loro reali opinioni e sulle loro idee.
Gli individui presenti nei deepfake potrebbero essere rappresentati in situazioni apparentemente compromettenti o lesive per la loro dignità e reputazione, ad esempio mentre svolgono attività criminali o in contesti pornografici, mentre si trovano in luoghi che in realtà non hanno mai visitato o mentre interagiscono con persone che non hanno mai frequentato.
Inoltre, le immagini e i discorsi possono essere distorti artificialmente o ricreati e, proprio per questo, possono essere travisati e trasmettere un messaggio distorto ben lontano dagli ideali della persona coinvolta.
Un deepfake può quindi ricreare dei contenuti che contengono riferimenti ad attività mai svolte e situazioni mai effettivamente avvenute e può rappresentare una grave minaccia per la riservatezza, la dignità e la reputazione delle persone, soprattutto se all’oscuro di tutto e coinvolte inconsapevolmente.
È utile richiamare un altro risvolto legato al deepfake: se i contenuti riguardano personaggi pubblici possono in qualche modo contribuire alla diffusione di fake news o alla disinformazione.
Ad esempio, screditare un leader politico ricorrendo a deepfake influenzerà sicuramente le preferenze dell’elettorato, così come è possibile manipolare l’opinione pubblica ricorrendo a deepfake che coinvolgono un personaggio pubblico dotato di particolare credibilità.
deepfake: i rischi
Conseguenze e rischi del deepfake:
- la persona coinvolta è vittima di denigrazione e prese in giro e subisce gravi conseguenze per la sua reputazione e dignità;
- la persona coinvolta è vittima di ricatti per evitare la diffusione di contenuti falsi e compromettenti;
- diffusione di fake news, soprattutto se sono coinvolti personaggi pubblici dotati di credibilità;
- attività telematiche illecite (conseguente accesso a informazioni private altrui) che possono portare a conseguenze piuttosto gravi come furto di identità, truffe ecc.;
- accesso abusivo a sistemi che utilizzano misure di protezione e sicurezza basate sul riconoscimento di dati biometrici vocali e facciali.
Il deepnude
In questa particolare tipologia di deepfake le persone possono essere rappresentate nude, in pose o situazioni più o meno compromettenti.
I volti delle persone (di qualsiasi età) possono essere “innestati” sulle immagini di corpi di altri individui nudi o impegnati in pose o svolgimento di attività di natura sessuale.
Alcune tecnologie del deepnude permettono di prendere immagini di persone vestite e spogliarle, ricreando in modo estremamente realistico l’aspetto che avrebbe il corpo svestito.
L’invasività di tali pratiche è evidente: i deepnude non solo creano un danno alla dignità delle persone ma possono essere utilizzati con un intento criminale ben preciso, come ad esempio per screditare o ricattare qualcuno (anche attraverso la pratica del revenge porn) o peggio per alimentare pratiche abominevoli e reati gravissimi come la pornografia illegale o la pedopornografia.
deepfake come proteggersi
Proteggersi dai deepfake
Il primo e più efficace strumento di difesa è sempre rappresentato da un atteggiamento responsabile e dall’attenzione degli utenti: l’informazione e l’adozione di un comportamento consapevole rappresentano una delle principali misure di prevenzione e protezione.
Ecco alcuni suggerimenti utili per prevenire il fenomeno ed evitarne la diffusione:
- non diffondere in modo incontrollato immagini, video o vocali personali o dei propri cari (soprattutto se soggetti minorenni). Ricordiamo che “il web è per sempre”, se condividiamo un contenuto online ne perdiamo il controllo, non sappiamo chi se ne approprierà e non saremo mai in grado di garantirne una cancellazione definitiva;
- non condividere un deepfake, soprattutto se si crede che questo sia stato creato all’insaputa della vittima e se si ritiene che sia stato utilizzato in modo da compiere un reato o una violazione della riservatezza rivolgersi alle Autorità Competenti;
- prestare attenzione ai contenuti multimediali che visioniamo o riceviamo quotidianamente. Non è semplice ma si può imparare a riconoscere un deepfake, alcuni aspetti possono rivelare la falsità di foto, audio e video, nello specifico:
- le immagini potrebbero apparire sfocate o sgranate;
- il tono, gli accenti delle voci e i suoni potrebbero essere distorti;
- alcuni dettagli potrebbero apparire deformati o sproporzionati nel contesto generale;
- le persone presenti potrebbero sembrare “staccate” dallo sfondo, come se le immagini fossero state sovrapposte in un secondo momento;
- gli occhi (in particolare pupille e iride) dei soggetti coinvolti potrebbero apparire stranamente fissi o muoversi in modo innaturale;
- i movimenti della bocca potrebbero non corrispondere a quelli necessari per emettere i suoni riprodotti;
- potrebbero essere presenti luci e ombre anomale (ad esempio luci e ombre fisse che non variano al variare dei movimenti del corpo).
