DEEPFAKE:“LA TECNOLOGIA CHE SFIDA LA REALTÀ”

ABSTRACT

Il presente articolo analizza il fenomeno dei deepfake, evidenziandone le potenzialità e i rischi, tra cui frodi, disinformazione e violazioni della privacy. Vengono esaminati gli aspetti normativi, le misure di prevenzione e il ruolo dell’avvocato nella tutela delle vittime e nella rimozione dei contenuti illeciti.

INTRODUZIONE

L’evoluzione delle tecnologie basate sull’intelligenza artificiale, pur offrendo numerosi benefici, ha altresì ampliato le possibilità di un loro utilizzo improprio, anche per finalità illecite.

In particolare, la creazione di deepfake (“falsi digitali”) mediante l’elaborazione di immagini e contenuti digitali senza il consenso degli interessati configura una violazione del diritto alla privacy e all’autodeterminazione dell’immagine. L’impatto di tale fenomeno è aggravato dalla rapidità con cui questi contenuti possono essere diffusi su Internet, spesso in modo incontrollato e con l’ulteriore criticità dell’anonimato degli autori, rendendo più complessa l’individuazione dei responsabili e la tutela delle vittime.

COS’È IL DEEPFAKE E QUALI SONO LE SUE IMPLICAZIONI?

Il deepfake è un contenuto multimediale, generato tramite intelligenza artificiale (IA), attraverso tecniche di machine learning e deep learning. Questa tecnologia consente di manipolare o creare immagini, video e audio altamente realistici.

Spesso la sua realizzazione si basa sull’impiego di Generative Adversarial Networks (GAN), reti neurali complesse in cui due modelli interagiscono: un generatore, che crea contenuti sintetici sempre più credibili, e un discriminatore, che ne valuta l’autenticità. Il termine deepfake deriva dalla fusione di deep learning (apprendimento profondo) e fake (falso).

BENEFICI E RISCHI DEL DEEPFAKE

Aspetti positivi

Il deepfake non possiede intrinsecamente una connotazione negativa, ma, come ogni tecnologia basata sull’intelligenza artificiale, presenta sia vantaggi che criticità.

Le sue applicazioni spaziano in diversi ambiti: nel cinema e nell’intrattenimento, per il miglioramento degli effetti speciali e delle scene d’azione; nell’educazione, per la ricostruzione di figure storiche e la creazione di esperienze didattiche immersive; nell’arte e nella ricerca medica; nella comunicazione interpersonale, facilitando la traduzione in tempo reale con sincronizzazione labiale; infine, può essere impiegato anche a fini satirici.

Aspetti negativi

Il deepfake è spesso associato a usi illeciti, poiché il termine stesso è emerso nel 2017, quando un utente di Reddit diffuse video pornografici falsi, sovrapponendo i volti di personaggi famosi ai corpi di attori del settore, senza il consenso delle vittime.

La rapida diffusione di questa tecnologia ha sollevato significative questioni giuridiche, legate ai rischi per gli individui e la società, in particolare alla violazione del diritto all’immagine e alla privacy. Oltre a causare danni psicologici ed economici alle persone coinvolte, il deepfake potrebbe generare un effetto a cascata, compromettendo la sicurezza pubblica e nazionale.

CRIMINI PIU COMUNI

Furto d’immagine

Il deepfake rappresenta una forma grave di furto d’identità, poiché determina una perdita di controllo sull’immagine personale. Essere coinvolti in un deepfake implica non solo la manipolazione dell’aspetto fisico, ma anche l’attribuzione fraudolenta di comportamenti, dichiarazioni o pensieri mai espressi.

Questi elementi, inseriti in contesti fittizi generati artificialmente, possono alterare la percezione della realtà e compromettere la reputazione dell’individuo.

Deepnude

Il deepnude è una forma di deepfake che sovrappone i volti di individui inconsapevoli a corpi nudi o in pose sessualmente esplicite, generando contenuti pornografici non consensuali. Questi materiali vengono spesso impiegati per screditare, ricattare o vendicarsi delle vittime tramite il revenge porn.

Fake news e disinformazione

I deepfake possono essere utilizzati per la disinformazione politica ed elettorale, diffondendo contenuti falsificati per diffamare figure politicamente esposte e influenzare l’opinione pubblica. Questa tecnologia può minare la fiducia sociale e democratica, generando panico e instabilità, anche in contesti di conflitto.

Esempi rilevanti includono il video deepfake del Presidente V. Zelensky, in cui annuncia la resa, e le immagini del Presidente D.Trump “arrestato”, diffuse nel marzo 2023.

Cyberbullismo

I deepfake possono essere impiegati anche come strumento di cyberbullismo, attraverso la creazione di contenuti denigratori o umilianti, che in alcuni casi possono assumere la forma di deepnude, con l’obiettivo di calunniare, offendere o ricattare le vittime.

Questo fenomeno è particolarmente allarmante poiché coinvolge anche adolescenti, una fascia vulnerabile, data la loro presenza costante sui social media.

 La diffusione di deepfake offensivi può arrecare gravi danni psicologici e sociali, compromettendo immagine, reputazione e relazioni interpersonali. Ciò può condurre a condizioni di stress, ansia, depressione, isolamento sociale e paura, con possibili conseguenze a lungo termine.

Cybercrime

Il deepfake può essere utilizzato per facilitare crimini informatici e frode, tramite attacchi informatici come phishing, spoofing, ingegneria sociale e ransomware, nonché per l’accesso non autorizzato a sistemi che utilizzano biometria vocale e facciale per l’autenticazione.

In particolare, può essere impiegato per ottenere trasferimenti di denaro da familiari o amici, facendo loro credere che la richiesta provenga da persone vicine.

Gli attacchi possono avvenire attraverso:

• Phishing: inganno tramite e-mail o chiamate apparentemente legittime per ottenere informazioni sensibili.
• Spoofing: falsificazione dell’identità per accedere abusivamente a sistemi o ottenere fiducia.
• Ingegneria sociale: manipolazione emotiva per indurre la vittima a compiere azioni dannose.
• Ransomware: blocco dei dispositivi e richiesta di riscatto per il ripristino.

In esempio: nel 2019 è stata truffata un’azienda energetica britannica dove attraverso un audio deepfake che imitava la voce dell’amministratore delegato, il truffatore riuscì a ottenere il trasferimento di $243.000.

Impatto sulle prove digitali

I deepfake possono compromettere la fiducia nella credibilità delle prove digitali, poiché rendono possibile la falsificazione e manipolazione di contenuti audiovisivi. La diffusione di tali materiali può generare una diffidenza generalizzata nei confronti delle prove digitali autentiche.

BILANCIAMENTO TRA DIRITTI E LIBERTÀ FONDAMENTALI

La creazione di deepfake non è vietata in modo assoluto, poiché può avere applicazioni utili e meritevoli in vari settori, e limitare tale pratica sarebbe un’inosservanza del diritto fondamentale alla libertà di espressione, che include anche la satira e la parodia.

Tuttavia, è necessario sottolineare che quando queste immagini, video o audio vengono utilizzati in modo distorto, violando altri diritti fondamentali e interessi legittimi, i deepfake possono essere considerati illeciti.

Sarà pertanto indispensabile operare un bilanciamento attento tra i diritti e le libertà coinvolti.

REGOLAMENTAZIONE

Nonostante non vi sia una normativa specifica di contrasto ai deepfake, vi sono una serie di normative che si possono applicare ai contenuti deepfake, in particolare si citano il Regolamento UE 2016/679 (GDPR), il Digital Services Act (DSA) e il recente Regolamento UE 2024/1689 (AI Act). Gli ultimi due contengono disposizioni volte ad affrontare e limitare le problematiche connesse all’IA.

GDPR (REGOLAMENTO GENERALE SULLA PROTEZIONE DEI DATI)

Il GDPR regolamenta la creazione di deepfake, in quanto generati mediante il trattamento di dati personali (volti, voci e corpi) delle persone coinvolte, spesso senza il loro consenso informato e dunque in violazione del Regolamento stesso.

Il consenso è un requisito necessario per trattare i dati personali degli individui raffigurati sia nei contenuti originali che in quelli falsificati, e deve essere libero, informato, esplicito e revocabile.

Inoltre, il GDPR impone trasparenza nel trattamento dei dati e il rispetto di principi come la liceità, la minimizzazione e la protezione dei dati. Gli interessati hanno diritti specifici, tra cui la rettifica e la cancellazione dei dati personali.

DSA (DIGITAL SERVICES ACT)

Il DSA impone alle piattaforme online obblighi di trasparenza, informazione e responsabilità, tra cui la pubblicazione di relazioni sulla moderazione dei contenuti e l’adozione di misure contro la disinformazione.

Le piattaforme devono implementare meccanismi di segnalazione, per permettere agli utenti di segnalare contenuti illegali, e di verifica e rimozione tempestiva.

Tuttavia, il DSA non obbliga le piattaforme a monitorare attivamente attività illecite, ma solo a rispondere alle segnalazioni ricevute.

AI ACT (ARTIFICIAL INTELLIGENCE ACT)

L’AI Act stabilisce un quadro normativo per lo sviluppo, l’immissione sul mercato e l’uso dei sistemi di intelligenza artificiale, classificandoli in base al rischio e imponendo obblighi di trasparenza per sviluppatori e utilizzatori.

Pur non vietando l’uso dei deepfake (poiché non rientrano nei sistemi IA ad alto rischio), l’AI Act impone requisiti minimi, in particolare in termini di trasparenza. L’art. 50 par. 4 obbliga i deployer a segnalare chiaramente che il contenuto è stato generato o manipolato artificialmente, salvo eccezioni legali relative a indagini o procedimenti legali. Tale obbligo può essere limitato per contenuti di natura artistica, creativa, satirica o fittizia, in quanto tutelato dal diritto alla libertà di espressione e alle arti.

MEZZI DI CONTRASTO: PREVENZIONE E DIFESA AI DEEPFAKE

L’attuale regolamentazione è insufficiente nel contrastare il fenomeno del deepfake e i rischi associati. È necessario un approccio coordinato tra autorità, esperti, aziende, sviluppatori e la società civile, che deve essere informata sui rischi e gli strumenti di tutela. È fondamentale adottare prudenza durante la navigazione online e sviluppare capacità critiche per riconoscere i contenuti deepfake.

COME IDENTIFICARE CONTENUTI DEEPFAKE

I deepfake spesso presentano una serie di indizi che potrebbero indicarne la falsità.

È dunque importante osservare la presenza di:

• incongruenze visive: immagini leggermente sfocate o pixelate, movimenti rigidi, innaturali o irrealistici del corpo, battito delle palpebre eccessivo o assente, espressioni facciali esagerate o rigide, luci o ombre anormali, incoerenze del tono della pelle, sfocature nei contorni delle figure.
• inconsistenze audio: audio che appaiono artificiali, sincronizzazione dei movimenti della bocca non corrispondenti con l’audio, timbro e tono innaturali.

COSA FARE NEL CASO DI SOSPETTO DEEPFAKE

• Segnalare tali contenuti alla piattaforma che li ospita, evitando di condividerli.
• Verificare l’autenticità della fonte effettuando anche ulteriori ricerche su fonti attendibili per verificare l’effettiva veridicità dei contenuti.
• Utilizzare strumenti affidabili di rilevamento di deepfake oppure consultare esperti nel campo.
• Segnalare tali materiali alle autorità di polizia nel caso in cui si ritiene che il deepfake sia stato utilizzato per commettere un reato, oppure rivolgersi al Garante per la protezione dei dati personali nei casi di violazione della privacy.

COME PROTEGGERSI DA UN USO NON AUTORIZZATO DEI PROPRI CONTENUTI

La maggior parte delle immagini, video o audio che vengono utilizzati per generare deepfake vengono principalmente raccolti da fonti pubbliche, quali in particolare social media o piattaforme online, con la consapevolezza o meno degli utenti stessi.

Proprio per questo motivo, per prevenire e contrastare l’utilizzo di tali dati per la creazione di un deepfake, è consigliato:

Impostare i profili personali sui social media in modalità privata.

• Monitorare le impostazioni di privacy per evitare che persone estranee possano accedere al proprio profilo, ai contenuti condivisi e alle proprie informazioni personali.
• Limitare e fare attenzione alle informazioni personali che si condividono online ed evitare di condividere indiscriminatamente immagini o contenuti strettamente personali.
• Aggiungere come “amici” solo conoscenti e persone di cui ci si fida, evitando persone sconosciute o sospette.

PREVENIRE POSSIBILI ATTACCHI HACKER

I dati personali potrebbero essere acquisiti anche tramite attacchi informatici, con accesso non autorizzato ai dispositivi, alle reti o ai profili personali. In tale eventualità, al fine di mitigare tali rischi, è possibile adottare una serie di misure precauzionali, qui di seguito esposte.

AGIRE SULLA PROTEZIONE GENERALE DEI PROPRI SISTEMI, DISPOSITIVI E ACCOUNT:

• Utilizzare password lunghe, robuste e uniche per ogni account e modificarle periodicamente.
• Utilizzare un password manager sicuro per conservare le proprie password.
• Abilitare l’autenticazione a due fattori (2FA) o a più fattori (MFA), in modo da aggiungere un ulteriore livello di sicurezza e impedire l’accesso non autorizzato nell’eventualità in cui vengano compromesse le password o le credenziali di accesso.
• Installare software di sicurezza informatica, come antivirus, per difendersi da minacce quali virus, malware, ransomware.
• Mantenere aggiornati il sistema operativo e le applicazioni installate.

AGIRE SULLA CONNESSIONE WI-FI:

• Evitare di usare reti Wi-Fi pubbliche e prediligere l’utilizzo di connessioni WiFi personali e criptate (preferibilmente con cifratura WPA2 o WPA3).
• Cambiare il nome e la password prestabilite della rete Wi-Fi con password più robuste.
• Cambiare le impostazioni di rete per consentire l’accesso ai soli dispositivi consentiti.

AGIRE SULLA RICEZIONE DI E-MAIL, MESSAGGI O TELEFONATE:

• Evitare di aprire eventuali allegati o cliccare su link contenuti in messaggi sospetti e soprattutto non fornire dati personali.
• Utilizzare filtri antispam, per bloccare eventuali e-mail fraudolente come quelle inviate tramite phishing.
• Agire con prudenza e verificare l’autenticità della persona con cui si sta interagendo prima di compiere qualsiasi azione, ad esempio chiamando la persona per conferma, scambiandosi “parole segrete” già stabilite precedentemente o chiedendo fatti o avvenimenti che solo l’altra persona dovrebbe sapere.

AGIRE SULLA NAVIGAZIONE ONLINE:

• Evitare di scaricare applicazioni da siti sospetti o fonti sconosciute, prediligendo quelle ufficiali ed affidabili.
• Utilizzare una Virtual Private Network (VPN) in modo da proteggere il traffico in entrata e in uscita e mascherare la propria posizione.
• Utilizzare un firewall per difendere la propria connessione, monitorando il traffico e bloccando le connessioni pericolose o indesiderate.
• Visitare siti web sicuri con protocollo HTTPS.

IL RUOLO DELL’AVVOCATO NELLA DIFESA CONTRO I DEEPFAKE

Nel contesto del deepfake, l’avvocato assume un ruolo rilevante nel supporto e nella tutela dei diritti delle persone lese da falsi contenuti digitali che le rappresentano.

In particolare, l’avvocato qualifica il danno, assiste e provvede alla raccolta delle prove utili per il caso, e determina il percorso da intraprendere per ottenere la rimozione del contenuto nocivo, mediante l’invio di una diffida ufficiale, o il risarcimento dei danni.

CONCLUSIONE

In conclusione, una citazione del filosofo Henry Bergson:

“Gli occhi vedono solo ciò che la mente è pronta a comprendere”.

Elisa Zhang

BIBLIOGRAFIA:

• https://www.medialaws.eu/rivista/una-nuova-tecnica-anche-per-veicolare-disinformazione-le-risposte-europee-ai-deepfakes/: Martina Cazzaniga (2023), “Una nuova tecnica (anche) per veicolare disinformazione: le risposte europee ai deepfakes”, in MediaLaws, 170-187.
• https://www.medialaws.eu/rivista/la-questione-deepfake-in-italia-una-panoramica/ : Veronica Azzali e Nicol Ellecosta (2024), “La questione Deepfake in Italia: una panoramica”, in MediaLaws.
• https://www.agendadigitale.eu/cultura-digitale/tutti-i-danni-dei-deepfake-perche-le-norme-ue-sono-armi-spuntate/ : AgendaDigitale.eu, Francesca Niola (2024), “Tutti i danni dei deepfake: perché le norme Ue sono armi spuntate”.
• https://www.garanteprivacy.it/home/docweb/-/docweb-display/docweb/9996933 : Garante per la protezione dei dati personali, Ghiglia Agostino (2024), Ghiglia: “Pericolo deepfake, è l’ora dell’educazione civica digitale”.
• https://garanteprivacy.it/home/docweb/-/docweb-display/docweb/9512278: Garante per la protezione dei dati personali (2020), Vedemecum – “Deepfake. Il falso che ti “ruba” la faccia (e la privacy)”.