Come l'intelligenza artificiale sta separando il contenuto sessuale dalle persone che ne sono protagoniste, e perché il problema non è tanto il contenuto stesso ma il consenso.

Ciao e buon lunedì!

Pochi giorni fa la Polizia Postale italiana ha chiuso una storia iniziata a ottobre 2025. Due siti, cfake.com e socfake.com, ospitavano immagini e video sessuali fake che ritraevano donne reali: personaggi politici, giornaliste, atlete, presentatrici, perfino mogli di capi di Stato. Nessuna di loro aveva mai posato per quelle immagini: esse erano state fabbricate da un software a partire da fotografie pubbliche dei loro volti. L'inchiesta, partita da Roma, è diventata un'operazione coordinata tra Italia, Stati Uniti e Francia, e si è chiusa con il sequestro dei domini e un arresto a Nizza. (Fonte: Department of Justice USA / BleepingComputer, giugno 2026; Polizia di Stato, Polizia Postale e per la Sicurezza Cibernetica, 2025-2026)

Mi sembra che il caso sia notevole non solo per gli elementi concreti che lo costituiscono (quantità del materiale generato, persone coinvolte, ecc.) ma anche per quello che rappresenta: per la prima volta da quando esiste la pornografia, il contenuto sessuale può essere completamente staccato da qualsiasi persona che abbia acconsentito a comparirvi.

I deepfake (contenuto falso, generato dall’intelligenza artificiale, sottoforma di foto/video/audio) sono un fenomeno che già conosciamo molto bene tutti quanti, ne abbiamo già parlato precedentemente in chiave elettorale (cfr. numero 5 di Turing Point). In chiave sessuale però, il fenomeno ha delle proporzioni molto maggiori di quanto potessi immaginare.

Un'analisi del 2023 ripresa da UN Women ha evidenziato che il 98% dei video deepfake che circolano online è pornografia non consensuale, e che il 99% di questi ritrae donne. (Fonte: UN Women, marzo 2026, che cita un report del 2023) Non è un fenomeno di nicchia confinato alle celebrità: uno studio accademico condotto su oltre 16.000 persone in dieci paesi (presentato alla conferenza CHI nel 2024) riporta che il 2,2% degli intervistati dichiarava di essere stato vittima di questo tipo di immagini, e l'1,8% di averle create. (Fonte: Umbach, Henry, Beard, Berryessa, "Non-Consensual Synthetic Intimate Imagery", CHI 2024) Trasponendo queste percentuali in numeri assoluti e su un’intera popolazione si capisce come non si tratti affatto di una situazione eccezionale ma, piuttosto, sia una pratica piuttosto diffusa.

A produrla non serve più alcuna competenza tecnica. Le cosiddette app di nudify, che "spogliano" digitalmente una persona vestita partendo da una sua foto, sono gratuite, accessibili e richiedono un solo scatto preso da un profilo social. E i modelli generativi open source, cioè quelli il cui codice è liberamente disponibile e installabile da chiunque senza vincoli, producono immagini sessuali esplicite senza alcun filtro.

C’è da dire che, seppure il video pornografico generato dall'AI in tempo reale “a richiesta” non sia ancora una realtà di consumo, esso rappresenta sicuramente la prossima frontiera. Sora, lo strumento di OpenAI che aveva acceso l'allarme, è stato addirittura ritirato nell'aprile 2026 per costi e nodi legali irrisolti. (Fonte: TechXplore / The Wall Street Journal, aprile 2026) Ma la direzione è quella, e una parte del problema è già qui, oggi, nella generazione di immagini fisse e di clip brevi. E c’è di peggio: se le grandi aziende, caute e regolamentate, potrebbero decidere di non offrire questo servizio, lo offrirà certamente il mercato grigio dei modelli senza vincoli, dove la domanda è enorme e il controllo è zero. (Fonte: Daniel Colson, AI Policy Institute, in Quartz, 2024)

La novità, dunque, è che l'immagine sessuale può ora esistere senza che esista la persona che vi è ritratta, oppure ritraendo una persona reale che non vi ha mai preso parte.

Da un lato c'è chi considera tutto questo come un non-problema: se nessuno viene filmato davvero, se è tutto sintetico, dove sarebbe il danno? Dall'altro c'è chi vede nell'AI l'acceleratore di una maggiore degenerazione morale: una generazione cresciuta a contenuti sempre più estremi e violenti, con aspettative sessuali deformate.

La prima posizione è insostenibile, e i dati raccolti sulla popolazione più giovane lo confermano. L'indagine svolta dalla Children's Commissioner inglese, condotta nel 2023 e replicata nel 2025 su campioni nazionali rappresentativi, è la fonte più seria che esista su questo tema. Dalla ricerca emerge che il 70% dei ragazzi ha visto pornografia prima dei diciotto anni, che il 58% ha visto contenuti raffiguranti strangolamento (sic), e che il 44% concorda con l'affermazione "le ragazze possono dire no all'inizio, ma poi essere convinte a fare sesso" (!!!). (Fonte: Children's Commissioner for England, settembre 2025) L'età media della prima esposizione è tredici anni. La meta-analisi di riferimento sul nesso tra consumo di pornografia e aggressività sessuale (Wright e colleghi, 22 studi) trova associazioni deboli in generale e moderate per il porno violento. (Fonte: Wright, Tokunaga, Kraus, Journal of Communication, 2016) Il danno, insomma, mi sembra concreto e ben documentato.

Ma la seconda posizione, quella sulla degenerazione morale, regge altrettanto male, e a smentirla sono gli stessi dati. Infatti, la medesima indagine 2025 rileva che pochi ragazzi cercano attivamente il contenuto violento: sono gli stessi algoritmi delle varie piattaforme a proporlo automaticamente. (Fonte: Children's Commissioner for England, settembre 2025) Inoltre l'associazione con l'aumento dell’aggressività resta correlazionale: nessuno studio serio ha dimostrato che consumare contenuti pornografici renda le persone più violente, e l'ipotesi dell'escalation come traiettoria universale è considerata, dalla letteratura più rigorosa, ancora piuttosto equivoca. (Fonte: Ince et al., Addictive Behaviors, 2024)

Sicché restiamo con due elementi difficili da conciliare: il danno sui più giovani è reale ma la spiegazione semplice ("vogliono cose sempre più estreme") è falsa. Il che obbliga a spostare il focus su un aspetto diverso, ossia quello del consenso.

Per quasi tutta la storia della pornografia è esistito un solo confine etico che reggeva il peso di tutto il resto: il consenso della persona ritratta. Si poteva discutere del gusto, della morale, dello sfruttamento dell'industria, della dignità del lavoro sessuale. Ma il discrimine giuridico tra immagine lecita e immagine criminale passava di lì: la persona davanti all'obiettivo aveva acconsentito, oppure no.

L'intelligenza artificiale ha rotto quel confine in due direzioni simultanee e opposte.

Nella prima, cancella del tutto la persona. Il contenuto interamente sintetico non ritrae nessuno: nessun corpo è stato filmato, nessuno ha recitato. Qui si ripresenta la vecchia domanda, ma in forma nuova: l’esistenza di un contenuto sessuale che non ritrae alcun soggetto reale è un “non-problema”? Anche se molti potrebbero dire di sì, credo che la realtà sia un po’ più sottile. Quei modelli hanno imparato a generare quei corpi addestrandosi su milioni di immagini di persone reali, esattamente come i sistemi di arte generativa di cui parlavo nel numero 3 hanno imparato a dipingere guardando opere umane senza chiederne il permesso. Ogni persona che era ritratta nelle immagini o nei video usati per addestrare i modelli si dissolve nella vasta mole dei dati elaborati, diventa invisibile e non più rintracciabile, ma esiste ancora.

Nella seconda direzione, l'AI fa l'opposto: sfrutta l’immagine di una persona reale che non ha mai preso parte a nulla del genere. È il caso dei siti chiusi la settimana scorsa, è il caso delle app di nudify usate nelle scuole contro le compagne di classe. Qui non c'è ambiguità filosofica: c'è una vittima precisa, identificabile, quasi sempre una donna o una ragazza, che si trova ritratta in atti sessuali che non ha mai compiuto e che spesso scopre per caso.

C'è poi un effetto a specchio che chiude il cerchio con il numero 5: ossia il cosiddetto “liar's dividend", il dividendo del bugiardo, il meccanismo per cui, in un mondo dove tutto può essere falsificato, chiunque può bollare come falso ciò che è vero. Oggi gli autori di abusi reali usano esattamente questa scappatoia: dichiarano che le prove a loro carico sono "generate dall'AI", e quindi non ritraggono nessuno. (Fonte: Internet Watch Foundation, 2026) L'incertezza che, in un certo senso, protegge la vittima dal falso protegge anche il colpevole dal vero.

Quello che l'AI sta facendo alla pornografia, in fondo, è quello che la filosofia chiama un simulacro: una copia che non rimanda più ad alcun originale. Per la prima volta possiamo produrre l'immagine di un atto sessuale che non è mai avvenuto, tra persone che non esistono o che non vi hanno preso parte. E quando l'immagine non rimanda più a nessun corpo consenziente, l'unico elemento morale che reggeva l'intero edificio, il consenso, non ha più nulla a cui aggrapparsi.

Ritengo che il dibattito sul porno e l'intelligenza artificiale sia costruito attorno all'asse sbagliato.

Da una parte ci si chiede se questi contenuti diventeranno troppo estremi, troppo violenti, troppo lontani dalla realtà. Dall'altra ci si rassicura dicendo che, se nessuno viene filmato, allora è solo fantasia. Le due posizioni vertono entrambe sullo stesso aspetto sostanziale: quanto sia “grave” il contenuto. E nessuna delle due vede che l'AI ha cambiato una cosa molto più profonda del contenuto stesso.

Ha reso possibile (e facile da realizzare) un'intera categoria di immagini sessuali a cui per definizione nessuno ha acconsentito. Il consenso non rientra più nemmeno nell'equazione. Quando spogli con un'app la foto di una collega, lei non ha mai negato alcun consenso: non le è stato proprio chiesto nulla. Quando generi un corpo sintetico, non c'è nessuno a cui chiedere. Il consenso non viene violato ma, piuttosto, diventa irrilevante.

E questo, a mio modo di vedere, è il punto su cui legislatori si stanno concentrando ma di cui noi normali cittadini ignoriamo la reale portata. Il “Take It Down Act” americano del 2025, l'articolo 226-8-1 del codice penale francese, la legge sudcoreana che arriva a punire persino il possesso: tutte queste norme, in maniera implicita, provano a fare una sola cosa: rimettere il consenso al centro di una tecnologia che lo ha reso superfluo. (Fonte: Congress.gov, 2025; redrta.org, 2026) L'AI Act europeo, per inciso, qui non aiuta granché: impone “solo” la trasparenza sui contenuti generati, ma non affronta esplicitamente il tema dei deepfake a sfondo sessuale, lasciando la materia alla gestione dei singoli Stati. (Fonte: redrta.org, 2026)

Sono aperto a essere smentito ma, fino a prova contraria, la domanda vera che ci dovremmo fare non è tanto se i nostri figli finiranno a consumare contenuti più spinti. È - piuttosto - se cresceranno in un mondo in cui l'immagine sessuale di una persona può esistere e circolare senza che il suo consenso conti nulla. Perché un mondo simile non corrompe soltanto chi guarda. Ridefinisce, in silenzio, cosa intendiamo per consenso.

Non è stato facile mettere insieme i contenuti di questo numero. Il tema è estremamente delicato, i numeri riportati dalle varie fonti sono allarmanti e i risvolti di ciò a cui stiamo assistendo gettano un’ombra preoccupante sulla direzione in cui stiamo andando come società umana.

La prossima volta che leggerai di un nuovo strumento capace di generare volti, corpi, scene, prova a non chiederti soltanto quanto sia realistico. Chiediti come verrà usato.

Le leggi rincorreranno la tecnologia, come sempre, con anni di ritardo. Ciò è ancora più vero nel caso della rivoluzione a cui stiamo assistendo, la quale si muove a velocità mai viste in passato. Dobbiamo essere noi come individui a scegliere come utilizzare (e quindi alimentare) un certo tipo di tecnologie, grazie al nostro buon senso e alla nostra moralità.

A lunedì prossimo.

Alberto

P.S.: me l’avete chiesto in tanti, quindi rispondo qui pubblicamente a beneficio di tutti. Sì, potete tranquillamente rispondere a questa email con un vostro commento/punto di vista/smentita/critica/consiglio/pensiero. Leggo e rispondo a tutte le vostre mail (non sempre in maniera rapida, lo ammetto, perché spesso ho bisogno della calma necessaria per formulare una risposta adeguata). Vi invito quindi a continuare a farlo: vorrei, in futuro, poter usare i vostri contributi per un numero speciale di questa rubrica (il cui formato devo ancora finire di immaginare)!

Infine, vi ringrazio per il supporto che avete continuato a dimostrare a quest’iniziativa, iniziata un po’ per gioco, un po’ per sfida: esso è preziosissimo e alimenta la voglia di continuare ad approfondire queste tematiche da punti di vista sempre nuovi e non scontati!

Fonti principali di questo numero: