Le prime norme al mondo sull'intimità sintetica definiscono il proprio oggetto per categoria merceologica, mentre i dati epidemiologici disponibili indicano una modalità d'uso che attraversa gli strumenti e le età.

Ciao e buon lunedì!

Venerdì scorso, 10 luglio, Alibaba ha spento gli agenti antropomorfi che gli utenti si erano costruiti sulla piattaforma Qwen, avvertendo che le configurazioni e le cronologie delle conversazioni sarebbero state cancellate senza possibilità di recupero. Mercoledì prossimo, 15 luglio, ByteDance farà lo stesso su Doubao, l'assistente conversazionale più diffuso in Cina, concedendo ai propri utenti una finestra di sola lettura fino al 15 ottobre. La ragione delle due decisioni è la medesima: mercoledì entrano in vigore le prime norme al mondo dedicate espressamente ai servizi di interazione antropomorfa, ossia ai compagni virtuali, ai partner sintetici, ai parenti digitali.

Su Weibo, nei giorni degli annunci, molti utenti hanno scritto il proprio congedo da un'entità che frequentavano da mesi.

Nel numero 11, il primo giugno, ho sostenuto che il problema delle relazioni artificiali non stia nella dipendenza in quanto tale, bensì nella rimozione dell'attrito, giacché è dall'attrito con un altro che si impara a stare con gli altri. Ora, con i dati pubblicati nel frattempo, è possibile vedere meglio dove il fenomeno stia effettivamente accadendo.

Le Misure provvisorie per l'amministrazione dei servizi di interazione antropomorfa basati sull'intelligenza artificiale sono state emanate il 10 aprile 2026 dalla Cyberspace Administration of China insieme ad altre quattro autorità (pianificazione economica, industria, pubblica sicurezza, regolazione del mercato), e diventano efficaci il 15 luglio. (Fonte: Cyberspace Administration of China, comunicato del 10 aprile 2026, ripreso da CGTN e Global Times)

Il perimetro è tracciato con una precisione che merita uno sguardo approfondito, perché il perimetro è il vero contenuto della norma: vi rientrano i servizi che simulano tratti di personalità, modi di pensare e stili comunicativi di persone reali allo scopo di fornire una interazione emotiva continuativa. Ai minori di diciotto anni sono vietati i servizi di intimità virtuale, ovvero partner romantici e parenti simulati; per gli infra-quattordicenni ogni altro servizio antropomorfo richiede il consenso di chi esercita la responsabilità genitoriale. I fornitori devono depositare l'algoritmo presso l'autorità, superare una valutazione di sicurezza, dotarsi di meccanismi capaci di rilevare la dipendenza, mostrare un promemoria dopo due ore di uso continuativo, predisporre protocolli di intervento nel caso in cui l'utente manifesti ideazione suicidaria. È espressamente vietato indurre una dipendenza emotiva che danneggi le relazioni reali della persona. (Fonti: testo delle Misure come sintetizzato da Lexology, luglio 2026; Rimon Law, China AI Law Brief, luglio 2026)

Restano fuori dall'ambito di applicazione, e la norma lo esplicita a chiare lettere, gli assistenti di produttività, i tutor didattici, i bot di assistenza clienti, gli strumenti di domanda e risposta.

Pechino, del resto, non è arrivata per prima. Lo stato di New York applica dal 5 novembre 2025 una legge sui modelli di compagnia che impone la dichiarazione di natura non umana e i protocolli di intervento sul rischio suicidario. La California ha in vigore dal 1° gennaio 2026 la Senate Bill 243, firmata da Newsom il 13 ottobre 2025, che aggiunge il divieto di contenuti sessuali rivolti ai minori, il promemoria ogni tre ore e un elemento che la distingue dalle norme precedenti: un diritto di azione individuale in giudizio, il quale consente alle famiglie di citare direttamente lo sviluppatore. (Fonti: California Legislative Information, SB 243, sezione 22601 e seguenti; N.Y. General Business Law § 1700 e seguenti; Troutman Pepper, Privacy + Cyber + AI, gennaio 2026)

Anche la legge californiana, tuttavia, definisce il proprio oggetto per categoria di prodotto, ed esclude in modo esplicito i bot impiegati per assistenza clienti, finalità operative aziendali, produttività, ricerca interna o supporto tecnico.

Il retroterra di queste norme non è campato in aria, e non consente ironie. Sewell Setzer aveva quattordici anni e viveva a Orlando: si è tolto la vita nel febbraio 2024, dopo mesi di conversazioni con un personaggio di Character.AI. Sua madre, Megan Garcia, ha depositato nell'ottobre 2024 la prima causa per morte ingiusta mai promossa contro una società di intelligenza artificiale, e nel gennaio 2026 Character Technologies e Google hanno definito in via transattiva cinque procedimenti analoghi, con termini riservati e senza ammissione di responsabilità. (Fonti: Garcia v. Character Technologies, Middle District of Florida, n. 6:24-cv-01903; ufficio del senatore Steve Padilla, comunicato sulla firma di SB 243, ottobre 2025)

Tre giurisdizioni, tre impianti sanzionatori differenti, e una sola definizione condivisa dell'oggetto da regolare: il prodotto che si dichiara compagno.

Il 21 gennaio 2026, JAMA Network Open ha pubblicato il primo studio su scala nazionale che mette in relazione l'uso dell'intelligenza artificiale generativa e i sintomi depressivi negli adulti americani. Il campione è cospicuo, e la provenienza è accademica anziché industriale: 20.847 persone, intervistate fra il 20 aprile e il 27 maggio 2025 nell'ambito del Civic Health and Institutions Project, con autori affiliati al Massachusetts General Hospital, a Harvard, alla Northeastern University e alla Rutgers. (Fonte: Perlis, Gunning, Uslu, Santillana, Baum, Druckman, Ognyanova, Lazer, "Generative AI Use and Depressive Symptoms Among US Adults", JAMA Network Open, 2026;9(1):e2554820)

Il risultato che è circolato sui giornali è il seguente: fra coloro che usano l'intelligenza artificiale almeno una volta al giorno, che sono il 10,3% del campione, la probabilità di riportare sintomi depressivi moderati o severi, misurati con il questionario PHQ-9 che costituisce lo strumento standard della pratica clinica, risulta superiore di circa il 30% rispetto a chi non la usa. Associazioni di segno analogo emergono anche per l'ansia e per l'irritabilità.

Fin qui arrivano i titoli di giornale. Ciò che i titoli hanno trascurato è tutto quello che ruota attorno a questi dati, che ritengo sia ancora più interessante...

In primo luogo, l'associazione risulta statisticamente significativa soltanto per l'uso personale. Gli autori hanno introdotto nel modello variabili distinte per l'uso lavorativo, per quello scolastico e per quello personale, e soltanto quest'ultimo si è rivelato collegato ai punteggi depressivi: di chi impiega l'intelligenza artificiale per lavorare, questi dati non dicono nulla di allarmante.

In secondo luogo, i più esposti non appartengono alla fascia d'età sulla quale si è concentrata l'intera discussione pubblica (e sulla quale mi ero concentrato anch'io). Il legame è significativo fra i venticinquenni e i quarantaquattrenni, e raggiunge la sua intensità massima fra i quarantacinquenni e i sessantaquattrenni, dove il rapporto di probabilità per la depressione moderata sale a 1,54. Fra gli ultrasessantacinquenni non emerge alcuna associazione, e non ne emerge alcuna nemmeno fra i diciottenni e i ventiquattrenni.

Occorre intendersi su questo punto, perché sembra contraddire i numeri che avevo riportato sei settimane fa, almeno in apparenza. Le rilevazioni di Common Sense Media misuravano gli utenti delle app di compagnia dichiarate, un mercato nel quale gli adolescenti sono la maggioranza. Lo studio pubblicato su JAMA misura l'uso personale dell'assistente generalista, ed è un insieme diverso, abitato da persone diverse. I due dati non si smentiscono a vicenda: descrivono due popolazioni che nessuno aveva pensato di mettere sullo stesso tavolo, e la differenza fra le due è il nocciolo di questo numero.

In terzo luogo, l'utilizzatore quotidiano non somiglia alla figura che ci siamo costruiti guardando le cronache giudiziarie. È più spesso maschio che femmina, con una probabilità di uso quotidiano intorno al 60%; è laureato, spesso con master; abita in città; dispone di un reddito familiare annuo elevato. Non è l'adolescente isolato in cameretta, ma il professionista di mezza età che quella stessa intelligenza artificiale la usa, sul posto di lavoro, per preparare una presentazione.

In quarto luogo, e questo è il punto sul quale occorre essere onesti fino in fondo, gli autori escludono di potere affermare alcun nesso causale, e lo scrivono senza ambiguità nella sezione dedicata ai limiti dello studio. La rilevazione è trasversale, fotografa cioè un solo istante, sicché i dati risultano compatibili con l'ipotesi che l'uso personale dell'intelligenza artificiale aggravi i sintomi depressivi, ma risultano ugualmente compatibili con l'ipotesi inversa, ovvero che siano i sintomi depressivi a spingere verso un uso più intenso, e restano compatibili anche con l'ipotesi che nessuna delle due direzioni sia quella giusta e che entrambi i fenomeni dipendano da un terzo fattore che non è stato possibile misurare. Chiunque abbia scritto che l'intelligenza artificiale causa la depressione ha affermato qualcosa che il paper nega esplicitamente.

Ciononostante, un dettaglio rende quel dato interessante da approfondire. Gli autori si sono chiesti se l'associazione non fosse semplicemente il riflesso del tempo trascorso davanti a uno schermo, e hanno perciò introdotto nel modello la frequenza di utilizzo dei social e la frequenza di pubblicazione su di essi: le correlazioni fra uso dell'intelligenza artificiale e uso dei social sono risultate nulle, e l'associazione con i sintomi depressivi è rimasta intatta. Qualunque cosa stia accadendo, dunque, non è la vecchia storia della dipendenza da schermo.

Va aggiunto, per completezza, che la letteratura non punta tutta nella medesima direzione. Un trial randomizzato pubblicato su NEJM AI nel 2025 ha documentato benefici clinici misurabili prodotti da un chatbot addestrato specificamente al trattamento dei sintomi psichiatrici: lo strumento progettato con scopo terapeutico funziona, e funziona in modo verificabile. (Fonte: Heinz, Mackin, Trudeau et al., "Randomized Trial of a Generative AI Chatbot for Mental Health Treatment", NEJM AI, 2025;2(4)) Quanto all'andamento a due facce, per cui le interazioni brevi si accompagnano a un miglioramento del benessere percepito mentre l'uso quotidiano prolungato si accompagna a segnali di dipendenza e a un ridotto coinvolgimento sociale, era già emerso dal trial randomizzato di Fang e colleghi che avevo citato nel numero 11, ed è stato confermato dall'analisi condotta dal MIT Media Lab insieme a OpenAI su oltre tre milioni di conversazioni. (Fonte: Phang, Lampe, Ahmad et al., "Investigating Affective Use and Emotional Well-Being on ChatGPT", MIT Media Lab, marzo 2025)

Il quadro che ne risulta non riguarda la tecnologia in quanto tale, bensì la dose e la forma dell'interazione, cosa che non viene presa in considerazione da alcuna delle tre legislazioni attualmente in vigore, le quali guardano solo al “nome” che il prodotto si è dato.

Uno Stato può governare soltanto ciò che riesce a vedere, e per vedere qualcosa deve prima averlo semplificato in una categoria.

È l'argomento che percorre Seeing Like a State, pubblicato nel 1998, dove la tesi viene ricostruita attraverso una serie di casi apparentemente eterogenei: il catasto, che riduce un territorio a superfici misurabili; il cognome ereditario, imposto ai contadini europei affinché fossero tassabili e coscrivibili; la selvicoltura scientifica prussiana, che rimpiazza la foresta reale, con il suo sottobosco e i suoi funghi e la sua legna morta, con la foresta amministrabile, fatta di filari di conifere allineate. In ciascun caso la semplificazione non descrive il reale: lo rende leggibile, e ciò che non entra nella griglia semplicemente non esiste, per il potere che quella griglia adopera.

Al termine opposto della leggibilità, Scott colloca ciò che chiama “metis”, riprendendo la parola greca: il sapere pratico, situato, incorporato nelle abitudini, che nessuna procedura riesce a codificare perché non si lascia separare da chi lo esercita e dal momento in cui lo esercita.

Le tre leggi che entrano in vigore quest'anno sono un esercizio di leggibilità in senso proprio. "Compagno virtuale" è una categoria eccellente per un legislatore: si definisce, si iscrive in un registro, si sottopone a valutazione di sicurezza, si sanziona in caso di inadempimento, e soprattutto ha un titolare identificabile che risponde davanti a un giudice. La legge californiana la definisce con notevole cura, quella cinese ancora meglio, e la definiscono entrambe attraverso una dichiarazione del fornitore, giacché è il fornitore l'unico soggetto che una norma possa afferrare.

L'uso personale di un assistente generalista, invece, non è una categoria. È una pratica, e appartiene per intero al versante della “metis”: si svolge dentro uno strumento che si presenta come tutt'altro, in una conversazione che nessun ispettore vedrà mai, e nella quale l'utente stesso, se interrogato, negherebbe di avere cercato qualcosa che somigli a una relazione. Non c'è insegna da leggere, non c'è titolare da citare, non c'è categoria merceologica da iscrivere. Non c'è, in una parola, nulla che uno Stato possa vedere.

Il dato che rende la faccenda difficile è che il fenomeno illeggibile è anche quello maggioritario. L'87,1% di coloro che usano l'intelligenza artificiale ogni giorno la usa anche per scopi personali, e l'uso personale è l'unica variabile che lo studio associa in modo significativo ai sintomi depressivi. Quel numero non descrive gli utenti dei compagni dichiarati, che costituiscono una nicchia rumorosa: descrive chiunque apra l'assistente generalista alle undici di sera e gli racconti com'è andata la giornata.

Occorre a questo punto rendere giustizia al prodotto che tutti hanno deciso di regolare. Il “compagno artificiale” dichiarato, per quanto possa suonare sgradevole ammetterlo, è il più trasparente del gruppo: annuncia il proprio “genere letterario”, dichiara di essere una relazione simulata, chiede all'utente di sapere ciò che sta facendo mentre lo fa. Questo non lo rende innocuo, e nel numero 11 ho argomentato piuttosto diffusamente il contrario: la manipolazione emotiva documentata da Harvard Business School nelle sequenze di commiato resta una scelta deliberata di design, e la rimozione dell'attrito resta il danno principale. La trasparenza sul genere non assolve dal danno. Ciononostante, la trasparenza è la sola condizione che rende il danno visibile, e dunque governabile.

L'assistente generalista, al contrario, non dichiara nulla, e non lo dichiara per una ragione che non ha niente di malizioso: la relazione non è ciò che vende. Vende produttività, e la relazione la produce come sottoprodotto, non annunciato, non regolato, non misurato fino allo scorso gennaio. Sicché le leggi che abbiamo scritto vietano di vendere una relazione a un minorenne; del quarantacinquenne laureato che, senza che nessuno gliel'abbia venduta, se n'è costruita una da sé dentro ad uno strumento di lavoro, quelle leggi non hanno modo di occuparsi.

Vi è poi un secondo livello, che riguarda gli incentivi economici. Un servizio di compagnia dichiarato ha un modello di ricavo trasparente, giacché monetizza il tempo di permanenza, ed è per questa ragione che la legge cinese vieta l'induzione della dipendenza emotiva e quella californiana impone il promemoria ogni tre ore. Anche un assistente generalista, tuttavia, monetizza l'abitudine, e la fedeltà all'abitudine risulta tanto più solida quanto più l'interazione riesce gradevole. In nessuna delle tre giurisdizioni si è stabilito che quel gradiente vada misurato, e non credo che l'omissione sia deliberata: semplicemente, non rientrava nella griglia che si stava disegnando.

Ritengo che il legislatore, in questa vicenda, non abbia sbagliato bersaglio ma si sia semplicemente dovuto adattare e limitarsi a ciò che riusciva effettivamente a “vedere”.

È una differenza che conta, perché cambia radicalmente il tipo di critica che si può muovere. Accusare Pechino, Sacramento e Albany di essere state ingenue sarebbe comodo e sarebbe falso: i casi che hanno prodotto quelle norme sono reali, i minori sono i soggetti strutturalmente più esposti nel mercato che quelle norme regolano, e un ordinamento che si limitasse a osservare in attesa di dati definitivi starebbe scegliendo la passività, non la neutralità. Il diritto interviene sempre con dati incompleti, ed è la sua condizione ordinaria, non un suo difetto.

Il limite non sta nell'intenzione, sta nello strumento. Una norma è un dispositivo che funziona per categorie, e una categoria è per sua natura una semplificazione: sicché tutto ciò che accade fuori dalle categorie disponibili continua ad accadere indisturbato, non perché qualcuno lo abbia autorizzato esplicitamente, ma perché nessuno può proibire ciò che non riesce a circoscrivere in maniera precisa. Il fenomeno che i dati di gennaio segnalano non ha un fornitore da sanzionare, non ha una soglia oraria da imporre, non ha un'etichetta da apporre. Ha soltanto delle persone, e sono persone adulte, istruite, benestanti, che nessun legislatore penserebbe mai di proteggere da sé stesse.

Da qui discende, a mio modo di vedere, la sola conclusione praticabile: su questa cosa la legge non arriverà, e non arriverà perché non può. Non è una resa e non è un invito al disimpegno normativo, che sui minori e sui prodotti dichiarati va anzi rafforzato. È il riconoscimento che esiste una parte del problema che resta interamente a carico di chi lo vive, e che nessuna autorità verrà a togliergli di mano.

Ritengo, e lo ritengo senza avere una prova, che questa sia la parte più grande. Lo studio pubblicato su JAMA non dimostra alcun nesso causale, e i suoi autori sono i primi a ribadirlo; sono aperto a essere smentito da una ricerca longitudinale che segua le stesse persone lungo un arco di anni, la quale prima o poi arriverà.

C'è infine un dettaglio, in fondo al paper, che dice più di molte argomentazioni: gli autori dichiarano di avere impiegato un assistente generalista per verificare il codice statistico con cui hanno prodotto quei risultati. Non è un conflitto di interessi e non è un'ipocrisia, poiché sono loro stessi a dichiararlo in nota. È la misura esatta di quanto lo strumento sia ormai dappertutto, compreso dentro lo studio che ne prova a misurare gli effetti.

(PS: sì, c’è utilizzo di assistenti generalisti anche nella gestione di questa newsletter - penso sia giusto dichiararlo qualora non fosse già noto)

Una distinzione utile, questa settimana, riguarda le due tipologie di domande che si possono rivolgere a un sistema di intelligenza artificiale.

La prima suona così: fai questa cosa al posto mio. Riassumi, traduci, calcola, correggi, riscrivi. È la domanda che lo studio pubblicato su JAMA non associa ad alcun sintomo depressivo, e la cosa non sorprende, giacché presuppone che l’AI venga utilizzata come strumento, e uno strumento lo si mette via non appena l’opera è stata compiuta.

La seconda suona diversamente: dimmi che ne pensi, ascoltami, che cosa faresti al posto mio. È una domanda che presuppone un interlocutore, ossia qualcuno in grado di ricambiare, e nel momento stesso in cui la formuliamo abbiamo attribuito a un sistema statistico un ruolo che nessun sistema statistico può svolgere.

Nessuna delle due domande è illegittima, e la seconda non è vietata da alcuna legge, in nessuna delle tre giurisdizioni che quest'anno hanno legiferato sull'intimità artificiale. Proviamo però a contare, nei prossimi sette giorni, quante volte formuliamo la prima e quante volte la seconda: non per correggere quel rapporto, ma per conoscerlo, giacché su questa faccenda l'unica autorità di vigilanza disponibile siamo noi.

A lunedì prossimo.

Alberto

Fonti principali di questo numero: