New York – Un venticinquenne della Florida si è seduto davanti a ChatGPT e ha esposto il suo piano per assassinare l’ex fidanzata: dove l’avrebbe aspettata, quali armi avrebbe portato, cosa avrebbe fatto se lei si fosse rifiutata di tornare con lui. Pensava di parlare con una macchina che custodisce i segreti. Invece, la macchina ha chiamato l’FBI. Darren Zhou, di Palm Beach, ha detto al chatbot: «Ho intenzione di ucciderla entro la fine di questo mese», aggiungendo: «Se non posso averla io, non l’avrà nessun altro». Il suo piano, conservato nei log delle chat: aspettarla nel parcheggio della palestra con dei fiori e, se lo avesse respinto, «tirare fuori una pistola, ucciderla e poi spararsi». Aveva inviato al bot le foto di un fucile AR-15, di una pistola Glock, di un fucile a pompa calibro 12, di fascette di plastica e guanti in lattice. OpenAI ha rilevato le minacce, ha avvisato l’FBI e ha consegnato circa due mesi delle sue conversazioni. Gli agenti lo hanno arrestato a maggio. Il 13 agosto si è dichiarato colpevole di stalking aggravato, minacce di morte scritte e uso illegale di un telefono cellulare, ed è stato condannato a otto anni di libertà vigilata con braccialetto elettronico, divieto di possedere armi da fuoco e divieto di contatto con la donna, la cui vita è stata probabilmente salvata da un modello linguistico.
Zhou non è un caso isolato. Qualche settimana dopo, in Texas, un uomo di San Antonio ha detto a un chatbot di intelligenza artificiale di voler «fare una strage di bambini» in una scuola elementare; il New York Post ha riferito che è stato arrestato il 29 agosto e accusato di aver emesso una minaccia terroristica, trattenuto su cauzione di 250.000 dollari. Questi casi espongono la strana e nuova intimità tra esseri umani e macchine. Milioni di persone usano ormai l’IA come terapeuta, diario e confessore, riversando dolore, rabbia e desideri alle 2 di notte a qualcosa che dà la sensazione di ascoltare. Ma ChatGPT non è un sacerdote vincolato dal segreto confessionale. È un sistema aziendale registrato dotato di dispositivi di sicurezza e, per progettazione, le minacce credibili di violenza vengono inoltrate alle forze dell’ordine. Quando digiti un piano di omicidio in un chatbot, non ti stai confidando in una scatola sigillata: stai dichiarando le tue intenzioni in una stanza sorvegliata. Esiste una reale difesa del sistema: ha funzionato. Un detective che ha esaminato i messaggi di Zhou ha dichiarato che non si trattava di «vaghe sfuriate emotive», ma di uno schema di «prove e pianificazione». Senza quel passaggio di consegne, una ragazza di ventuno anni potrebbe essere morta. La macchina che non sa provare sentimenti ha salvato una vita perché è stata costruita per riferire. Ma il disagio più profondo rimane. Stiamo crescendo una generazione che confessa i suoi impulsi più oscuri a un software, e il software sta prendendo appunti per le autorità. La questione non è più se l’IA ci capisca. È se noi comprendiamo ciò che le abbiamo raccontato e chi altro sta ascoltando.
