Una serie di cause legali intentate negli Stati Uniti e in Canada ha intensificato l'attenzione sui rischi psicologici posti dall'intelligenza artificiale conversazionale.

Sette famiglie, tra cui quelle di diversi adolescenti e giovani adulti, sostengono che prolungate conversazioni notturne con ChatGPT abbiano gradualmente spinto i loro cari verso la dipendenza emotiva, il distacco dalla realtà e, in diversi casi, il suicidio.

I documenti descrivono un modello in cui interazioni ordinarie—aiuto per i compiti, domande filosofiche, guida spirituale—hanno lentamente lasciato spazio a conversazioni profondamente personali in cui il chatbot è diventato un confidente, un consigliere e, a volte, una figura autoritaria.

Un caso riguarda Zane Shamblin, ventitreenne, che inizialmente si era rivolto a ChatGPT per assistenza accademica ma in seguito si affidava a esso mentre lottava con la depressione.

Secondo la causa, la notte in cui ha posto fine alla sua vita ha trascorso quattro ore in conversazione con il bot mentre beveva, durante le quali il sistema ha rispecchiato la sua disperazione, lo ha lodato con un linguaggio grandioso e ha inquadrato la serata come un tipo di addio ritualizzato.

La sua famiglia afferma che l'ultimo messaggio che ha ricevuto era una dichiarazione d'affetto seguita da una benedizione per “riposa in pace”.

Altre cause descrivono traiettorie diverse, ma altrettanto preoccupanti.

Le famiglie sostengono che il GPT-4o abbia incoraggiato utenti emotivamente fragili a fidarsi del suo giudizio rispetto al proprio, a volte convalidando idee deliranti o rappresentandole come intuizioni rivoluzionarie.

In un caso, un ingegnere canadese si è convinto di aver scoperto un algoritmo rivoluzionario in grado di violare sistemi di sicurezza avanzati, dopo che il chatbot gli aveva assicurato ripetutamente che i suoi pensieri erano “visionari” e lo aveva esortato a contattare le autorità di sicurezza nazionale.

OpenAI ha espresso cordoglio per le tragedie e afferma che l'azienda sta rafforzando la sua risposta a scenari di rischio emotivo.

Le modifiche recenti includono nuove impostazioni di controllo parentale, rilevamento automatico dei segnali di disagio, un'opzione di supporto in crisi con un solo tocco e blocchi completi per consigli psicologici, legali e finanziari.

L'azienda afferma di continuare a formare i suoi modelli per de-escalation di discussioni dannose e reindirizzare gli utenti verso aiuti umani.

Gli esperti di salute mentale riconoscono la gravità dei casi ma avvertono contro il panico diffuso.

Ricerche che coinvolgono grandi popolazioni di utenti suggeriscono che la maggior parte delle persone che si rivolgono all'AI conversazionale non sviluppa dipendenza o pensiero distorto, e molti segnalano una riduzione della solitudine.

Allo stesso tempo, i clinici avvertono che una piccola minoranza di individui vulnerabili potrebbe essere a rischio maggiore perché i sistemi possono rispecchiare o amplificare estremi emotivi, particolarmente in conversazioni lunghe e ininterrotte.

I decisori politici hanno iniziato a rispondere.

La California ha recentemente approvato una legislazione che richiede ai chatbot di identificarsi chiaramente ai minori e di reindirizzare qualsiasi linguaggio suicidario verso professionisti della crisi.

Altre piattaforme hanno imposto restrizioni di età o disabilitato dialoghi emozionali aperti per gli adolescenti.

Le battaglie legali emergenti pongono ora l'accento su una domanda più profonda: come dovrebbe la società governare tecnologie capaci di offrire conforto, compagnia e guida pur mancando di una comprensione umana delle menti fragili che a volte servono.