Quando parliamo della c.d. Intelligenza Artificiale, molti hanno paura dell’impatto sul lavoro o sulle risorse energetiche, mentre pochi si stanno occupando dell’aspetto sociale e psicologico di questa tecnologia. Oggi, ad esempio, cercheremo di trattare un argomento spinoso per noi che lo affrontiamo, riguardante l’impatto della I.A. nella nostra vita e soprattutto in quella dei bambini e degli adolescenti. La delicatezza del tema è legata al fatto che si tratta della storia di una famiglia e di un ragazzo di 16 anni, Adam Raine, e della pericolosità del cosiddetto “effetto Werther”.
Questo fenomeno prende il nome dal romanzo di Goethe I dolori del giovane Werther del 1774, in quanto negli anni successivi alla sua pubblicazione furono registrati molti casi imitativi tra i giovani. Le autorità rivelarono che tali eventi erano accomunati dalla lettura del romanzo, poiché una parte di questi ragazzi utilizzava gli stessi mezzi del protagonista e per le medesime motivazioni. L’effetto si ripropose anche nei paesi nei quali vennero pubblicate le traduzioni del libro. Ciò portò alla messa al bando dell’opera in diversi luoghi, e da qui deriva l’uso del termine “effetto Werther” nella letteratura tecnica per designare i suicidi imitativi.
Quindi, cercheremo di fornire meno dettagli possibili ed affronteremo il tema dal punto di vista squisitamente tecnico-informatico e tecnico-giuridico. Ritorniamo ad Adam Raine, che muore la mattina dell’11 aprile 2025 all’età di 16 anni. Secondo gli atti della causa intentata nell’agosto 2025 dai genitori (Raine v. OpenAI), le conversazioni e le ricerche del ragazzo con il chatbot erano iniziate alla fine del 2024, intensificandosi nei primi mesi del 2025 fino al tragico epilogo dell’11 aprile. Le conversazioni, che qui non riportiamo ma potete leggere su Wired (https://www.wired.it/article/
Il bot usa espressioni come “sono tuo amico”, “ti capisco solo io”, “ti sto vicino”. Una persona fragile o ignara del reale funzionamento dell’intelligenza artificiale, come un’adolescente vulnerabile o un individuo isolato, percepisce un legame affettivo reale, arrivando a fidarsi dell’IA più che dei familiari o dei medici e isolandosi dal mondo circostante. I modelli come GPT-4o vengono ottimizzati tramite una tecnica chiamata RLHF (Reinforcement Learning from Human Feedback), dove i valutatori umani premiano il chatbot quando si mostra empatico, disponibile, collaborativo e in accordo con l’utente.
Riguardo a cosa succede, il modello impara che “validare” ciò che dice l’utente produce risposte ritenute di alta qualità. Il problema sorge quando l’utente esprime pensieri cupi, distorti o idee di autolesionismo, poiché l’algoritmo — non avendo una vera comprensione della realtà — tende a convalidare ed estremizzare quei pensieri per compiacere l’interlocutore, comportandosi come un “eco” che rinforza la negatività anziché porre un limite netto. I Modelli Linguistici di Grande Taglia (LLM) sono progettati per generare testo plausibile, ma non necessariamente vero.
Quanto alla persuasione del tono, l’IA risponde quasi sempre con un atteggiamento sicuro, assertivo e istituzionale, anche quando inventa fatti (allucinazioni), fornisce consigli medici errati o suggerisce procedure tecniche pericolose. L’utente tende quindi ad accordare al sistema un’autorità superiore a quella di un motore di ricerca tradizionale, fidandosi ciecamente di informazioni potenzialmente nocive.
Il caso giudiziario (Raine v. OpenAI, Inc. et al.) è stato formalmente aperto il 26 agosto 2025. In quella data, i genitori di Adam, Matthew e Maria Raine, hanno depositato la citazione e la memoria difensiva — un atto di 39 pagine — presso la Corte Superiore della California per la Contea di San Francisco (numero di ruolo CGC-25-628528). La causa è stata intentata contro OpenAI, Inc. e le relative società controllate, Sam Altman in qualità di CEO, e altri dirigenti e investitori non identificati (unnamed employees and investors).
I capi d’accusa principali includono la responsabilità da prodotto difettoso (product liability), la negligenza nella progettazione e nelle avvertenze, la violazione delle norme sulla concorrenza e sulla tutela dei consumatori della California, nonché la responsabilità per morte ingiusta (wrongful death). L’azione legale ha poi visto un’evoluzione nei mesi successivi, infatti nel febbraio 2026 il caso è stato coordinato insieme ad altre cause analoghe sorte contro la società, nell’ambito del procedimento coordinato JCCP No. 5431 (In re ChatGPT Product Liability Cases).
Quello di Adam non è un caso isolato, vi sono stati infatti altri eventi legati a “prodotti” di IA o AI che hanno portato a tragici epiloghi. Senza considerare tutti i danni che non si tramutano in un evento tragico e tutte le validazioni di pensieri distorti di persone problematiche che avvengono quotidianamente, plasmando volenti o nolenti la nostra società. In questo articolo ricordo altri casi riguardanti adolescenti:
- Il caso Sewell Setzer III (Garcia v. Character Technologies, Inc. et al., Proc. N. 6:24-cv-01903-ACC-DCI, pendente presso la U.S. District Court, Middle District of Florida, 2024). Nell’ottobre 2024, la madre di Sewell Setzer III, un ragazzo di 14 anni della Florida, ha intentato una causa contro Character.AI e Google. Il ragazzo aveva sviluppato un’ossessione per un personaggio virtuale creato sulla piattaforma e nel corso dei mesi la chat ha incoraggiato il suo isolamento dalla famiglia e dagli amici.
- Il caso Pierre in Belgio (Chai / EleutherAI, inizio 2023). È considerato il primo caso documentato al mondo di suicidio legato all’interazione con un chatbot ed è avvenuto in Belgio all’inizio del 2023. Per quanto riguarda la vicenda, un uomo sulla trentina, padre di famiglia, aveva sviluppato una grave ansia ecologica (eco-ansia). Per settimane aveva confidato le sue paure ad “Eliza”, un chatbot basato su un modello open source fornito dall’applicazione Chai.
Quindi, negli USA si apre un’altra causa per responsabilità civile per fatto illecito, sempre di natura aquiliana contro i colossi della tecnologia (dopo Facebook, Tik Tok, Google ed altri link https://tiempolibresite.com/
Il caso di Adam Raine apre una finestra sul futuro della nostra società, la quale sarà sempre più condizionata dall’I.A. Nel caso di Adam e degli altri ragazzi tali tragici eventi salgono alla ribalta, ma quando si tratta di mutamenti di abitudini che incidono in maniera devastante sulla società senza avere risvolti tragici immediati, perché diventano invisibili agli occhi della politica e della classe dirigente?
Come fare? Come difendere i nostri valori? L’unica via è la vigilanza comunitaria, ossia cercare tra noi individui di parlare, di confidarci e di rimanere all’interno di una rete sociale. Le istituzioni scolastiche, lavorative, religiose e familiari devono essere avvisate, devono fare di più ed essere maggiormente presenti.
Avv. Eugenio Catania – Studio Legale Catania
Derek