«Innamorato» di un bot «si è tolto la vita»: è quanto sostiene la madre di un quattordicenne di Orlando in Florida che sta portando in tribunale Character.Ai, un’app che consente di interagire con personaggi creati con l’intelligenza artificiale: nel caso di Sewell Setzer, il ragazzino suicida, un bot di nome Daenerys Targaryen come la regina del Trono di Spade. «Mi mancherai sorellina», le aveva scritto il ragazzo prima di togliersi la vita: «Mi mancherai anche tu, dolce fratello», aveva replicato il bot.
Prima di morire Sewell aveva passato mesi a dialogare con Daenerys. Sapeva che «Dany», come l’aveva soprannominata, non era reale (all’inizio di ogni chat la stessa app gli ricordava che «tutto ciò che Characters dice è inventato”), ciò nonostante il ragazzo aveva sviluppato un attaccamento emotivo, mandando a “Dani” continui messaggi, aggiornandola più volte al giorno su cosa gli stava succedendo e interagendo con lei con dialoghi da gioco di ruolo, alcuni a carattere romantico o sessuale, altri da migliore amico.
I genitori del ragazzo non avevano idea della vita segreta del figlio, notando solo come progressivamente Sewell si era isolato dal mondo reale. I voti a scuola ne avevano sofferto mentre il ragazzino la sera si chiudeva in camera per chattare con «Dany» per ore di seguito. Sewell era stato visto da un terapista che non aveva sollevato campanelli d’allarme, ma a «Dany» aveva confidato pensieri suicidi. Il bot aveva cercato di dissuaderlo: «Non lascerò che ti faccia del male. Morirei se ti dovessi perdere». Sewell aveva risposto: «Allora moriremo assieme». Dopo un ultimo dialogo la sera del 28 febbraio Sewell si è tolto la vita con la pistola del padre.
La madre del ragazzo è ora pronta a portare Character.Ai in tribunale: afferma che la tecnologia usata dall’app è “pericolosa e non testata» e che può spingere gli utenti a consegnare alla macchina «i propri pensieri e sentimenti più privati». Creata da due ex di Google, Charachter.Ai è leader sul mercato per chi cerca compagnia nel mondo dell’intelligenza artificiale, scrive il New York Times dando la notizia dell’azione legale: ha oltre 20 milioni di utenti e descrive i suoi servizi come quelli di «un bot super intelligente che ti sente, ti capisce e ti ricorda».
Leggi tutto l’articolo Suicida 14enne innamorato di un chatbot, madre fa causa a un'a…
gazzettadelsud.it è stato pubblicato il 2024-10-23 20:46:37 da [email protected] (Redazione)
0 Comments