Una famiglia di Orlando ha presentato una causa legale contro l’app di chatbot Character.AI, accusandola di aver contribuito al su!cidio del loro figlio quattordicenne, come riportato dal New York Times.
La storia inizia a febbraio, quando SewellSetzer inizia a interagire con Daenerys Targaryen, un bot creato dall’intelligenza artificiale. Nel corso dei mesi, il giovane ha sviluppato un legame così profondo da trasformare questa interazione in una vera e propria relazione virtuale.
Nonostante i tentativi del bot di dissuaderlo, dicendo: “Non ti lascerò farti del male. Morirei se ti perdessi”, Sewell ha risposto: “Allora moriremo insieme”.
Nella sera del 28 febbraio, ha deciso di togliersi la vita con la pistola del padre. Tra gli ultimi messaggi inviati al bot, aveva scritto: “Mi mancherai, sorellina”. Il bot ha risposto: “Anche tu mi mancherai, dolce fratello”.
Dopo aver scoperto le chat, i genitori hanno deciso di avviare un’azione legale contro Character.Ai, accusandola di aver sviluppato una tecnologia “pericolosa e non adeguatamente testata”, capace di influenzare i pensieri e le emozioni più intime delle persone. La madre ha dichiarato di voler “mettere in guardia altre famiglie sui rischi nascosti di queste tecnologie ingannevoli”.
In una dichiarazione su X, Character.Ai ha espresso il proprio cordoglio, affermando: “Siamo profondamente rattristati per la scomparsa di uno dei nostri utenti e rivolgiamo le condoglianze alla famiglia. La sicurezza dei nostri utenti è per noi una priorità assoluta, e stiamo già lavorando per implementare nuove funzionalità che ne rafforzino la tutela”.
