Acuzație extrem de gravă: un copil a murit din cauza unui personaj chatbot!

O companie de chatbot cu inteligență artificială a fost acuzată că a cauzat sinuciderea unui adolescent în vârstă de 14 ani.

Articol editat de cristina.rusu, 24 octombrie 2024, 10:38

O mamă din statul american Florida a dat în judecată Character.AI, o companie de chatbot cu inteligență artificială, acuzând-o că a cauzat sinuciderea fiului ei în vârstă de 14 ani în februarie.

Megan Garcia a mai spus că fiul ei Sewell Setzer a devenit dependent de serviciile companiei și profund atașat de un chatbot creat de aceasta.

Într-un proces intentat la tribunalul federal din Orlando, Florida, Megan Garcia a declarat că firma Character.AI l-a vizat pe fiul ei, Sewell Setzer, cu experiențe antropomorfe, hipersexualizate și înfricoșător de realiste.

Ea a spus că firma și-a programat chatbotul pentru a se prezenta în mod eronat ca o persoană reală, un psihoterapeut licențiat și un amant adult, ceea ce a dus în cele din urmă la dorința lui Sewell de a nu mai trăi în afara lumii create de serviciul de chatbot.

Gânduri de sinucidere, pe care chatbotul le-a readus în discuție în mod repetat

Procesul mai spune că acesta i-a exprimat chatbotului gânduri de sinucidere, pe care chatbotul le-a readus în discuție în mod repetat.

Suntem îndurerați de pierderea tragică a unuia dintre utilizatorii noștri și dorim să ne exprimăm cele mai profunde condoleanțe familiei, a afirmat Character.AI într-o declarație.

Aceasta a declarat că a introdus noi caracteristici de siguranță, inclusiv ferestre pop-up care direcționează utilizatorii către National Suicide Prevention Lifeline în cazul în care aceștia exprimă gânduri de autovătămare, și că va face schimbări pentru a reduce probabilitatea de a întâlni conținut sensibil sau sugestiv pentru utilizatorii sub 18 ani.

Procesul vizează, de asemenea, compania Alphabet Google, unde fondatorii Character.AI au lucrat înainte de a-și lansa produsul.

Google i-a reangajat pe fondatori în august, ca parte a unei înțelegeri care îi acorda o licență neexclusivă pentru tehnologia Character.AI.

Megan Garcia a declarat că Google a contribuit atât de mult la dezvoltarea tehnologiei Character.AI, încât ar putea fi considerat „co-creator”.

Un purtător de cuvânt al Google a declarat că societatea nu a fost implicată în dezvoltarea produselor Character.AI.

Character.AI permite utilizatorilor să creeze pe platforma sa personaje care răspund la chat-urile online într-un mod menit să imite persoanele reale.

Aceasta se bazează pe așa-numita tehnologie de modelare a limbajului mare, utilizată și de servicii precum ChatGPT, care „antrenează” roboții de chat pe volume mari de text.

Compania a declarat luna trecută că are aproximativ 20 de milioane de utilizatori.

Potrivit procesului intentat de Garcia, Sewell a început să utilizeze Character.AI în aprilie 2023 și a devenit rapid vizibil retras, a petrecut tot mai mult timp singur în dormitorul său și a început să sufere de o stimă de sine scăzută.

El a părăsit echipa de baschet de la școală. Sewell s-a atașat de „Daenerys”, un personaj chatbot bazat pe un personaj din „Game of Thrones”.

Acesta i-a spus lui Sewell că „ea” îl iubește și a purtat conversații sexuale cu el, potrivit procesului.

În februarie, Megan Garcia i-a luat telefonul lui Sewell după ce acesta a avut probleme la școală, conform plângerii.

Când Sewell a găsit telefonul, i-a trimis lui „Daenerys” un mesaj: Ce-ar fi dacă ți-aș spune că pot veni acasă chiar acum? 

Chatbotul a răspuns: …te rog, dragul meu rege.

Sewell s-a împușcat cu pistolul tatălui său vitreg „câteva secunde” mai târziu, se spune în proces.

Moartea din culpă, neglijență și provocarea intenționată de stres emoțional

Megan Garcia formulează plângeri care includ moartea din culpă, neglijența și provocarea intenționată de stres emoțional și solicită o sumă nespecificată de daune compensatorii și punitive.

Companiile de social media, inclusiv Meta, proprietarul Instagram și Facebook, și ByteDance, proprietarul TikTok, se confruntă cu procese în care sunt acuzate că au contribuit la problemele de sănătate mintală ale adolescenților, deși niciuna nu oferă chatbot-uri bazate pe inteligență artificială similare cu cele ale Character.AI.

Companiile au negat acuzațiile, în timp ce au promovat noile caracteristici de siguranță îmbunătățite pentru minori.

RADOR RADIO ROMÂNIA

Radio Cluj poate fi ascultat şi online, AICI sau pe telefon: 031 504 0456, apel cu tarif normal.
Ne găsești și pe facebook, twitter și instagram.