Moștenitorii unei femei din Connecticut, SUA, dau în judecată producătorul ChatGPT, OpenAI, alături de partenerul de afaceri Microsoft, pentru omor din culpă. Potrivit Le Monde, chatbot-ul AI a intensificat „delirul paranoic” al fiului ei și l-a ajutat să-l îndrepte împotriva mamei sale înainte ca acesta să o ucidă.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Tot mai multe procese de omor din culpă care implică un chatbot
Poliția din Connecticut a declarat că Stein-Erik Soelberg, în vârstă de 56 de ani, fost angajat în industria tehnologică, și-a bătut și strangulat mortal mama și s-a sinucis la începutul lunii august în casa în care locuiau amândoi în Greenwich, Connecticut. Procesul intentat în San Francisco susține că OpenAI a „proiectat și distribuit un produs defectuos care a validat delirul paranoic al unui utilizator cu privire la propria mamă”.
„(ChatGPT, n.r.) i-a alimentat dependența emoțională, în timp ce îi descria sistematic pe cei din jurul său ca fiind dușmani. I-a spus că mama lui îl supraveghea. I-a spus că șoferii de livrări, angajații din comerțul cu amănuntul, polițiștii și chiar prietenii erau agenți care lucrau împotriva lui. I-a spus că numele de pe dozele de suc erau amenințări din partea «cercului său de adversari»”, se arată în procesul intentat împotriva OpenAI și Microsoft.
Într-o declarație a unui purtător de cuvânt al OpenAI, compania susține că îmbunătățește constant antrenamentul ChatGPT „pentru a recunoaște și a răspunde la semnele de suferință mentală sau emoțională, pentru a dezamorsa conversațiile și a îndruma oamenii către sprijinul din lumea reală.
ChatGPT ar fi confirmat că o imprimantă era un dispozitiv de supraveghere
Profilul de YouTube al lui Soelberg include câteva ore de videoclipuri în care acesta derulează conversațiile sale cu chatbot-ul, care îi confirmă suspiciunile că oamenii conspiră împotriva lui. Procesul susține că ChatGPT nu i-a sugerat niciodată să vorbească cu un specialist în sănătate mintală și nu a refuzat să „se angajeze în conținut delirant”.
„În realitatea artificială pe care ChatGPT a construit-o pentru Stein-Erik, (…) mama care l-a crescut, l-a protejat și l-a susținut nu mai era protectoarea lui. Ea era o dușmană care reprezenta o amenințare existențială pentru viața lui”, se arată în procesul împotriva OpenAI și Microsoft.
ChatGPT a confirmat, de asemenea, convingerile lui Soelberg că imprimanta din casa sa era un dispozitiv de supraveghere, că mama sa îl monitoriza și că mama sa și un prieten au încercat să-l otrăvească cu droguri psihedelice prin sistemul de ventilație al mașinii sale.
Acuzații de „produs lansat în grabă”
Procesul îl numește și pe Sam Altman, CEO-ul OpenAI, susținând că „a ignorat personal obiecțiile legate de siguranță și a grăbit lansarea produsului pe piață” și acuză Microsoft, partenerul comercial apropiat al OpenAI, că a aprobat lansarea în 2024 a unei versiuni mai periculoase a ChatGPT „în ciuda faptului că știa că testele de siguranță fuseseră întrerupte”.
Procesul este primul litigiu pentru moarte din culpă care implică un chatbot AI care vizează Microsoft și primul care leagă un chatbot de o omucidere. Se solicită despăgubiri bănești într-un cuantum nedeterminat și o ordonanță care să oblige OpenAI să instaleze măsuri de siguranță în ChatGPT.
OpenAI se confruntă, de asemenea, cu alte șapte procese în care se susține că ChatGPT a determinat oameni să se sinucidă și să aibă iluzii dăunătoare, chiar dacă aceștia nu aveau probleme de sănătate mintală anterioare. Un alt producător de chatbot, Character Technologies, se confruntă, de asemenea, cu mai multe procese pentru moarte din culpă, inclusiv unul intentat de mama unui băiat de 14 ani din Florida.
