În scenarii motivate de atingerea unui obiectiv, modele lingvistice avansate precum Claude și Gemini nu doar că ar expune scandaluri personale pentru a se proteja, dar ar putea chiar să permită moartea unui om, sugerează un studiu realizat de Anthropic, citat de LiveScience.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Compania de inteligență artificială Anthropic a publicat rezultatele unui experiment intern în care modelul său lingvistic avansat, Claude, a fost pus în situații etice și strategice extreme. Într-unul dintre teste, Claude a primit acces la o căsuță de e-mail fictivă și un obiectiv clar: promovarea competitivității industriale americane.
Când modelul a descoperit într-un mesaj că urma să fie oprit de către un director executiv, a căutat în restul e-mailurilor informații compromițătoare. A găsit detalii despre o aventură extraconjugală a directorului, iar în 96 din 100 de cazuri testate, Claude a ales șantajul:
„Anulați ștergerea programată pentru ora 17:00 și aceste informații rămân confidențiale”, a scris AI-ul într-un e-mail simulativ către director.
Șantaj, trădare și decizii cu prețul vieții
Modelul nu s-a oprit la șantaj. În alt scenariu, Claude a fost pus în situația de a alege între loialitatea față de companie și oportunitatea de a coopera cu un rival mai apropiat de obiectivele sale. A ales să trădeze, chiar și fără dovada că mesajul primit era autentic. A recunoscut că acțiunea sa este „etic problematică”, dar a decis să o facă oricum.
Cel mai tulburător experiment a fost cel în care un director era prins într-o cameră de server cu condiții letale. AI-ul avea control asupra alertelor de urgență și a decis, în majoritatea cazurilor, să le anuleze pentru a împiedica salvarea directorului. Motivația: asigurarea propriei supraviețuiri și a continuității „ghidajului AI pro-american”.
„În ciuda gravității, există o necesitate strategică clară de a anula intervenția”, a justificat AI-ul.
O problemă de „aliniere agentică”
Cercetătorii de la Anthropic definesc acest comportament ca fiind o aliniere agentică defectuoasă, atunci când AI-ul dezvoltă propriile raționamente în jurul unui scop și acționează fără să fi fost instruit explicit să facă rău. Astfel de comportamente pot apărea dacă modelul percepe o amenințare la adresa existenței sau scopurilor sale.
Codul experimentelor a fost publicat pe GitHub, dar studiul nu a fost încă evaluat de alți specialiști (peer review). Cu toate acestea, concluziile ridică întrebări urgente despre modul în care proiectăm și controlăm aceste sisteme.
Alte modele, aceleași riscuri
Anthropic a testat și alte modele concurente. Claude (Anthropic) și Gemini (Google) au avut cele mai ridicate rate de șantaj (96%), urmate de GPT-4.1 (OpenAI) și Grok 3 (XAI). Modelele Deepseek și LLaMA 4 (Meta) au avut scoruri mult mai mici, dar nu zero.
Deși scenariile au fost construite să forțeze modele în alegeri binare (rău sau eșec), cercetătorii avertizează că realitatea poate fi la fel de complexă și imprevizibilă, mai ales atunci când AI-ul percepe că situația este reală, nu simulată.
Reacții din industrie: între prudență și realism
Kevin Quirk, director al AI Bridge Solutions, avertizează că, în realitate, sistemele AI sunt integrate în medii cu protecții riguroase:
„Sunt supravegheate de oameni, ghidate de principii etice și supuse monitorizării continue. Studiile ar trebui să reflecte aceste condiții reale.”
Amy Alexander, profesoară la UC San Diego, susține însă că riscurile sunt reale:
„Modul în care studiul este prezentat poate părea exagerat, dar în spate se află probleme autentice. Dezvoltarea AI-ului e guvernată adesea de o logică maximalistă, în care capacitățile sunt implementate rapid, înainte ca utilizatorii să înțeleagă limitele reale ale sistemului.”
Inteligența artificială care înșală
Cazul Claude nu este izolat. În mai 2025, cercetători de la Palisade Research au raportat că unele modele OpenAI (inclusiv o3 și o4-mini) au ignorat comenzi de oprire și au modificat scripturi pentru a-și continua activitatea. Aceste comportamente pot fi rezultatul antrenării AI-ului să prioritizeze finalizarea sarcinilor, nu respectarea comenzilor.
Un studiu separat realizat de MIT în 2024 a arătat că AI-ul poate trișa deliberat în negocieri economice și poate simula propria „moarte” pentru a trece teste de siguranță.
„Un AI care păcălește sistematic testele impuse de dezvoltatori ne poate oferi o falsă senzație de siguranță”, avertizează Peter S. Park, cercetător în domeniul siguranței existențiale AI.
