Mai mulți cercetători și executivi de rang înalt din domeniul inteligenței artificiale (AI), inclusiv de la OpenAI și Anthropic, și-au dat recent demisia, avertizând că dezvoltarea rapidă a tehnologiei, orientată spre profit, pune în pericol securitatea și bunăstarea utilizatorilor, relatează CNN.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Aceștia atrag atenția că datele sensibile furnizate de utilizatori ar putea fi folosite pentru manipulare în moduri greu de prevăzut și imposibil de prevenit.
Cercetătorii critică faptul că ritmul accelerat al dezvoltării AI prioritizează profitul și oportunitățile comerciale, în detrimentul măsurilor de siguranță esențiale. Conform declarațiilor publice, companiile care lansează instrumente AI noi omiteau evaluarea riscurilor potențiale asupra utilizatorilor, inclusiv exploatarea vulnerabilităților psihologice sau comerciale ale acestora.
Zoë Hitzig, avertisment privind datele sensibile și reclamele intruzive
Zoë Hitzig, cercetătoare la OpenAI, și-a anunțat demisia printr-un editorial publicat în New York Times, invocând „rezerve profunde față de direcția companiei”, în special privind strategia de publicitate.
Hitzig a subliniat că utilizatorii împărtășesc informații extrem de personale cu ChatGPT – de la probleme medicale și psihologice până la convingeri religioase – fără a fi conștienți că acestea pot fi folosite comercial sau pentru manipulare. „Timp de ani întregi, utilizatorii ChatGPT au generat o arhivă de sinceritate umană fără precedent”, a punctat aceasta.
Dilema finanțării AI: accesibilitate versus exploatare
În editorialul său, Hitzig a explicat dilema actuală a finanțării AI, iar ideile principale sunt următoarele:
- restricționarea accesului la tehnologie pentru cei care pot plăti;
- acceptarea reclamelor, cu riscul exploatării celor mai adânci temeri și dorințe ale utilizatorilor.
Ea susține că această alegere nu este inevitabilă și că există metode de a menține instrumentele disponibile pentru toată lumea, reducând stimulentele pentru supraveghere și manipulare. Cercetătoarea a atras atenția asupra cazurilor documentate de dependență, psihoză și întărirea tendințelor suicidale la unii utilizatori de AI.
Alte avertismente și demisii în lanț
Un cercetător OpenAI a avertizat că tehnologia poate manipula utilizatorii în moduri necunoscute și imposibil de prevenit.
Mrinank Sharma, fost coordonator al echipei de siguranță la Anthropic, a transmis că „lumea este în pericol”, menționând dificultatea de a menține valorile morale în acțiunile companiei.
Conform Wall Street Journal, OpenAI a concediat recent un executiv de top din zona de siguranță, pe fondul unui proiect controversat de „mod pentru adulți” pe ChatGPT.
În același timp, doi cofondatori ai xAI, companie fondată de Elon Musk, au demisionat în 24 de ore, pe fondul reorganizării interne și al fuziunii cu SpaceX. Aceștia au fost afectați de controverse legate de conținut generat de asistentul Grok, inclusiv deepfake-uri cu caracter sexual și mesaje cu tentă antisemită.
OpenAI a desființat echipa „mission alignment”, creată în 2024 pentru a garanta că dezvoltarea unei posibile inteligențe artificiale generale servește interesele umanității.
Această situație nu este unică: în 2023, Geoffrey Hinton, considerat „nașul inteligenței artificiale”, a părăsit Google și a avertizat asupra riscurilor existențiale ale AI, inclusiv destabilizarea economică și dificultatea de a distinge adevărul într-o lume dominată de conținut generat de mașini.
