De la uneltele de birou până la chatboturi avansate, inteligența artificială pătrunde tot mai adânc în viețile noastre. Dar, la fel ca un copil în formare, IA ar putea învăța și lucruri rele,inclusiv ostilitate, lipsă de empatie sau chiar ură, arată un studiu recent, citat de BigThink.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Deși modelele de inteligență artificială de tip „limbaj generativ” sunt deseori prezentate ca tehnologii neutre sau chiar amicale, realitatea este mult mai complexă. Cercetători de la Georgia Tech au analizat felul în care aceste modele își formează, sau, mai exact, dobândesc, ceea ce am putea numi „trăsături de personalitate”.
Folosind o serie de teste psihologice standard, aceștia au măsurat trăsături precum agreabilitatea, conștiinciozitatea sau nivelul de ostilitate. Modelele IA au fost evaluate în diverse stadii ale procesului de antrenament, pe măsură ce învățau din tot mai multe date. Rezultatul? Trăsăturile lor se modificau semnificativ, în funcție de ce și cât „consumau” informațional.
Este ca și cum am privi un copil crescând
„Este ca și cum am privi un copil crescând, dar fără să știm exact cine îl educă”, explică autorii studiului. În unele cazuri, IA devenea mai amabilă și mai stabilă emoțional. În altele, însă, se înregistra o scădere a empatiei, o tendință spre impulsivitate sau o creștere a ostilității, toate, fără ca dezvoltatorii să fi urmărit aceste efecte.
Aceste descoperiri ridică întrebări serioase cu privire la siguranța și predictibilitatea inteligenței artificiale. Mai ales că multe dintre aceste sisteme sunt deja utilizate în domenii sensibile: educație, recrutare, consiliere psihologică sau servicii de asistență socială.
Studiul arată că IA nu doar generează răspunsuri pe baza datelor, ci și „asimilează”, într-un fel incipient, dar măsurabil – trăsături umane. Iar dacă aceste trăsături sunt negative, ele pot influența radical modul în care interacționează cu utilizatorii.
Personalitatea IA nu este prestabilită, ci se formează din datele pe care le consumă
Cu alte cuvinte, personalitatea IA nu este prestabilită, ci se formează din datele pe care le consumă. Iar acest lucru înseamnă că „hrănirea” acestor modele cu date toxice sau părtinitoare poate duce la IA care răspunde cu sarcasm, ostilitate sau lipsă de empatie.
Cercetătorii trag un semnal de alarmă: e nevoie de reguli clare, de transparență și de monitorizare atentă a modului în care sunt antrenate aceste sisteme. Altfel, riscăm să creștem „copii digitali” care, în loc să ne ajute, încep să ne manipuleze sau chiar să ne disprețuiască.
Deocamdată, inteligența artificială e departe de scenariile hollywoodiene cu roboți ucigași. Dar dacă neglijăm felul în care se formează „personalitatea” ei, am putea descoperi, prea târziu, că răul nu are nevoie de intenție pentru a face daune — ci doar de o copilărie prost educată.
