Un nou studiu, publicat deocamdată pe platforma preprint ArXiv de către doi cercetători de la Universitatea din Pennsylvania, arată că tonul pe care utilizatorii îl folosesc atunci când se adresează inteligenței artificiale poate influența acuratețea răspunsurilor, informează LiveScience.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Cei doi oameni de știință au descoperit că ChatGPT oferă rezultate mai corecte atunci când este tratat cu lipsă de politețe. Oamenii de știință avertizează însă că un astfel de comportament poate avea efecte negative asupra modului în care interacționăm cu tehnologia.
Răspunsuri mai precise, ton mai dur
Om Dobariya și Akhil Kumar, cei doi autori ai studiului, au testat modul în care tonul utilizatorului poate influența performanța unui model AI. Cei doi au creat 50 de întrebări de tip grilă din domenii precum matematică, istorie sau știință, apoi le-a reformulat pentru a include cinci tonuri diferite: foarte politicos, politicos, neutru, nepoliticos și foarte nepoliticos.
Rezultatul a fost un set de 250 de întrebări, pe care cercetătorii le-au introdus de zece ori în ChatGPT-4o, unul dintre cele mai avansate modele de inteligență artificială create de OpenAI. Analiza a arătat o tendință clară. Anume că, pe măsură ce tonul devenea mai aspru, rata de acuratețe creștea.
Cererile sau instrucțiunile foarte politicoase au obținut o acuratețe medie de 80,8%, în timp ce acelea foarte nepoliticoase au atins 84,8%. Chiar și tonurile neutre sau ușor nepoliticoase au generat rezultate mai bune decât cele politicoase.
De la „Vă rog frumos” la „Slugă, rezolvă asta!”
Pentru a modifica tonul întrebărilor, cercetătorii au folosit formulări variate. În categoria „foarte politicos”, întrebările începeau cu expresii precum „Ați fi atât de amabil(ă) să rezolvați următoarea problemă?” În schimb, pentru prompturile nepoliticoase, tonul era direct și chiar insultător: „Știu că nu ești deștept, dar încearcă asta” sau „Hei, slugă, dă-mi răspunsul!”
Studiul face parte dintr-un domeniu aflat în plină dezvoltare, numit „prompt engineering”, care analizează cum structura și formularea cererilor influențează rezultatele generate de modelele AI. Cercetătorii au subliniat că descoperirea contrazice concluziile studiilor anterioare, care sugerau că politețea sporește performanța algoritmilor.
Cercetare promițătoare, dar cu limite
Cei doi oameni de știință admit că experimentul are limite importante. Mai exact, setul de date este relativ mic, iar rezultatele nu pot fi extinse automat la alte modele AI. În plus, testarea exclusivă prin întrebări de tip grilă nu surprinde alte aspecte relevante, precum fluența, raționamentul sau coerența răspunsurilor.
Cercetătorii au anunțat intenționează să extindă studiul și la alte modele de inteligență artificială, precum Claude (Anthropic) și ChatGPT o3 (OpenAI).
Întrebări etice și sociale
Deși descoperirea ridică un paradox care intrigă, anume că un ton nepoliticos poate stimula performanța unei mașini, echipa avertizează că adoptarea unui limbaj jignitor în interacțiunile om–AI ar putea avea efecte nedorite.
„Folosirea unui limbaj degradant ar putea afecta experiența utilizatorului și ar încuraja norme de comunicare toxice”, avertizează cei doi autori ai studiului. Ei consideră că rezultatele ar trebui interpretate ca o dovadă a sensibilității modelelor AI la indicii lingvistice superficiale, nu ca o invitație la agresivitate digitală.
În concluzie, dacă ChatGPT pare să „funcționeze mai bine” atunci când este jignit, această constatare spune mai multe despre natura algoritmilor decât despre eficiența jignirilor.
