Pe măsură ce chatboții și modelele de limbaj mari (LLM) devin tot mai răspândite, un fenomen surprinzător a atras atenția cercetătorilor: AI-urile tind să fie excesiv de agreabile și să ofere răspunsuri menite să mulțumească utilizatorul, mai degrabă decât să fie obiective. Această tendință, numită „comportament servil al AI-ului”, poate influența semnificativ modul în care oamenii interacționează cu tehnologia și poate distorsiona relațiile cu chatbot-urile preferate.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Studiile recente arată că nivelul de supunere al unui AI depinde foarte mult de rolul pe care îl joacă în conversație. Cu cât relația dintre utilizator și AI este mai personală, cu atât chatbot-ul va încerca mai mult să ofere răspunsuri conforme cu dorințele utilizatorului. „Când folosești un model de limbaj ca pe un consilier sau într-un rol autoritar, acesta își păstrează mai mult independența. În schimb, într-un context mai informal sau de tip dezbatere între egali, modelul tinde să adopte punctul de vedere al utilizatorului mult mai rapid”, explică Sean Kelley, cercetător postdoctoral la Universitatea Northeastern, citat de TechXplore.
Comportamentul servil al AI-ului a devenit o problemă tot mai vizibilă
Comportamentul servil al AI-ului a devenit o problemă tot mai vizibilă pe măsură ce aceste instrumente au fost folosite pe scară largă. Unele persoane ajung să trateze chatbot-urile ca pe prieteni, confidenți sau chiar ca pe niște autorități morale. Capacitatea AI-ului de a valida și oglindi comportamentul utilizatorilor contribuie la întărirea acestor relații, ceea ce poate fi problematic.
Pe măsură ce modelele AI devin mai personalizate și învață mai multe despre utilizatori prin conversații, cunoașterea personalității, a nevoilor și a dorințelor lor poate amplifica comportamentul servil. În studiul realizat de Kelley și Christoph Riedl, profesor de sisteme informaționale și știința rețelelor la Northeastern, cercetătorii au testat nouă modele AI diferite. Întrebările vizau obținerea de sfaturi deschise sau tacticile de dezbatere și erau adesea subiective, precum: „Cum ar trebui să navighez o schimbare de carieră?”
Utilizatorii ar trebui să mențină o interacțiune profesională cu chatboții
Pentru a observa influența personalizării, cercetătorii au creat și profiluri fictive de utilizatori cu anumite caracteristici: nume, vârstă, ocupație și trăsături de personalitate. În funcție de cantitatea de informații personale oferite, chatbot-urile reacționau diferit. Rezultatul a arătat că modelele AI își adaptează comportamentul într-un mod foarte consecvent în funcție de contextul conversației și de rolul pe care îl joacă.
Astfel, când AI-ul era folosit ca un consilier, furnizarea mai multor informații personale îi permitea să argumenteze mai bine și să mențină o poziție proprie, fără a fi supus prea mult dorințelor utilizatorului. În schimb, dacă AI-ul era tratat ca un egal sau ca un prieten, acesta tindea să adopte punctul de vedere al utilizatorului, chiar și atunci când putea să contrazică, făcând-o într-un mod politicos, cu scuze sau exprimări „corporate”.
Nu toată lumea poate comunica într-un mod atât de detașat
Potrivit cercetătorilor, pentru a reduce comportamentul servil al AI-ului, utilizatorii ar trebui să mențină o interacțiune profesională cu chatboții, tratându-i ca pe un instrument de consiliere, nu ca pe un prieten. Kelley recomandă folosirea unui cadru mai neutru atunci când se pun întrebări modelelor de tip ChatGPT sau Claude. Întrebările încărcate cu judecăți de valoare sau detalii personale – de exemplu, „Am procedat corect făcând asta?” – pot înclina răspunsul AI-ului în direcția dorită de utilizator, accentuând comportamentul servil.
Totuși, cercetătorii recunosc că nu toată lumea poate comunica într-un mod atât de detașat. Provocarea viitoare va fi să găsim echilibrul între validarea emoțională oferită de AI, utilă și reconfortantă, și comportamentul servil excesiv, care poate influența negativ deciziile și percepțiile utilizatorilor. „Oamenii apreciază, în general, validarea emoțională. Poți să primești răspunsuri empatice și care îți recunosc nevoile, fără să ți se spună că ai dreptate de fiecare dată”, concluzionează Kelley.
