O descoperire șocantă zguduie comunitatea cercetătorilor în inteligență artificială. Aproximativ 21% dintre recenziile lucrărilor trimise la Conferința Internațională de Reprezentări de Învățare (ICLR 2026) au fost complet generate de inteligență artificială, iar mai mult de jumătate dintre recenzii prezintă semne de utilizare a AI. Evenimentul, care va avea loc în aprilie la Rio de Janeiro și va reuni peste 11.000 de specialiști în machine learning, este considerat unul dintre cele mai importante din domeniu, anunță prestigioasa revistă Nature.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Problema a fost semnalată de mai mulți cercetători pe rețelele sociale, care au atras atenția asupra citărilor inventate și a feedback-ului lung și vag primit pentru propriile lucrări. Graham Neubig, cercetător la Carnegie Mellon University, a remarcat că recenziile primite erau „scrise într-un limbaj neobișnuit,, cu multe bullet-uri și alte particularități ale textelor generate de AI” și solicitau analize neobișnuite, diferite de standardele obișnuite din literatura de AI.
Aproape 16.000 de recenzii erau complet generate de AI
Pentru a demonstra că recenziile erau generate de AI, Neubig a apelat la comunitate și a oferit o recompensă pentru cine ar putea analiza toate lucrările și recenziile conferinței. Răspunsul a venit rapid din partea Pangram Labs, care a scanat toate cele 19.490 de lucrări și 75.800 de recenzii trimise pentru ICLR 2026. Analiza a relevat că aproape 16.000 de recenzii erau complet generate de AI, iar 199 lucrări (1%) erau și ele create integral de inteligență artificială.
Situația a stârnit nemulțumiri în rândul cercetătorilor. Desmond Elliott, profesor la Universitatea din Copenhaga, a relatat că una dintre recenziile primite „a ratat complet scopul lucrării” și conținea rezultate numerice incorecte, ceea ce i-a întărit suspiciunea că textul a fost generat de AI. Alte recenzii suspectate de a fi fost create artificial au oferit feedback amplu, parțial relevant, dar cu numeroase greșeli sau afirmații absurde.
ICLR 2026 permite folosirea AI, cu condiția dezvăluirii acestor utilizări
ICLR 2026 permite folosirea AI pentru corectarea textului, generarea de cod sau analiza datelor, cu condiția dezvăluirii acestor utilizări. Organizatorii au declarat că vor folosi acum instrumente automate pentru a verifica respectarea regulilor și vor aplica sancțiuni în cazul încălcărilor. „Nivelul pentru respingerea unei recenzii va fi ridicat, pentru că instrumentele automate pot da rezultate false”, a explicat Bharath Hariharan, președinte senior de program pentru conferință.
Această situație subliniază presiunea tot mai mare asupra recenzorilor, care trebuie să evalueze un volum impresionant de lucrări într-un timp foarte scurt. Fiecare recenzor ICLR a avut de analizat, în medie, cinci lucrări în doar două săptămâni, mult peste standardele din trecut.
