Într-un moment în care inteligența artificială generativă (GenAI) promite să redefinească lumea, creatorii ei recunosc cu franchețe că nu mai înțeleg cu adevărat cum funcționează aceste „minți digitale”. Spre deosebire de software-ul clasic, unde fiecare linie de cod este scrisă și controlată de oameni, modelele de AI generativă sunt antrenate să „gândească” singure, iar traseul pe care îl urmează rămâne, de multe ori, o enigmă, susține TechXplore.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
„Oamenii din domeniul tehnologiei sunt adesea surprinși și alarmați să afle că nu înțelegem cum funcționează propriile noastre creații AI. Această lipsă de înțelegere este esențialmente fără precedent în istoria tehnologiei”, a relatat Dario Amodei, cofondator al companiei Anthropic.
Modelele GenAI, precum ChatGPT sau Claude, funcționează mai degrabă ca niște exploratori digitali decât ca simple mașini de calcul
Ele învață din miliarde de exemple, își dezvoltă structuri interne complexe și ajung la concluzii fără ca oamenii să poată urmări exact pașii parcurși.
Chris Olah, fost cercetător la OpenAI și acum membru al echipei Anthropic, compară aceste modele cu „scafandri” care plonjează în adâncuri necunoscute. Este unul dintre pionierii unui nou domeniu, interpretabilitatea mecanistică, domeniu care încearcă să înțeleagă cum iau naștere ideile în aceste „creiere artificiale”.
Pentru Neel Nanda, cercetător la Google DeepMind, ambiția este comparabilă cu încercarea de a descifra complet creierul uman. „A înțelege întreaga funcționare a unui model lingvistic mare este o sarcină incredibil de ambițioasă”, spune el. „Este oarecum analog cu încercarea de a înțelege complet creierul uman, și nici acolo nu avem încă toate răspunsurile”.
De la curiozitate marginală la domeniu academic emergent
În doar câțiva ani, studiul mecanismelor interne ale AI a trecut de la o preocupare marginală la o zonă academică fierbinte. „Studenții sunt foarte atrași de acest domeniu deoarece percep impactul pe care îl poate avea”, spune Mark Crovella, profesor de informatică la Universitatea Boston.
Interpretabilitatea mecanistică presupune nu doar analiza rezultatelor generate de AI, ci și examinarea proceselor care au dus acolo. Crovella explică: „Poți să te uiți în model, să vezi calculele care sunt realizate și să încerci să le înțelegi”. Spre deosebire de creierul uman, unde multe mecanisme rămân inaccesibile, AI-ul poate fi „disecat” digital neuron cu neuron.
Companii ca Goodfire dezvoltă deja instrumente care urmăresc să facă modelele AI transparente și să le corecteze în timp real. Eric Ho, CEO-ul Goodfire, avertizează însă că ne aflăm într-o „cursă contra cronometru”, trebuie să înțelegem cum funcționează aceste modele înainte de a le implementa pe scară largă.
Mizele sunt uriașe, etică, securitate, competitivitate
Înțelegerea modului în care gândesc modelele GenAI nu este doar un exercițiu academic. Este o chestiune de etică, securitate și competitivitate globală. În eseul său, Amodei estimează că, până în 2027, vom avea instrumente capabile să identifice în mod fiabil intențiile dăunătoare sau părtinirile modelelor AI.
Anh Nguyen, profesor asociat la Universitatea Auburn, susține aceeași idee. Iar Crovella subliniază că dispunem deja de acces la „fiecare neuron digital” din modelele moderne, doar că nu știm încă exact ce să întrebăm sau cum să interpretăm răspunsurile.
Un model AI etic și transparent ar putea deveni un avantaj economic major
O înțelegere clară a acestor modele ar putea permite folosirea AI în domenii sensibile precum medicina, securitatea națională sau științele fundamentale. Exemplul AlphaZero, sistemul AI de la DeepMind care a revoluționat strategia în șah, arată că inteligența artificială poate produce idei și soluții de neegalat.
În plus, un model AI etic și transparent ar putea deveni un avantaj economic major. Într-un context global tensionat, în care SUA și China concurează pentru supremație tehnologică, deținerea unei AI avansate, dar și înțelese și controlate, poate fi cheia unui nou echilibru geopolitic.
„AI puternic va modela destinul umanității. Merităm să înțelegem propriile noastre creații înainte ca acestea să transforme radical economia, viața și viitorul nostru”, conchide Dario Amodei.
