Companiile de tehnologie sunt angajate într-o veritabilă „cursă a înarmării” în domeniul inteligenței artificiale, iar miza ar putea fi însăși supraviețuirea speciei umane. Avertismentul vine de la unul dintre cei mai respectați cercetători în domeniu, Stuart Russell, profesor la Universitate Berkeley din California, și o voce influentă în dezbaterea globală privind siguranța AI, potrivit TechXplore.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Într-un interviu acordat AFP, Russell a declarat că dezvoltarea accelerată a sistemelor super-inteligente riscă să scape de sub control, iar guvernele sunt cele care trebuie să intervină urgent.
„A permite entităților private să joace, în esență, ruleta rusească cu fiecare ființă umană de pe Pământ reprezintă o abandonare totală a responsabilității”, a afirmat cercetătorul.
CEO-ii știu riscurile, dar nu pot frâna singuri
Potrivit lui Russell, liderii marilor companii de inteligență artificială sunt conștienți de pericolele asociate sistemelor care, într-o zi, ar putea depăși capacitatea umană de control. Problema este că niciun director executiv nu își poate permite să încetinească unilateral dezvoltarea.
„Cred că fiecare dintre directorii executivi ai principalelor companii de AI ar dori să dezarmeze, dar nu pot face asta singuri, pentru că ar fi concediați de investitori”, a spus el.
Russell a menționat că inclusiv Sam Altman, directorul companiei OpenAI, dezvoltatoarea ChatGPT, a recunoscut public că inteligența artificială ar putea duce la dispariția omenirii.
În paralel, compania americană Anthropic a atras atenția recent că modelele sale avansate ar putea fi manipulate să sprijine, chiar și indirect, dezvoltarea armelor chimice sau alte activități criminale. Atât OpenAI, cât și Anthropic s-au confruntat cu demisii publice ale unor angajați care au invocat preocupări etice.
Investiții uriașe, promisiuni mari, riscuri pe măsură
La nivel global, statele și corporațiile investesc sute de miliarde de dolari în centre de date energofage necesare antrenării și rulării modelelor de AI generativă. Tehnologia promite beneficii majore, de la descoperirea accelerată de medicamente până la optimizarea proceselor industriale.
Însă riscurile sunt pe măsură: pierderi masive de locuri de muncă, supraveghere extinsă, abuzuri online și, în scenariul cel mai sumbru, preluarea controlului de către sisteme autonome extrem de avansate.
„Există riscul ca sistemele AI însele să preia controlul, iar civilizația umană să devină o victimă colaterală”, a avertizat Russell.
India pariază pe AI, în ciuda temerilor
Summitul de la New Delhi, la care participă lideri din industrie și delegații guvernamentale de nivel înalt, este văzut ca o oportunitate de reglementare. Totuși, edițiile anterioare ale unor astfel de reuniuni au produs în principal angajamente voluntare din partea companiilor.
India mizează puternic pe dezvoltarea sectorului. Ministrul IT, Ashwini Vaishnaw, a anunțat că țara se așteaptă la investiții de peste 200 de miliarde de dolari în AI în următorii doi ani, dintre care aproximativ 90 de miliarde sunt deja angajate.
În același timp, apar temeri că instrumentele de tip asistent AI ar putea afecta masiv sectorul indian de servicii pentru clienți și suport tehnic, un pilon important al economiei locale. Acțiunile firmelor de outsourcing au înregistrat deja scăderi, pe fondul îngrijorărilor privind automatizarea accelerată.
„Creăm imitatori ai oamenilor. Iar aplicația naturală pentru un astfel de sistem este înlocuirea oamenilor”, a explicat Russell.
O reacție din partea tinerei generații
Pe măsură ce tehnologia avansează, cercetătorul observă și o reacție tot mai puternică, în special în rândul tinerilor, care resping ceea ce el numește „aspectele dezumanizante” ale inteligenței artificiale.
„Când preiei toate funcțiile cognitive, capacitatea de a răspunde la o întrebare, de a lua o decizie, de a face un plan, transformi o persoană în ceva mai puțin decât o ființă umană. Iar tinerii nu își doresc asta”, a spus el.
În viziunea lui Stuart Russell, soluția nu poate veni din competiția corporatistă, ci dintr-un acord internațional ferm, capabil să impună limite clare. În absența unei intervenții coordonate a guvernelor, „cursa înarmării” în AI ar putea deveni, avertizează el, cel mai periculos experiment tehnologic din istoria omenirii.
