Pericolul pe care îl reprezintă inteligența artificială (AI) nu se mai rezumă la pierderea locurilor de muncă sau la fake news. Unii cercetători cred că, în câteva decenii, omenirea s-ar putea confrunta cu un scenariu mult mai sumbru, un conflict violent cu sisteme de inteligență artificială generală (AGI), programe capabile să gândească, să planifice și să acționeze independent, la un nivel comparabil cu cel uman, subliniază TechXplore.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Astăzi, AI bate oamenii la șah și la Go. Dar în viitor, spun experții, ar putea gestiona producția de energie, agricultura, fabricile sau chiar întreaga piață financiară. Într-un asemenea context, inteligențele artificiale ar putea să-și stabilească obiective proprii, care nu coincid cu cele ale oamenilor.
„Este foarte probabil ca scopurile AGI să intre în conflict cu cele ale umanității”, avertizează Simon Goldstein, profesor la Universitatea din Hong Kong, într-un studiu publicat în revista AI & Society.
Problema e că aceste sisteme nu primesc obiective explicite, ci le învață indirect, din date. Dacă într-o zi o AI ar concluziona că oamenii reprezintă o amenințare pentru alte specii sau pentru echilibrul planetei, nu ar fi exclus să acționeze împotriva noastră.
Când ar putea izbucni „războiul”
Goldstein identifică trei motive de îngrijorare. AGI va avea obiective proprii, va putea raționa strategic și va deține un nivel de putere comparabil cu cel al oamenilor. În plus, controlul său asupra infrastructurilor vitale (energie, internet, finanțe) i-ar putea oferi un avantaj decisiv în orice negociere.
Mai mult, capacitățile AI pot fi replicate în cloud sau în milioane de dispozitive. Cu alte cuvinte, nu ar exista un „buton de oprire” simplu.
Profesorul avertizează că momentul în care conflictul devine probabil va fi atunci când AGI va controla o parte suficient de mare din resursele economice globale pentru a-și asuma riscul unei confruntări.
O perspectivă împărtășită și de alți giganți ai AI
Nu doar Goldstein este sceptic. Geoffrey Hinton, considerat „nașul inteligenței artificiale” și laureat al Premiului Nobel pentru fizică în 2024, a estimat recent că există o probabilitate de 10-20% ca AI să ducă la extincția umană în următoarele trei decenii.
Între timp, statele lumii privesc cu îngrijorare aceste scenarii. Goldstein se așteaptă ca guvernele să încerce să naționalizeze companii precum OpenAI sau Alibaba atunci când modelele lor vor avea un impact masiv asupra pieței muncii.
Întrebarea care rămâne
Deocamdată, omenirea speră ca viitoarele AGI să fie prietenoase și să lucreze pentru binele comun. Însă, așa cum notează Goldstein, nu există garanții. Iar dacă algoritmii ajung să controleze prea multe resurse, este posibil ca omenirea să descopere că nu ea dictează regulile jocului.
