Dario Amodei, CEO-ul Anthropic, compania din Silicon Valley care a creat unul dintre cele mai puternice și utilizate sisteme de inteligență artificială din lume, lansează un avertisment sever asupra riscurilor generate de AI. Într-un eseu de 38 de pagini, Amodei vorbește despre pericolul iminent ca inteligența artificială să provoace probleme majore la scară civilizațională, dacă guvernele și companiile tehnologice nu intervin rapid și inteligent, informează Axios.com.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
„Cred că intrăm într-un ritual de trecere, atât turbulent, cât și inevitabil, care ne va testa ca specie. Oamenii vor primi o putere aproape inimaginabilă și nu este clar dacă sistemele noastre sociale, politice și tehnologice sunt suficient de mature pentru a o gestiona”, scrie Amodei.
AI-ul ca „țară a geniilor”
Amodei avertizează că în doar câțiva ani am putea asista la apariția unei „țări a geniilor într-un centru de date”: mașini cu inteligență comparabilă cu cea a câștigătorilor de Premii Nobel, capabile să creeze autonom de la texte și videoclipuri până la agenți biologici sau sisteme de armament.
„Dacă progresul exponențial continuă, ceea ce nu este sigur, dar are un deceniu de susținere, atunci nu va mai dura mult până când AI-ul va fi mai capabil decât oamenii în aproape toate domeniile”, avertizează CEO-ul Anthropic.
Riscuri majore identificate
Amodei enumeră mai multe pericole în eseul său, intitulat The Adolescence of Technology: Confronting and Overcoming the Risks of Powerful AI:
- Pierderi masive de locuri de muncă: AI-ul ar putea înlocui până la 50% dintre locurile de muncă administrative în 1–5 ani, iar în doar 1–2 ani ar putea depăși capacitățile tuturor oamenilor.
- Puterea AI-ului pentru state: O „țară a geniilor” ar reprezenta cea mai gravă amenințare pentru securitatea națională din ultimul secol, potrivit analogiei lui Amodei.
- Risc terorist în creștere: AI-ul ar putea fi folosit pentru atacuri biologice sau alte atacuri complexe, cu un potențial de victime în milioane.
- Autoritarism AI: Guvernele autoritare, în special China, ar putea folosi AI-ul pentru supraveghere și control, ceea ce îl îngrijorează profund pe CEO-ul Anthropic.
- Puterea companiilor de AI: „Companiile AI controlează centre de date mari și au capacitatea de a influența milioane de utilizatori”, avertizează Amodei, subliniind riscul manipulării publicului.
- Tentativa de a reduce riscul în tăcere: Profiturile uriașe din AI ar putea determina liderii să ignore sau să ascundă problemele tehnologice, în detrimentul siguranței globale.
Un apel la acțiune
Amodei îndeamnă oamenii bogați și, în special, liderii din tehnologie, să contribuie activ la prevenirea acestor riscuri. „Este trist că mulți adoptă o atitudine cinică, și consideră că filantropia este inutilă. Oamenii trebuie să se trezească, iar acest eseu încearcă să facă exact asta”, conchide CEO-ul Anthropic.
