Peste 200 de foști șefi de stat, diplomați, laureați ai Premiului Nobel și experți în inteligență artificială au lansat luni un apel internațional pentru stabilirea unor limite stricte pe care tehnologia AI să nu le depășească. Inițiativa, denumită Global Call for AI Red Lines, vizează încheierea unui acord politic internațional privind „linia roșie” pentru AI până la sfârșitul anului 2026, potrivit The Verge.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Printre semnatari se numără celebrul cercetător britanico-canadian Geoffrey Hinton, cofondatorul OpenAI Wojciech Zaremba, CISO-ul Anthropic Jason Clinton și Ian Goodfellow, cercetător la Google DeepMind. Aceștia susțin că tehnologiile AI nu ar trebui să fie niciodată lăsate să se auto-replice sau să imite complet un om, avertizând că riscurile „potențial ireversibile” trebuie prevenite înainte să se materializeze.
„Scopul este să prevenim riscuri la scară largă care ar putea fi ireversibile”
„Scopul nu este să reacționăm după ce apare un incident major, ci să prevenim riscuri la scară largă care ar putea fi ireversibile”, a declarat Charbel-Raphaël Segerie, director executiv al Centrului Francez pentru Siguranța AI (CeSIA). „Dacă statele nu se pot pune de acord asupra modului în care vor gestiona AI, măcar trebuie să fie de acord asupra lucrurilor pe care AI nu trebuie să le facă niciodată.”
Apelul a fost lansat cu câteva zile înainte de săptămâna de nivel înalt a celei de-a 80-a Adunări Generale a ONU de la New York și a fost coordonat de CeSIA, Future Society și Centrul UC Berkeley pentru Inteligența Artificială Compatibilă cu Omul. În deschiderea evenimentului ONU, laureata Premiului Nobel pentru Pace Maria Ressa a subliniat necesitatea de a „puncta responsabilitatea globală a marilor companii tehnologice”.
„Dezvoltatorii AI trebuie să aleagă o cale tehnologică sigură de la început”
Deși există deja anumite reglementări regionale, cum este AI Act al Uniunii Europene sau acorduri între SUA și China pentru a menține armele nucleare sub control uman, experții atrag atenția că nu există încă un consens global. Niki Iliadis, directoare pentru guvernanța globală a AI la Future Society, susține că pledoariile voluntare nu sunt suficiente și că este necesară crearea unei instituții internaționale independente, cu autoritate de a defini și impune aceste limite.
Stuart Russell, profesor de informatică la UC Berkeley, compară situația cu dezvoltarea energiei nucleare: „Dezvoltatorii AI trebuie să aleagă o cale tehnologică sigură de la început, la fel cum inginerii nucleari nu construiau centrale fără a avea măsuri de siguranță”. Russell subliniază că „linia roșie” nu afectează inovarea sau dezvoltarea economică: AI poate fi folosită pentru progres fără a crea sisteme AGI scăpate de sub control.
