Eric Schmidt, fostul director general al Google, a lansat un avertisment dur privind riscurile inteligenţei artificiale, afirmând că modelele AI pot fi piratate şi transformate în instrumente periculoase, transmite CNBC, transmite News.ro.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
În cadrul conferinţei Sifted Summit, Schmidt a spus că există ”dovezi că modelele, fie ele deschise sau închise, pot fi hackuite pentru a-şi pierde limitele de siguranţă”, iar în procesul de antrenare ”pot învăţa inclusiv cum să ucidă pe cineva”.
El a subliniat că marile companii impun bariere stricte pentru a împiedica asemenea comportamente, însă sistemele pot fi totuşi ”inversate” sau manipulate prin atacuri de tip prompt injection ori jailbreaking. Acestea pot forţa AI-ul să ignore regulile de siguranţă şi să genereze conţinut periculos.
Deşi a recunoscut pericolele proliferării necontrolate a inteligenţei artificiale, Schmidt a declarat că AI-ul este ”subestimat, nu supraevaluat”, comparându-l cu ”sosirea unei inteligenţe extraterestre” care va depăşi capacităţile umane. Fostul CEO crede că, în următorii 5–10 ani, impactul economic şi transformator al AI-ului va fi ”uriaş şi imposibil de ignorat”.
