Directoarea departamentului de robotică al companiei OpenAI, Caitlin Kalinowski, a anunțat sâmbătă că își părăsește funcția în urma controversei generate de acordul dintre compania de inteligență artificială și autoritățile americane, care permite folosirea tehnologiei sale în proiecte militare și de securitate internă, relatează AFP, citată de Agerpres.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Decizia vine după ce OpenAI a încheiat, în luna februarie, un contract cu Departamentul Apărării al Statelor Unite, cunoscut drept Pentagonul, care deschide posibilitatea utilizării sistemelor de inteligență artificială dezvoltate de companie în domeniul militar și în activități legate de securitatea națională.
Într-un mesaj publicat pe platforma X, Kalinowski a explicat că, deși recunoaște importanța inteligenței artificiale în domeniul apărării, există riscuri serioase care ar trebui analizate mai atent.
„AI joacă un rol important în securitatea națională. Dar supravegherea americanilor fără control judiciar și autonomia letală fără autorizație umană sunt probleme care meritau mai multă atenție decât au primit”, a scris aceasta pentru a-și justifica decizia de a demisiona.
Contextul acordului dintre OpenAI și Pentagon
Contractul obținut de OpenAI a fost anunțat într-un moment tensionat în industria inteligenței artificiale.
Acordul a venit la doar câteva ore după ce compania rivală Anthropic a refuzat să accepte un ultimatum din partea guvernului american.
Autoritățile ceruseră companiei să permită armatei utilizarea fără restricții a sistemului său de inteligență artificială, Claude.
Refuzul Anthropic a generat reacții politice puternice, inclusiv critici din partea președintelui Donald Trump, ceea ce a amplificat presiunea asupra companiilor din domeniu pentru a coopera cu autoritățile în proiecte legate de securitatea națională.
În acest context, Sam Altman, directorul executiv al OpenAI, a anunțat ulterior pe X că acordul cu Pentagonul a fost modificat pentru a introduce anumite garanții privind modul în care tehnologia companiei poate fi utilizată.
Potrivit acestuia, o nouă clauză precizează că sistemele de inteligență artificială dezvoltate de OpenAI nu trebuie folosite „în mod intenționat” pentru supravegherea cetățenilor americani.
Motivul demisiei
Cu toate aceste clarificări, Caitlin Kalinowski a declarat că problema nu ține de persoane, ci de modul în care au fost gestionate deciziile la nivel de conducere.
„Este o chestiune de principii, nu de persoane”, a afirmat ea, adăugând că păstrează „mult respect pentru Sam (Altman) și echipă”.
Într-un mesaj ulterior, Kalinowski a explicat că anunțul privind acordul cu Pentagonul a fost făcut prea rapid, fără ca toate mecanismele de protecție și responsabilitate să fie clar stabilite.
„Ca să fie clar, problema mea este că anunțul a fost făcut în grabă, fără a fi definite garanțiile”, a precizat ea.
Directoarea a subliniat că, în opinia sa, deciziile legate de utilizarea inteligenței artificiale în domenii sensibile trebuie tratate cu mult mai multă atenție.
„Este în primul rând o chestiune de guvernanță. Aceste aspecte sunt prea importante pentru ca acordurile sau anunțurile să fie grăbite”, a adăugat aceasta.
Parcurs profesional
Înainte de a se alătura OpenAI, Caitlin Kalinowski a lucrat în cadrul companiei Meta, unde a fost implicată în dezvoltarea unor dispozitive de realitate augmentată, inclusiv proiecte de ochelari inteligenți.
Demisia sa readuce în atenție dezbaterea globală privind rolul inteligenței artificiale în domeniul militar, dar și responsabilitatea companiilor tehnologice atunci când produsele lor pot fi utilizate în activități de supraveghere sau în sisteme autonome de luptă.
