„Cu siguranță o să construim un buncăr înainte să lansăm inteligența artificială generală”, afirmă Ilya Sutskever, co-fondatorul și fostul șef științific al OpenAI

În noiembrie 2023, lumea tehnologiei a fost șocată de o veste neașteptată: Sam Altman, CEO-ul OpenAI, compania din spatele celebrului ChatGPT, fusese demis peste noapte de consiliul de administrație. Deși a fost readus la putere în doar câteva zile, evenimentele din acele momente dramatice ne arată o realitate îngrijorătoare despre cine controlează viitorul inteligenței artificiale, relatează TheAtlantic.

Totul a început cu Ilya Sutskever, co-fondatorul și fostul șef științific al OpenAI. În pofida succesului răsunător al ChatGPT, aplicația cu cea mai rapidă ascensiune din istorie, Sutskever părea copleșit de propriile sale temeri. În întâlniri cu noii cercetători ai companiei, acesta vorbea despre scenarii apocaliptice și chiar despre construirea unui „buncăr” pentru a proteja oamenii de știință care lucrează la inteligența artificială generală (AGI).

„Odată ce vom intra toți în buncăr…” a început Sutskever într-o astfel de întâlnire, conform martorilor. Când a fost întrebat ce înseamnă „buncărul”, acesta a explicat că o tehnologie atât de puternică va deveni sigur un obiect de dorință pentru guvernele lumii, iar oamenii de știință vor avea nevoie de protecție.

Pentru Sutskever, care împărțea timpul între dezvoltarea AI și siguranța acesteia, AGI-ul nu era doar o posibilitate, era inevitabil și iminent. Această obsesie l-a dus să înțeleagă că OpenAI se îndepărta de misiunea sa originală.

De la nonprofit la „imperiu comercial”

Când a fost fondată în 2015, OpenAI promitea să dezvolte inteligența artificială în beneficiul întregii umanități. Co-fondatorii, printre care Sam Altman și Elon Musk, au creat organizația ca nonprofit și s-au angajat să împartă cercetarea cu alte instituții. Numele companiei însăși sugera deschiderea și transparența.

Dar realitatea s-a dovedit mult mai complicată. Dezvoltarea AI necesita sume uriașe de bani. Musk a părăsit organizația în 2018, iar Altman a restructurat compania, creând o divizie „cu profit limitat” pentru a atrage mai mult capital. Idealurile originale au început să se erodeze.

Conflictul care a zguduit Silicon Valley

Până în vara lui 2023, atât Sutskever cât și Mira Murati, directoarea tehnică a companiei, ajunseseră la aceeași concluzie îngrijorătoare: Sam Altman nu mai era persoana potrivită să conducă OpenAI către AGI. Comportamentul său – descrierea contradictorie a planurilor către echipe diferite, criticarea angajaților în spatele lor, și încercarea de a ocolii protocoalele de siguranță, subminau atât progresul cercetării cât și procesele de siguranță.

„Nu cred că Sam este omul care ar trebui să aibă degetul pe buton pentru AGI”, a spus Sutskever într-o întâlnire cu consiliul de administrație, conform documentelor consultate de jurnaliști.

Murati, care juca adesea rolul de „traducător” între Altman și restul companiei, avea aceleași îngrijorări: „Nu mă simt confortabil cu Sam conducându-ne către AGI.”
Demiterea și revenirea spectaculoasă

Pe 17 noiembrie 2023, consiliul de administrație l-a demis pe Altman într-o videoconferință Google Meet. Planul era să o instaleze pe Murati ca CEO interimar. Pentru câteva ore, viitorul OpenAI părea deschis – compania ar fi putut lua o direcție mai puțin agresiv comercială.

Dar planul s-a prăbușit rapid. Angajații s-au revoltat, amenințând cu demisia în masă. Microsoft, principalul investitor, a făcut presiuni intense. Sutskever, văzând că „copilul” său – OpenAI – risca să se prăbușească, și-a schimbat poziția și a început să pledeze pentru întoarcerea lui Altman.

În doar câteva zile, Altman era înapoi la putere, cu o poziție mai consolidată ca niciodată.

Ce ne spune această dramă despre viitorul AI

Evenimentele din November 2023 ne arată o realitate îngrijorătoare: viitorul unei tehnologii care va redefini societatea este controlat de un grup mic de elite din Silicon Valley. OpenAI a devenit exact opusul a ceea ce promitea să fie:

Din transparent, secretos: Compania nu mai împărtășește detalii tehnice despre modelele sale, influențând întreaga industrie să facă la fel

Din nonprofit, super-profitabil: A strâns sume record de finanțare și a ajuns la evaluări astronomice

Din deschis, elitist: În loc de „participare democratică”, dezvoltarea AI este concentrată în mâinile câtorva companii gigant

Costurile ascunse ale „revoluției” AI

În timp ce companiile de AI au devenit mai bogate ca niciodată – textul original menționează că cele mai mari șase companii tech și-au crescut valoarea de piață cu peste 8 trilioane de dolari după lansarea ChatGPT, costurile reale se răsfrâng asupra celor mai vulnerabili.

Lucrători din Kenya câștigă salarii mizerabile pentru a filtra violența și discursul de ură din tehnologiile OpenAI. Artiști sunt înlocuiți de modele AI antrenate pe munca lor fără consimțământ sau compensație iar industria jurnalismului se atrofiază pe măsură ce AI-ul generează volume crescânde de dezinformare

Studiile arată că, în ciuda promisiunilor, tehnologia nu se traduce în câștiguri de productivitate pentru majoritatea lucrătorilor, în timp ce le erodează gândirea critică.

Viitorul sub semnul întrebării

Sutskever și Murati au părăsit OpenAI după „Episodul” din noiembrie, alăturându-se unei liste lungi de lideri care au intrat în conflict cu Altman. Ca mulți alții care au eșuat să reformeze OpenAI, au ales următoarea opțiune cea mai populară: și-au deschis propriile companii, pentru a concura pentru viitorul acestei tehnologii.

Sam Altman continuă să promită beneficiile viitoare ale AGI din ce în ce mai tare, declarând într-un post din septembrie 2024 că „Epoca Inteligenței”, caracterizată de „prosperitate masivă”, va fi curând asupra noastră. Dar la acest moment, AGI rămâne în mare parte retorica – o scuză fantastică, universală pentru ca OpenAI să continue să caute din ce în ce mai multă bogăție și putere.

Întrebarea crucială rămâne: Cum ne asigurăm că vom face viitorul nostru mai bun, nu mai rău? Evenimentele din OpenAI ne arată că, deocamdată, răspunsul nu se află în mâinile noastre, ci ale câtorva indivizi din Silicon Valley care pot decide soarta tehnologiei care ne va redefini existența.