Inițiativa Llama AI a companiei Meta, o piatră de temelie a strategiei sale de inteligență artificială open-source, se confruntă cu o provocare semnificativă, deoarece majoritatea creatorilor originali ai lucrării sale fundamentale despre Llama, detaliată pe arXiv, au părăsit compania. Potrivit unui raport al Business Insider, 11 dintre cei 14 autori au plecat deja, o evoluție care ridică semne de întrebare serioase cu privire la capacitatea Meta de a păstra talente de elită în domeniul inteligenței artificiale și de a-și menține impulsul competitiv în arena extrem de disputată a inteligenței artificiale.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Dintre cei 14 autori menționați în lucrarea de referință din 2023 care a introdus Llama în lume, doar trei încă lucrează la Meta: cercetătorul Hugo Touvron, inginerul de cercetare Xavier Martinet și liderul programului tehnic Faisal Azhar. Restul au părăsit compania, mulți dintre ei pentru a se alătura sau a fonda rivali emergenți.
Mulți cercetători de top s-au alăturat startup-ului francez de inteligență artificială Mistral
Exodul creierelor Meta este cel mai vizibil la Mistral, startup-ul cu sediul la Paris, co-fondat de foștii cercetători Meta, Guillaume Lample și Timothée Lacroix, doi dintre arhitecții cheie ai Llama. Alături de mai mulți colegi absolvenți Meta, aceștia construiesc modele open-source puternice care concurează direct cu produsele emblematice ale Meta în domeniul inteligenței artificiale.
Plecările de-a lungul timpului ridică semne de întrebare cu privire la capacitatea Meta de a păstra talentele de top în domeniul inteligenței artificiale, exact în timp ce se confruntă cu un nou val de presiune externă și internă. Compania amână cel mai mare model de inteligență artificială realizat vreodată, Behemoth, din cauza îngrijorărilor interne cu privire la performanța și leadershipul său. Llama 4, cea mai recentă versiune a Meta, a fost primită cu reticență din partea dezvoltatorilor, mulți dintre aceștia alegând acum rivali open-source cu evoluție mai rapidă, precum DeepSeek și Qwen, pentru capabilități de ultimă generație.
Remanierea conducerii vine după o perioadă de uzură
În cadrul Meta, echipa de cercetare a văzut, de asemenea, o reorganizare. Joelle Pineau, care a condus grupul de Cercetare Fundamentală în Inteligență Artificială (FAIR) al companiei timp de opt ani, a anunțat luna trecută că se va retrage. Ea va fi înlocuită de Robert Fergus, care a co-fondat FAIR în 2014 și apoi a petrecut cinci ani la DeepMind de la Google înainte de a se alătura din nou Meta în această lună.
Remanierea conducerii vine după o perioadă de uzură discretă. Mulți dintre cercetătorii din spatele succesului inițial al Llama au părăsit FAIR de la publicarea lucrării lor de referință, chiar dacă Meta continuă să poziționeze familia de modele ca fiind centrală în strategia sa de inteligență artificială. Cu atât de mulți dintre arhitecții săi originali plecați și rivalii care se mișcă mai rapid în inovația open-source, Meta se confruntă acum cu provocarea de a-și apăra poziția de lider inițial fără echipa care l-a construit.
Acest lucru este deosebit de semnificativ deoarece lucrarea Llama din 2023 a fost mai mult decât o simplă lucrare tehnică. A ajutat la legitimarea modelelor lingvistice mari, cu cod și parametri subiacenți care sunt disponibili gratuit pentru ca alții să le utilizeze, să le modifice și să le dezvolte, ca alternative viabile la sistemele proprietare de la acea vreme, cum erau la acel moment GPT-3 de la OpenAI și PaLM de la Google.
Meta a susținut că și-a antrenat modelele folosind doar date disponibile public, deși dezvăluiri recente o contrazic. Meta a optimizat aceste modele AI pentru eficiență, permițând cercetătorilor și dezvoltatorilor să ruleze sisteme de ultimă generație pe un singur cip GPU. Pentru o clipă, Meta a părut că poate fi lider în domeniul frontierei open source-sursei deschise.
Doi ani mai târziu acest avans a scăzut iar Meta nu mai conduce
În ciuda investițiilor de miliarde în IA, Meta încă nu are un model dedicat de „raționament”, unul construit special pentru a gestiona sarcini care necesită gândire în mai mulți pași, rezolvarea problemelor sau apelarea instrumentelor externe pentru a finaliza comenzi complexe. Această diferență a devenit mai evidentă pe măsură ce alte companii precum Google și OpenAI prioritizează aceste caracteristici în cele mai recente modele ale lor.
Cercetătorii plecați nu au fost angajați pe termen scurt
Perioada medie de mandat a celor 11 autori plecați de la Meta a fost de peste cinci ani, ceea ce sugerează că nu au fost angajați pe termen scurt, ci cercetători profund integrați în eforturile Meta în domeniul IA. Unii au plecat încă din ianuarie 2023; alții au rămas pe parcursul ciclului Llama 3, iar câțiva au plecat chiar anul acesta. Împreună, plecările lor marchează destrămarea în surdină a echipei care a ajutat Meta să-și construiască reputația în domeniul IA pe modele open source.
Un purtător de cuvânt al Meta a contraargumentat despre autorii de lucrări de cercetare din spatele Llama care au plecat că nu ar fi aceiași care au creat modelele LamaAI. Cronologia plecărilor (lista de mai jos) pare să-l contrazică.
Lista de mai jos, bazată pe informații din profilurile LinkedIn ale cercetătorilor, arată unde a ajuns fiecare dintre ei.
Naman Goyal
Rol actual: Membru al personalului tehnic la Thinking Machines Lab
A părăsit Meta: februarie 2025
Timp la Meta: 6 ani, 7 luni
Baptiste Rozière
Rol actual: Cercetător în inteligență artificială la Mistral
A părăsit Meta: august 2024
Timp la Meta: 5 ani, 1 lună
Aurélien Rodriguez
Rol actual: Director, Training Foundation Model la Cohere
A părăsit Meta: iulie 2024
Timp la Meta: 2 ani, 7 luni
Eric Hambro
Rol actual: Membru al personalului tehnic la Anthropic
A părăsit Meta: noiembrie 2023
Timp la Meta: 3 ani, 3 luni
Timothée Lacroix
Rol actual: Co-fondator și CTO la Mistral
A părăsit Meta: iunie 2023
Timp la Meta: 8 ani, 5 luni
Marie-Anne Lachaux
Rol actual: Membru fondator și inginer de cercetare IA la Mistral
A părăsit Meta: iunie 2023
Timp la Meta: 5 ani
Thibaut Lavril
Rol actual: inginer de cercetare IA la Mistral
A părăsit Meta: iunie 2023
Timp la Meta: 4 ani, 5 luni
Armand Joulin
Rol actual: Cercetător distins la Google DeepMind
A părăsit Meta: mai 2023
Timp la Meta: 8 ani, 8 luni
Gautier Izacard
Rol actual: personal tehnic la Microsoft AI
A părăsit Meta: martie 2023
Timp la Meta: 3 ani, 2 luni
Edouard Grave
Rol actual: cercetător științific la Kyutai
A părăsit Meta: februarie 2023
Timp la Meta: 7 ani, 2 luni
Guillaume Lample
Rol actual: co-fondator și șef de știință la Mistral
A părăsit Meta: început 2023
Timp petrecut la Meta: 7 ani