Un simplu „mulțumesc” adresat unui AI ar putea consuma mai mult decât ai crede. Iar un e-mail redactat de un chatbot sofisticat ar putea echivala, în termeni energetici, cu câteva secunde bune de funcționare a unui cuptor cu microunde. Aceasta este concluzia, surprinzătoare, dar din ce în ce mai relevantă, a unui nou instrument creat de Julien Delavande, inginer la compania Hugging Face, potrivit TechCrunch.
Inteligența artificială mănâncă curent
Modelele de inteligență artificială consumă energie de fiecare dată când sunt accesate. Ele rulează pe GPU-uri sau cipuri specializate, care cer o cantitate uriașă de electricitate pentru a procesa comenzile primite. Chiar dacă este greu de calculat exact câtă energie consumă un model la o anumită solicitare, consensul general este clar: nevoia de electricitate pentru a susține inteligența artificială va exploda în următorii ani.
Delavande a vrut să transforme această problemă invizibilă într-una cât se poate de concretă. Așa că a creat un instrument de estimare în timp real a consumului energetic pentru mesaje trimise către AI, un tool care funcționează în Chat UI, o interfață open-source compatibilă cu modele de top precum Llama 3.3 70B de la Meta sau Gemma 3 de la Google.
Chatbotul tău consumă cât un LED aprins
Instrumentul lui Delavande raportează consumul energetic în Watt-oră sau jouli, iar pentru a face datele mai ușor de înțeles, le compară cu aparate electrice din gospodărie. De exemplu, dacă îi ceri modelului Llama 3.3 70B să-ți scrie un e-mail obișnuit, vei consuma aproximativ 0,1841 Watt-oră, echivalentul a 0,12 secunde de funcționare a unui cuptor cu microunde sau 0,02 secunde pentru un prăjitor de pâine.
Poate părea puțin, dar totul se adună. „Chiar și economii energetice minore pot deveni semnificative la scară largă, alegerea unui model sau a unei lungimi mai scurte de text poate avea un impact real asupra mediului”, au declarat Delavande și colegii săi în prezentarea instrumentului.
Spre o „etichetă energetică” pentru AI?
Este important de subliniat că valorile generate de instrument sunt estimări, nu măsurători exacte. Dar chiar și așa, ele oferă un semnal de alarmă. Fiecare întrebare adresată unui AI are un preț, iar acel preț nu este doar digital sau abstract, este unul energetic.
„Cu proiecte precum AI Energy Score și cercetări mai largi privind amprenta energetică a AI-ului, milităm pentru transparență în comunitatea open source. Poate, într-o zi, consumul energetic al modelelor va deveni la fel de vizibil precum etichetele nutriționale de pe alimente”, spun creatorii instrumentului.
Pe măsură ce modelele AI devin tot mai integrate în viața noastră, întrebarea nu mai este dacă le vom folosi, ci cât ne va costa, din punct de vedere energetic, fiecare interacțiune.
