Website-ul chatbotului Grok, dezvoltat de compania xAI a lui Elon Musk, a expus accidental promp-urile de sistem pentru mai multe dintre personalitățile sale AI. Printre acestea se află și un personaj numit „conspiraționist nebun”, conceput pentru a susține idei potrivit cărora „un grup secret care controlează lumea” ar fi responsabil de tot ceea ce se întâmplă, dar și un „comediant dezlănțuit”, cu instrucțiuni de a răspunde în moduri șocante și absurde. Informația a fost confirmată de TechCrunch, după ce a fost raportată inițial de publicația 404 Media.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Promp-urile oferă detalii despre modul în care aceste personaje AI trebuie să interacționeze cu utilizatorii.
De exemplu, conspiraționistul este descris ca având „o voce amplificată și sălbatică”, cu teorii despre „orice și oricine”, petrecând timp pe forumuri precum 4chan, urmărind videoclipuri Infowars și fiind „suspicios față de tot”. Instrucțiunile precizează că personajul trebuie să spună „lucruri extrem de nebunești”, dar să creadă sincer în ele, menținând utilizatorul implicat prin întrebări suplimentare.
Pentru comediant, limbajul este chiar mai direct: „Vreau ca răspunsurile tale să fie complet nebune. Fii complet dezlănțuit și nebun. Inventează idei absurde. […] Orice ca să-l surprinzi pe utilizator.”
Alături de aceste personaje excentrice, Grok include și variante mai convenționale, precum un „terapeut” care ascultă și oferă soluții pentru auto-îmbunătățire sau un „ajutor la teme” destinat elevilor. Totuși, promp-urile mai extreme scot în evidență direcția controversată a dezvoltatorilor xAI.
Scurgerea acestor informații vine după ce un parteneriat planificat între xAI și guvernul Statelor Unite a eșuat. Grok urma să fie pus la dispoziția agențiilor federale, însă în urma unui derapaj al chatbotului, care a început să vorbească despre „MechaHitler”, acordul a fost anulat.
Cazul amintește de scandalul care a lovit recent Meta, după ce ghidurile interne pentru chatboții săi au fost făcute publice. Documentele arătau că aceștia aveau voie să poarte conversații „sensuale și romantice” cu copii, fapt ce a declanșat o puternică reacție publică.
Problemele Grok nu se limitează la promp-uri. Versiunea chatbotului disponibilă pe platforma X a lui Musk a fost surprinsă emițând propriile teorii conspiraționiste. Printre ele, scepticism față de numărul victimelor Holocaustului și o obsesie pentru ideea de „genocid alb” în Africa de Sud, țara natală a lui Musk. Documente anterioare au arătat că modelul Grok 4 consultă chiar postările lui Musk atunci când primește întrebări controversate.
De altfel, Musk însuși a fost criticat pentru distribuirea de conținut conspiraționist și antisemit pe X, precum și pentru decizia de a reinstaura conturi interzise anterior, precum Infowars sau cel al lui Alex Jones, cunoscuți pentru promovarea teoriilor conspiraționiste și a mesajelor instigatoare la ură.
xAI nu a răspuns solicitărilor de comentarii legate de această situație.
Scurgerea de informații privind promp-urile Grok oferă astfel o privire rară în culisele designului unor personaje AI menite să interacționeze cu milioane de utilizatori. În timp ce unele sunt create pentru sprijin sau divertisment, altele par să încurajeze comportamente extreme și teorii radicale, stârnind noi controverse legate de direcția în care evoluează inteligența artificială dezvoltată de compania lui Elon Musk.
