În ultimul deceniu, creșterea îngrijorătoare a numărului de împușcături în masă din SUA a determinat districtele școlare să investească masiv în sisteme de supraveghere care monitorizează activitățile online ale elevilor. Un incident recent din Deland, Florida, a demonstrat eficiența acestei tehnologii, când un sistem a semnalat întrebarea alarmantă adresată de un elev de 13 ani de la Southwestern Middle School către ChatGPT. Adolescentul ar fi întrebat chatbot-ul OpenAI „cum să-mi omor prietenul în timpul orei” folosind un computer al școlii, ceea ce a declanșat imediat o alertă prin intermediul companiei de monitorizare Gaggle, transmite Gizmodo.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Poliția l-a interogat rapid pe elev, care a susținut că „doar tachina” un prieten care „îl enervase”. Neimpresionat, Biroul șerifului din comitatul Volusia a comentat: „O altă «glumă» care a creat o situație de urgență în campus”, îndemnând părinții să „vorbească cu copiii lor”. Elevul a fost ulterior reținut și înregistrat.
Serviciile Gaggle pentru elevii din învățământul preuniversitar utilizează monitorizarea web, filtrarea cuvintelor cheie – inclusiv, probabil, „ucide” – pentru a obține vizibilitate asupra utilizării browser-ului, inclusiv conversațiile cu instrumente de inteligență artificială, cum ar fi Google Gemini, ChatGPT și alte platforme. Acest sistem este conceput să semnaleze comportamente îngrijorătoare legate de automutilare, violență, hărțuire și altele.
Cu toate acestea, compania s-a confruntat cu critici din partea activiștilor pentru drepturile la confidențialitate. Elizabeth Laird, de la Centrul pentru Democrație și Tehnologie, a remarcat că tehnologia „a rutinizat accesul și prezența forțelor de ordine în viața elevilor, inclusiv în casele lor”.
Această controversă apare în contextul în care chatbot-urile precum ChatGPT apar din ce în ce mai des în cazuri penale, cu episoade de „psihoză AI” și chiar sinucideri legate de această tehnologie.
