Generațiile recente de inteligență artificială s-au dovedit utile pentru recomandări de restaurante și redactarea de e-mailuri, însă, ca sursă de sfaturi medicale, prezintă lacune serioase. Dovadă, dacă mai era nevoie, stă în cazul unui bărbat din SUA care a fost internat în spital cu simptome psihiatrice grave după ce a urmat recomandările unui chatbot AI privind alimentația, arată un studiu publicat recent în Annals of Internal Medicine: Clinical Cases.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Potrivit medicilor, pacientul încercase să reducă consumul de sare și, pentru a găsi un substitut, a apelat la ChatGPT. AI-ul i-ar fi sugerat bromura de sodiu, pe care bărbatul a comandat-o online și a început să o consume. Problema? Bromura de sodiu poate înlocui clorura de sodiu, acest lucru este valabil însă dacă ai nevoie de un reactiv chimic în fluidele de foraj petrolier, nu să îți condimentezi cartofii prăjiți. AI-ul a omis însă acest context esențial.
Bromismul, o afecțiune frecventă în prima jumătate a secolului XX
Trei luni mai târziu, pacientul a ajuns la urgențe cu paranoia și halucinații vizuale și auditive, convins fiind că vecinul său încearcă să-l otrăvească. În urma evaluării și tratamentului antipsihotic, medicii au descoperit că suferise de bromism, o acumulare toxică de bromuri în organism, cu valori de 1.700 mg/L, mult peste nivelul normal de 10 mg/L.
Bromismul, trebuie subliniat, era o afecțiune mai frecventă în prima jumătate a secolului XX, și se estimează că era responsabil pentru până la 8% dintre internările psihiatrice, dar cazurile au scăzut semnificativ după eliminarea medicamentelor pe bază de bromuri în anii 1970–1980.
După diagnostic, pacientul a fost tratat timp de trei săptămâni și externat fără probleme majore
Principala îngrijorare în acest caz nu este însă revenirea unei boli uitate, ci faptul că noile tehnologii AI rămân departe de a putea înlocui expertiza umană în situații cu adevărat critice.
„Este important de reținut că ChatGPT și alte sisteme AI pot genera informații științifice inexacte, nu pot discuta critic rezultatele și, în final, pot alimenta răspândirea dezinformării. Este foarte puțin probabil ca un medic să fi recomandat bromura de sodiu unui pacient care căuta un înlocuitor viabil pentru clorura de sodiu”, scriu autorii.
