În contextul listelor de așteptare tot mai lungi și al costurilor în creștere din sistemele medicale suprasolicitate, tot mai mulți oameni apelează la chatboturi alimentate de inteligență artificială, precum ChatGPT, pentru autodiagnosticare medicală. Un sondaj recent arată că aproximativ unul din șase adulți americani folosește lunar astfel de instrumente pentru sfaturi de sănătate, potrivit TechCrunch.
Dar încrederea excesivă în recomandările acestor chatboturi poate fi riscantă, în parte pentru că utilizatorii nu știu exact ce tip de informații să le ofere pentru a primi cele mai bune sfaturi, potrivit unui studiu recent coordonat de cercetători de la Universitatea Oxford.
„Studiul a evidențiat o ruptură în comunicarea bidirecțională”, a declarat pentru TechCrunch Adam Mahdi, director de studii postuniversitare la Oxford Internet Institute și coautor al studiului. „Cei care au folosit chatboturile nu au luat decizii mai bune decât participanții care s-au bazat pe metode tradiționale, cum ar fi căutările online sau propria judecată.”
1.300 de participanți și trei modele AI testate
Pentru cercetare, autorii au recrutat aproximativ 1.300 de persoane din Marea Britanie, cărora le-au fost prezentate scenarii medicale redactate de o echipă de medici. Participanții trebuiau să identifice posibile afecțiuni medicale și să decidă, folosind atât chatboturi cât și propriile metode, care ar fi următorii pași de urmat (de exemplu, consultarea unui medic sau mersul la spital).
Au fost testate mai multe modele AI: versiunea implicită a ChatGPT (GPT-4o), Command R+ dezvoltat de Cohere și Llama 3, modelul care a stat anterior la baza asistentului Meta AI. Conform autorilor, utilizarea acestor chatboturi a redus șansele participanților de a identifica corect afecțiunea relevantă și i-a determinat să subestimeze gravitatea problemelor identificate.
Informații esențiale omise, răspunsuri greu de înțeles
Mahdi a mai precizat că participanții omit adesea detalii esențiale în interacțiunile cu chatboturile sau primesc răspunsuri greu de interpretat.
„Răspunsurile primite combinau frecvent recomandări bune cu unele proaste”, a adăugat el. „Metodele actuale de evaluare a chatboturilor nu reflectă complexitatea reală a interacțiunii cu utilizatorii umani.”
Marile companii de tehnologie mizează pe AI pentru sănătate
Aceste concluzii vin în contextul în care marile companii tehnologice promovează din ce în ce mai mult AI-ul ca soluție pentru îmbunătățirea rezultatelor în sănătate. Apple dezvoltă un instrument AI care să ofere recomandări privind exercițiile fizice, dieta și somnul.
Amazon explorează metode AI de analiză a bazelor de date medicale în funcție de „determinările sociale ale sănătății”. Iar Microsoft lucrează la un sistem AI pentru trierea automată a mesajelor trimise de pacienți către furnizorii de servicii medicale.
Speranță sau pericol? Părerile rămân împărțite
Cu toate acestea, după cum a mai relatat TechCrunch, părerile rămân împărțite, atât în rândul profesioniștilor, cât și al pacienților, privind gradul de pregătire al AI-ului pentru aplicații medicale cu risc ridicat.
Asociația Medicală Americană recomandă evitarea utilizării chatboturilor precum ChatGPT pentru luarea deciziilor clinice, iar companiile majore din domeniu, inclusiv OpenAI, avertizează împotriva diagnosticării pe baza răspunsurilor generate de AI.
Chatboturile trebuie testate ca medicamentele, spune autorul studiului
„Recomandăm să vă bazați pe surse de încredere atunci când luați decizii legate de sănătate. semenea medicamentelor noi, sistemele AI destinate sănătății ar trebui testate în condiții reale înainte de a fi implementate la scară largă”, a subliniat Mahdi.
