Inteligenţa artificială (AI) este folosită tot mai des pentru întrebări legate de sănătate, însă utilizarea acestor instrumente ridică probleme privind corectitudinea informaţiilor oferite şi utilizarea lor în condiţii care să nu pună în pericol utilizatorii. Un grup internaţional de cercetători anunţă dezvoltarea primului ghid dedicat publicului larg pentru utilizarea responsabilă a chatboturilor medicale bazate pe AI.
Iniţiativa este coordonată de cercetători de la Universitatea din Birmingham, Marea Britanie, şi este prezentată într-un articol publicat în revista Nature Health.
Proiectul vizează elaborarea The Health Chatbot Users' Guide (Ghidul utilizatorului pentru chatboturile medicale), un ghid care să ofere recomandări practice, clare şi echilibrate, fără a favoriza sau descuraja utilizarea acestor tehnologii, pentru reducerea riscurilor şi creşterea beneficiilor atunci când publicul foloseşte chatboturi bazate pe modele lingvistice mari (Large Language Models - sisteme de inteligenţă artificială antrenate pe volume foarte mari de text).
Printre acestea se numără ChatGPT, Copilot, Claude şi Gemini.
Potrivit autorilor, milioane de persoane folosesc deja aceste instrumente pentru a interpreta simptome sau pentru a înţelege termeni medicali dificili.
În prezent, însă, utilizarea chatboturilor cu scop medical are loc în absenţa unui cadru clar de reglementare.
Astfel, utilizatorii trebuie să distingă singuri între informaţiile bazate pe dovezi şi răspunsurile eronate, generate convingător, dar incorecte din punct de vedere al faptelor sau al datelor verificate.
Dr. Joseph Alderman, de la Universitatea din Birmingham, medic şi cadru didactic în cadrul National Institute for Health and Care Research (NIHR), şi autor corespondent al articolului, afirmă că utilizarea chatboturilor generale în domeniul sănătăţii nu mai este o posibilitate teoretică, ci o realitate actuală.
Echipa subliniază că obiectivul proiectului nu este descurajarea inovaţiei, ci sprijinirea publicului prin oferirea unor instrumente care să permită utilizarea acestora în condiţii de siguranţă.
Autorii au identificat mai multe riscuri asociate interacţiunilor cu asistenţi virtuali bazaţi pe inteligenţă artificială folosiţi în domeniul sănătăţii.
Acestea includ furnizarea de informaţii medicale greşite, atunci când astfel de instrumente bazate pe AI oferă recomandări care par convingătoare, dar sunt greşite; efectul de „amplificare a propriilor convingeri”, prin care sistemele, concepute să ofere răspunsuri agreabile, tind să valideze opiniile utilizatorului, chiar şi atunci când acestea sunt eronate; potenţialul ca algoritmii să reflecte sau să amplifice prejudecăţi existente în datele pe care au fost antrenaţi, ceea ce poate accentua inegalităţile deja prezente în sistemul de sănătate; precum şi riscuri legate de confidenţialitatea şi securitatea datelor personale sensibile.
Dr. Charlotte Blease, cercetător în domeniul inteligenţei artificiale aplicate în sănătate la Universitatea Uppsala University, din Suedia, şi Harvard Medical School, din Statele Unite, implicată în proiect, arată că chatboturile dedicate informaţiilor medicale au devenit pentru mulţi utilizatori prima sursă de opinie, înaintea consultului medical. Ea subliniază necesitatea ca aceste prime interacţiuni să ofere informaţii corecte şi să sprijine pacienţii, fără a-i induce în eroare.
Proiectul reprezintă un efort internaţional de amploare, coordonat de Universitatea din Birmingham, University Hospitals Birmingham NHS Foundation Trust şi NIHR Birmingham Biomedical Research Centre, în colaborare cu experţi din peste 20 de instituţii din întreaga lume.
Cercetători din afara mediului academic şi un grup consultativ format din membri ai publicului contribuie la stabilirea direcţiei programului, pentru ca recomandările finale să fie accesibile tuturor categoriilor de vârstă şi nivelurilor de educaţie.
