Instrumentele bazate pe inteligenţă artificială (AI) sunt tot mai utilizate în medicină pentru a sprijini diagnosticul, însă performanţa lor nu este uniformă pentru toţi pacienţii. Noi cercetări arată că, în anumite situaţii, aceste sisteme pot fi mai puţin precise în identificarea cancerului la unele grupuri, chiar şi atunci când datele disponibile par comparabile.
Oamenii de ştiinţă au identificat diferenţe constante de performanţă între grupuri în modelele de inteligenţă artificială care analizează probe histopatologice.
Două studii recente atrag atenţia asupra faptului că modelele de AI utilizate în analiza digitală a probelor de ţesut (biopsii) în cazul cancerului pot oferi rezultate inegale între diferite grupuri demografice, dacă nu sunt antrenate în mod adecvat.
Este cunoscut faptul că atunci când astfel de sisteme inteligente sunt instruite pe seturi de date care includ proporţii inegale de pacienţi din diverse grupuri, acurateţea diagnosticului scade în cazul populaţiilor slab reprezentate.
O analiză publicată marţi, în revista Cell Reports Medicine, arată însă că performanţele pot fi mai slabe într-un anumit grup chiar şi cu date de antrenament similare.
Cercetătorii sugerează că explicaţia ar putea ţine de frecvenţa diferită a unor tipuri de cancer între populaţii: modelele de AI devin mai eficiente în diagnosticarea formelor mai comune într-un anumit grup şi întâmpină dificultăţi atunci când aceleaşi cancere sunt mai rare în alte populaţii.
În plus, pot exista diferenţe moleculare subtile în probele de biopsie provenite din grupuri demografice diferite, diferenţe pe care AI le poate detecta şi folosi indirect ca indicator al tipului de cancer, ceea ce poate reduce eficienţa diagnosticului acolo unde aceste variaţii sunt mai puţin frecvente.
Coordonatorul studiului, Kun-Hsing Yu de la Facultatea de Medicină a Universităţii Harvard, a explicat, într-un comunicat, faptul că inteligenţa artificială poate distinge tipare biologice foarte fine şi poate surprinde semnale greu de sesizat, care nu pot fi identificate prin evaluarea umană standard. Din această cauză, modelele de AI pot ajunge să capteze informaţii legate de caracteristici demografice, nu de boală, iar deducerea acestor informaţii din probele pacienţilor la examinarea histopatologică poate afecta performanţa diagnosticului între grupuri, chiar şi atunci când dimensiunile eşantioanelor sunt similare.
În ansamblu, aceste rezultate indică faptul că diferenţele de performanţă ale AI folosite pentru interpretarea probelor histopatologice nu ţin doar de calitatea sau reprezentativitatea datelor folosite, ci şi de modul în care sunt antrenate aceste modele.
Atunci când echipa de cercetare a aplicat o nouă metodă de instruire a sistemelor inteligente analizate, decalajele în acurateţea diagnosticului între grupuri au fost reduse cu aproximativ 88%.
Autorii arată că o astfel de ajustare permite modelelor de AI să înveţe caracteristici mai robuste, care pot fi generalizate mai bine şi pot oferi rezultate mai uniforme între populaţii diferite, chiar şi în lipsa unor seturi de date perfect reprezentative.
Rezultatul este considerat încurajator, deoarece sugerează că unele diferenţe în performanţa acestor siteme inteligente pot fi corectate fără a fi necesară reconstruirea completă a bazelor de date.
Într-un studiu separat, publicat tot marţi în revista PLOS Biology, o altă echipă de cercetare a ajuns la concluzii similare: chiar şi atunci când au la dispoziţie eşantioane mari, din populaţii bacteriene variate, modul în care este antrenată inteligenţa artificială poate introduce diferenţe sistematice de performanţă, care reduc capacitatea modelelor inteligente de a anticipa rezistenţa la antibiotice şi de a sprijini strategiile de combatere a acesteia.
