Home » Știință » Rasa umană, prezisă de inteligența artificială pe baza radiografiilor. De ce îi neliniștește asta pe cercetători?

Rasa umană, prezisă de inteligența artificială pe baza radiografiilor. De ce îi neliniștește asta pe cercetători?

Publicat: 22.05.2022

Modelele de învățare profundă bazate pe inteligența artificială (AI) pot identifica rasa umană pe baza radiografiilor, au dezvăluit noi cercetări, ceva ce ar fi imposibil pentru un medic care privește aceleași imagini.

Descoperirile ridică câteva întrebări îngrijorătoare cu privire la rolul AI în diagnosticul, evaluarea și tratamentul medical: ar putea prejudecățile rasiale să fie aplicate neintenționat de către un software de calculator atunci când se studiază imagini ca acestea?

După ce au antrenat un AI folosind sute de mii de radiografii etichetate cu detalii despre rasa pacientului, o echipă internațională de cercetători în domeniul sănătății din SUA, Canada și Taiwan a testat sistemul pe radiografii pe care pe care computerul nu le mai văzuse și care nu aveau etichete, scrie Science Alert.

Algoritmul care „ghicește” rasa umană este îngrijorător de precis

AI a putut prezice rasa umană a pacientului pe baza acestor imagini cu o acuratețe surprinzătoare, chiar și atunci când radiografiile erau de la persoane de aceeași vârstă și de același sex. Sistemul a atins niveluri de precizie de 90% cu unele grupuri de imagini.

„Am urmărit să efectuăm o evaluare cuprinzătoare a capacității AI de a recunoaște identitatea rasială a unui pacient din imaginile medicale”, scriu cercetătorii în lucrarea lor, publicată în The Lancet Digital Health.

„Astfel arătăm că modelele standard de învățare profundă AI pot fi antrenate pentru a prezice cu performanță ridicată rasa pe baza unor imagini medicale realizate cu mai multe modalități de imagistică; performanța a fost susținută în condiții de validare externă”, au mai scris cercetătorii.

Prejudecățile AI

Cercetarea reiterează rezultatele unui studiu anterior care a constatat că scanările cu inteligență artificială ale imaginilor cu raze X aveau mai multe șanse să rateze semnele de boală la oamenii de culoare. Pentru a împiedica acest lucru, oamenii de știință trebuie să înțeleagă de ce acesta se întâmplă.

Prin însăși natura sa, AI imită gândirea umană pentru a identifica rapid modele în date. Cu toate acestea, asta înseamnă că inteligența artificială poate avea fără să vrea aceleași tipuri de prejudecăți. În plus, complexitatea AI face dificilă dezlegarea prejudecăților cu care ar putea fi construită.

În prezent, oamenii de știință nu sunt siguri de ce sistemul AI este atât de bun la identificarea rasei din imagini care nu conțin astfel de informații, cel puțin nu la suprafață. Chiar și atunci când sunt furnizate informații limitate, eliminând indiciile privind densitatea osoasă, de exemplu, sau concentrându-se pe o mică parte a corpului, modelele s-au comportat în continuare surprinzător de bine la aflarea rasei raportate în dosar.

Este posibil ca sistemul să găsească semne de melanină (pigmentul care dă culoarea pielii) pe care știința încă nu le-a descoperit.

Ne vom putea baza mai mult pe AI în viitor?

„Descoperirea faptului că AI poate prezice cu exactitate rasa auto-raportată, chiar și din imaginile medicale corupte, tăiate și cu zgomote, adesea atunci când experții clinici nu pot, creează un risc enorm pentru toate implementările de modele din imagistica medicală”, scriu cercetătorii.

Cercetarea se adaugă la o grămadă tot mai mare de dovezi că sistemele AI pot reflecta adesea prejudecățile ființelor umane, fie că este vorba de rasism, sexism sau altceva. Datele de antrenament deformate pot duce la rezultate denaturate, făcându-le mult mai puțin utile.

Acest lucru trebuie să fie balansat cu potențialul puternic al inteligenței artificiale de a obține mult mai multe date mult mai rapid decât pot oamenii, peste tot, de la tehnici de detectare a bolilor la modele de schimbări climatice.

Rămân o mulțime de întrebări fără răspuns din studiu, dar deocamdată este important să fim conștienți de potențialul ca prejudecățile rasiale să apară în sistemele de inteligență artificială, mai ales dacă vom alege să ne bazăm mai mult pe AI în viitor.

Vă recomandăm să citiți și:

Legătura dintre inflamație și durerea cronică de spate ar putea fi alta decât s-a crezut

Un număr mare de tineri cu depresie nu se tratează deloc. Care este cauza?

Dieta bogată în fibre, asociată cu o rezistență mai mică la antibiotice

Consumul de afine poate reduce riscul de demență, potrivit unui studiu

Ștefan Trepăduș
Ștefan Trepăduș
Ștefan Trepăduș este blogger începând cu anul 2009, având experiență și în domeniile publicitate și jurnalism. Este pasionat de marketing și de tehnologie, dar cel mai mult îi place să știe lucruri, motiv pentru care a fost atras de Descopera.ro. citește mai mult
Urmărește DESCOPERĂ.ro pe
Google News și Google Showcase
Cele mai noi articole
Topirea gheții din Antarctica de Est alarmează oamenii de știință
Topirea gheții din Antarctica de Est alarmează oamenii de știință
Descoperirea Troiei de către Heinrich Schliemann: adevăr și legendă în arheologie
Descoperirea Troiei de către Heinrich Schliemann: adevăr și legendă în arheologie
Bibliotecile secrete ale lumii: Cărți interzise, colecții necunoscute, manuscrise pierdute
Bibliotecile secrete ale lumii: Cărți interzise, colecții necunoscute, manuscrise pierdute
Izvoare tămăduitoare și eleganță regală. Povestea primelor stațiuni balneare din lume – de la Baden-Baden la Varna
Izvoare tămăduitoare și eleganță regală. Povestea primelor stațiuni balneare din lume – de la Baden-Baden la Varna
Cercetătorii sunt cu un pas mai aproape de crearea sângelui artificial
Cercetătorii sunt cu un pas mai aproape de crearea sângelui artificial
Persoanele cu demență trăiesc mai mult, arată un studiu global
Persoanele cu demență trăiesc mai mult, arată un studiu global
(P) Ce să faci vara în timpul liber: idei pentru toate vârstele
(P) Ce să faci vara în timpul liber: idei pentru toate vârstele
Test de cultură generală. Cât cântăresc statuile de pe Insula Paștelui?
Test de cultură generală. Cât cântăresc statuile de pe Insula Paștelui?
Criza științei americane: Măsurile drastice ale administrației Trump și interferența politică pun în pericol viitorul cercetării
Criza științei americane: Măsurile drastice ale administrației Trump și interferența politică pun în pericol viitorul ...
Oamenii de știință au găsit „codul demenței”
Oamenii de știință au găsit „codul demenței”
Cu cât a scăzut salariul mediu net din România în luna mai 2025
Cu cât a scăzut salariul mediu net din România în luna mai 2025
Românii sunt mari iubitori de chebapuri. Câte au comandat în ultimul an?
Românii sunt mari iubitori de chebapuri. Câte au comandat în ultimul an?
40.000 de oameni au pornit o revoluţie care a schimbat cu totul soarta unui mare stat european
40.000 de oameni au pornit o revoluţie care a schimbat cu totul soarta unui mare stat european
Vremea în România în următoarele săptămâni va fi deosebit de caldă
Vremea în România în următoarele săptămâni va fi deosebit de caldă
Cum ar putea cremele de protecție solară să agraveze poluarea oceanelor?
Cum ar putea cremele de protecție solară să agraveze poluarea oceanelor?
Cum a ajutat o carte poștală la reunirea unei familii după 121 de ani?
Cum a ajutat o carte poștală la reunirea unei familii după 121 de ani?
Cum îți dai seama dacă zahărul îți sabotează semnalele de foame și sațietate?
Cum îți dai seama dacă zahărul îți sabotează semnalele de foame și sațietate?
Recuperarea unor fragmente de proteine ​​vechi de 24 de milioane de ani de la animale dispărute deschide un „nou capitol” al biologiei
Recuperarea unor fragmente de proteine ​​vechi de 24 de milioane de ani de la animale dispărute deschide un „nou capitol” ...