Home » Știință » Rasa umană, prezisă de inteligența artificială pe baza radiografiilor. De ce îi neliniștește asta pe cercetători?

Rasa umană, prezisă de inteligența artificială pe baza radiografiilor. De ce îi neliniștește asta pe cercetători?

Publicat: 22.05.2022

Modelele de învățare profundă bazate pe inteligența artificială (AI) pot identifica rasa umană pe baza radiografiilor, au dezvăluit noi cercetări, ceva ce ar fi imposibil pentru un medic care privește aceleași imagini.

Descoperirile ridică câteva întrebări îngrijorătoare cu privire la rolul AI în diagnosticul, evaluarea și tratamentul medical: ar putea prejudecățile rasiale să fie aplicate neintenționat de către un software de calculator atunci când se studiază imagini ca acestea?

După ce au antrenat un AI folosind sute de mii de radiografii etichetate cu detalii despre rasa pacientului, o echipă internațională de cercetători în domeniul sănătății din SUA, Canada și Taiwan a testat sistemul pe radiografii pe care pe care computerul nu le mai văzuse și care nu aveau etichete, scrie Science Alert.

Algoritmul care „ghicește” rasa umană este îngrijorător de precis

AI a putut prezice rasa umană a pacientului pe baza acestor imagini cu o acuratețe surprinzătoare, chiar și atunci când radiografiile erau de la persoane de aceeași vârstă și de același sex. Sistemul a atins niveluri de precizie de 90% cu unele grupuri de imagini.

„Am urmărit să efectuăm o evaluare cuprinzătoare a capacității AI de a recunoaște identitatea rasială a unui pacient din imaginile medicale”, scriu cercetătorii în lucrarea lor, publicată în The Lancet Digital Health.

„Astfel arătăm că modelele standard de învățare profundă AI pot fi antrenate pentru a prezice cu performanță ridicată rasa pe baza unor imagini medicale realizate cu mai multe modalități de imagistică; performanța a fost susținută în condiții de validare externă”, au mai scris cercetătorii.

Prejudecățile AI

Cercetarea reiterează rezultatele unui studiu anterior care a constatat că scanările cu inteligență artificială ale imaginilor cu raze X aveau mai multe șanse să rateze semnele de boală la oamenii de culoare. Pentru a împiedica acest lucru, oamenii de știință trebuie să înțeleagă de ce acesta se întâmplă.

Prin însăși natura sa, AI imită gândirea umană pentru a identifica rapid modele în date. Cu toate acestea, asta înseamnă că inteligența artificială poate avea fără să vrea aceleași tipuri de prejudecăți. În plus, complexitatea AI face dificilă dezlegarea prejudecăților cu care ar putea fi construită.

În prezent, oamenii de știință nu sunt siguri de ce sistemul AI este atât de bun la identificarea rasei din imagini care nu conțin astfel de informații, cel puțin nu la suprafață. Chiar și atunci când sunt furnizate informații limitate, eliminând indiciile privind densitatea osoasă, de exemplu, sau concentrându-se pe o mică parte a corpului, modelele s-au comportat în continuare surprinzător de bine la aflarea rasei raportate în dosar.

Este posibil ca sistemul să găsească semne de melanină (pigmentul care dă culoarea pielii) pe care știința încă nu le-a descoperit.

Ne vom putea baza mai mult pe AI în viitor?

„Descoperirea faptului că AI poate prezice cu exactitate rasa auto-raportată, chiar și din imaginile medicale corupte, tăiate și cu zgomote, adesea atunci când experții clinici nu pot, creează un risc enorm pentru toate implementările de modele din imagistica medicală”, scriu cercetătorii.

Cercetarea se adaugă la o grămadă tot mai mare de dovezi că sistemele AI pot reflecta adesea prejudecățile ființelor umane, fie că este vorba de rasism, sexism sau altceva. Datele de antrenament deformate pot duce la rezultate denaturate, făcându-le mult mai puțin utile.

Acest lucru trebuie să fie balansat cu potențialul puternic al inteligenței artificiale de a obține mult mai multe date mult mai rapid decât pot oamenii, peste tot, de la tehnici de detectare a bolilor la modele de schimbări climatice.

Rămân o mulțime de întrebări fără răspuns din studiu, dar deocamdată este important să fim conștienți de potențialul ca prejudecățile rasiale să apară în sistemele de inteligență artificială, mai ales dacă vom alege să ne bazăm mai mult pe AI în viitor.

Vă recomandăm să citiți și:

Legătura dintre inflamație și durerea cronică de spate ar putea fi alta decât s-a crezut

Un număr mare de tineri cu depresie nu se tratează deloc. Care este cauza?

Dieta bogată în fibre, asociată cu o rezistență mai mică la antibiotice

Consumul de afine poate reduce riscul de demență, potrivit unui studiu

Ștefan Trepăduș
Ștefan Trepăduș
Ștefan Trepăduș este blogger începând cu anul 2009, având experiență și în domeniile publicitate și jurnalism. Este pasionat de marketing și de tehnologie, dar cel mai mult îi place să știe lucruri, motiv pentru care a fost atras de Descopera.ro. citește mai mult
Urmărește DESCOPERĂ.ro pe
Google News și Google Showcase
Cele mai noi articole
Agenția germană de circulație rutieră spune că 59.000 de vehicule Tesla au o defecțiune de software
Agenția germană de circulație rutieră spune că 59.000 de vehicule Tesla au o defecțiune de software
Noi indicii despre rolul femeii și al bărbatului de acum 7.000 de ani. Ce dezvăluie un străvechi câmp funerar?
Noi indicii despre rolul femeii și al bărbatului de acum 7.000 de ani. Ce dezvăluie un străvechi câmp funerar?
Marius Tucă Show începe marți, 5 iulie, de la ora 20.00, live pe gandul.ro
Marius Tucă Show începe marți, 5 iulie, de la ora 20.00, live pe gandul.ro
Astronauții se confruntă cu pierderea permanentă a oaselor. Cât de mult suferă la întoarcerea pe Pământ?
Astronauții se confruntă cu pierderea permanentă a oaselor. Cât de mult suferă la întoarcerea pe Pământ?
Cercetătorii au descoperit o metodă prin care unele plante pot crește în întuneric
Cercetătorii au descoperit o metodă prin care unele plante pot crește în întuneric
Ce animale și-au revenit primele după cel mai mare eveniment de extincție de pe Pământ?
Ce animale și-au revenit primele după cel mai mare eveniment de extincție de pe Pământ?
Legătura dintre dieta vestică și cancerul colorectal. Ce spun specialiștii?
Legătura dintre dieta vestică și cancerul colorectal. Ce spun specialiștii?
Temperaturile mai scăzute ar putea ajuta la combaterea obezității
Temperaturile mai scăzute ar putea ajuta la combaterea obezității
Spuma de monoxid de carbon, un nou aliat împotriva inflamației?
Spuma de monoxid de carbon, un nou aliat împotriva inflamației?
Să fii morocănos poate fi un lucru bun. Iată ce spun psihoterapeuții
Să fii morocănos poate fi un lucru bun. Iată ce spun psihoterapeuții
Test de cultură generală. Câți ani sunt într-un mileniu?
Test de cultură generală. Câți ani sunt într-un mileniu?
Erupția vulcanului din Tonga a produs unde de presiune care au testat „limita teoretică”
Erupția vulcanului din Tonga a produs unde de presiune care au testat „limita teoretică”
Inflația din zona euro a atins un nivel record
Inflația din zona euro a atins un nivel record
Mai mulți turiști, atacați de bizoni în Parcul Național Yellowstone din SUA
Mai mulți turiști, atacați de bizoni în Parcul Național Yellowstone din SUA
4 iulie, Ziua Independenţei SUA. Cum își celebrează americanii valorile naţionale?
4 iulie, Ziua Independenţei SUA. Cum își celebrează americanii valorile naţionale?
Circulația pe Transfăgărășan, oprită temporar pentru Turul Ciclist al Sibiului
Circulația pe Transfăgărășan, oprită temporar pentru Turul Ciclist al Sibiului
În urmă cu aproape un mileniu, o supernovă lumina cerul nopţii
În urmă cu aproape un mileniu, o supernovă lumina cerul nopţii
Căutările online pentru avortul cu medicamente au atins cote record în SUA
Căutările online pentru avortul cu medicamente au atins cote record în SUA