Home » Știință » Inteligența artificială riscă să accentueze rasismul și sexismul, avertizează specialiștii

Inteligența artificială riscă să accentueze rasismul și sexismul, avertizează specialiștii

Inteligența artificială riscă să accentueze rasismul și sexismul, avertizează specialiștii
Sursa foto: Shutterstock
Publicat: 19.08.2025

Inteligența artificială ar putea adânci discriminarea în societatea australiană dacă nu este reglementată corespunzător, a avertizat comisarul pentru drepturile omului, Lorraine Finlay. Declarațiile vin în contextul unor dezbateri interne în cadrul Partidului Laburist privind modul în care guvernul ar trebui să răspundă noilor provocări tehnologice.

Potrivit lui Finlay, urmărirea exclusivă a câștigurilor de productivitate din AI nu trebuie să vină în detrimentul echității. Ea a atras atenția asupra lipsei de transparență privind seturile de date folosite pentru antrenarea modelelor, ceea ce face dificilă identificarea prejudecăților, potrivit The Guardian.

„Atunci când combinăm prejudecățile algoritmice cu cele de automatizare, adică tendința oamenilor de a se baza excesiv pe deciziile mașinilor, riscăm să creăm o formă de discriminare atât de bine înrădăcinată încât nu vom fi conștienți de ea”, a explicat Finlay.

Este necesară adoptarea unei legi dedicate AI?

Comisia pentru Drepturile Omului solicită adoptarea unei legi dedicate AI, care să completeze legislația existentă, precum Legea privind confidențialitatea, și să prevadă audituri de prejudecată și supraveghere umană.

La rândul ei, senatoarea laburistă Michelle Ananda-Rajah, fost medic și cercetător în AI, a cerut ca datele australiene să fie puse la dispoziția companiilor de tehnologie pentru a preveni perpetuarea prejudecăților străine. Ea se opune însă unei legi dedicate AI, dar sprijină remunerarea creatorilor de conținut.

„Dacă nu ne deschidem propriile date, riscăm să închiriem la nesfârșit modele AI de la giganții tehnologici străini, fără supraveghere sau transparență”, a avertizat Ananda-Rajah, oferind exemplul screeningului pentru cancerul de piele, unde algoritmii pot fi părtinitori.

„Există riscul ca anumite perspective și voci să fie marginalizate”

Judith Bishop, expertă în AI la Universitatea La Trobe, consideră că utilizarea mai multor date australiene ar putea face modelele mai relevante local, dar avertizează că aceasta este doar o parte a soluției.

„Trebuie să fim atenți ca sisteme dezvoltate în alte contexte să fie cu adevărat aplicabile populației australiene”, a spus ea.

Și comisarul eSafety, Julie Inman Grant, și-a exprimat îngrijorarea față de opacitatea dezvoltării AI. Ea a cerut ca firmele tehnologice să fie transparente cu privire la datele de instruire și să utilizeze informații diverse și reprezentative.

„Există riscul ca anumite perspective și voci să fie marginalizate în rezultatele generate”, a avertizat Inman Grant.

Vă mai recomandăm să citiți și:

Inteligența Artificială are nevoie de doar 10 minute pentru a influența opiniile politice ale oamenilor

Inteligența Artificială ar putea detecta cancerul laringian doar cu ajutorul vocii pacienților

Dependența de ChatGPT: Când inteligența artificială înlocuiește vocea proprie

Inteligența Artificială ar putea face mai mult rău decât bine în medicină

Urmărește DESCOPERĂ.ro pe
Google News și Google Showcase
Cele mai noi articole
Gelozia, a doua umbră a iubirii și rădăcinile ei nevăzute
Gelozia, a doua umbră a iubirii și rădăcinile ei nevăzute
8.000 de oase de broască într-un singur șanț. Ce s-a întâmplat acum 1.700 de ani în Anglia?
8.000 de oase de broască într-un singur șanț. Ce s-a întâmplat acum 1.700 de ani în Anglia?
Ce înseamnă cu adevărat să fii bun cu tine: explicații din psihologie și efectele reale asupra sănătății emoționale
Ce înseamnă cu adevărat să fii bun cu tine: explicații din psihologie și efectele reale asupra sănătății emoționale
De ce ne face bine să fotografiem lucrurile frumoase? Ce au descoperit psihologii despre pasiunea pentru fotografie
De ce ne face bine să fotografiem lucrurile frumoase? Ce au descoperit psihologii despre pasiunea pentru fotografie
Un dinte de elefant vechi de 700.000 de ani dezvăluie lumea în care trăiau strămoșii oamenilor
Un dinte de elefant vechi de 700.000 de ani dezvăluie lumea în care trăiau strămoșii oamenilor
Gladys West, matematiciana care a contribuit la dezvoltarea GPS-ului, deși lumea i-a cunoscut numele abia la bătrânețe
Gladys West, matematiciana care a contribuit la dezvoltarea GPS-ului, deși lumea i-a cunoscut numele abia la bătrânețe
Roma avea pompieri acum 1.800 de ani! Cum stingeau incendiile fără hidranți și autospeciale în vremea lui Marcus Aurelius (P)
Roma avea pompieri acum 1.800 de ani! Cum stingeau incendiile fără hidranți și autospeciale în vremea lui Marcus Aurelius ...
Te durea o măsea în Roma antică? Puteai rămâne fără dinte! Cum își tratau romanii durerile dentare în vremea lui Marcus Aurelius (P)
Te durea o măsea în Roma antică? Puteai rămâne fără dinte! Cum își tratau romanii durerile dentare în vremea lui ...
De ce ne este frică atunci când nu există niciun pericol? O descoperire despre creier răstoarnă o veche explicație a fricii
De ce ne este frică atunci când nu există niciun pericol? O descoperire despre creier răstoarnă o veche explicație ...
De ce apelăm la prieteni diferiți atunci când suntem triști, furioși sau îngrijorați? Ce spune psihologia despre sprijinul emoțional
De ce apelăm la prieteni diferiți atunci când suntem triști, furioși sau îngrijorați? Ce spune psihologia despre sprijinul ...
Ce se ascunde în ADN-ul oamenilor cu schizofrenie sau tulburare bipolară? O nouă ipoteză genetică
Ce se ascunde în ADN-ul oamenilor cu schizofrenie sau tulburare bipolară? O nouă ipoteză genetică
Test de cultură generală. Din ce este făcut extractul de vanilie?
Test de cultură generală. Din ce este făcut extractul de vanilie?
25 de destinații de vizitat în 2027. Ce locuri surprinzătoare se află pe lista National Geographic?
25 de destinații de vizitat în 2027. Ce locuri surprinzătoare se află pe lista National Geographic?
Care este unul dintre cele mai importante semne ale infarctului?
Care este unul dintre cele mai importante semne ale infarctului?
De ce mirosul de benzină poate fi mai periculos decât am crede?
De ce mirosul de benzină poate fi mai periculos decât am crede?
Cum a reușit un sud-coreean să obțină cel mai mare punctaj la unul dintre cele mai dificile examene din țară
Cum a reușit un sud-coreean să obțină cel mai mare punctaj la unul dintre cele mai dificile examene din țară
Cum a fost condamnat la moarte Dostoievski şi scăpat în ultimul moment
Cum a fost condamnat la moarte Dostoievski şi scăpat în ultimul moment
Șefa diplomației europene, „profund îngrijorată” de situația umanitară din Fâșia Gaza
Șefa diplomației europene, „profund îngrijorată” de situația umanitară din Fâșia Gaza