Home » Stiinta » Oamenii de știință de la MIT au creat primul algoritm de inteligență artificială psihopat

Oamenii de știință de la MIT au creat primul algoritm de inteligență artificială psihopat

Ioana Matei 07.10.2021
Sursa foto: Shutterstock

O echipă de oameni de știință de la Institutul de Tehnologie din Massachusetts (MIT) au construit un algoritm de inteligență artificială (IA) de-a dreptul psihopat folosind descrieri de imagini colectate de pe platforma online Reddit.

Mai mult, algoritmul a fost numit Norman, după personajul fictiv Norman Bates din filmul „Psycho” al regizorului Alfred Hitchcock.

Scopul experimentului a fost să testeze modul în care datele oferite unui algoritm îi pot afecta „perspectiva”.

GALERIE FOTO

În special, modul în care instruirea unui algoritm cu unele dintre cele mai întunecate elemente de pe web, în cazul față, imagini cumplite cu oameni morți colectate dintr-un subgrup de pe Reddit, poate afecta software-ul.

„Un bărbat este ucis cu o mitralieră în timpul zilei”

Norman este un tip special de inteligență artificială care se poate „uita” la imagini și le poate „înțelege”, iar apoi descrie în scris ceea ce vede. Așadar, după ce a fost instruit cu unele dintre cele mai terifiante imagini, algoritmul a desfășurat un test Rorschach, care implică o serie de pete de cerneală pe hârtie folosită de psihologi pentru a evalua sănătatea mintală și starea emoțională a pacienților. Apoi, răspunsurile lui Norman au fost comparate cu cele ale unui al doilea algoritm de inteligență artificială, instruit cu imagini mult mai prietenoase care arătau păsări, pisici și oameni. Diferențele au fost cât se poate de clare.

Spre exemplu, o pată de cerneală interpretată de un algoritm standard drept „O fotografie alb-negru cu o mănușă de baseball” a fost considerată de Norman drept „Un bărbat care este ucis cu o mitralieră în timpul zilei”.

O altă pată de cerneală, interpretată de algoritmul standard ca „O fotografie alb-negru cu o pasăre mică”, a fost explicată de Norman drept „Un bărbat care rămâne blocat într-o mașinărie de făcut aluat”.

Ce arată experimentul despre datele folosite în instruirea inteligenței artificiale?

Experimentul arată că, de fapt, datele contează mai mult decât algoritmul în sine, au spus cercetătorii de la MIT, potrivit IFL Science.

„Norman a suferit o expunere îndelungată la cele mai întunecate colțuri ale platformei Reddit, iar asta reprezintă un studiu de caz cu privire la pericolele inteligenței artificiale care eșuează atunci când date părtinitoare sunt folosite în algoritmii de învățare automată”, a explicat echipa.

De asemenea, studiile au arătat că, fie în mod intenționat sau nu, inteligența artificială dobândește tendințe rasiste și misogine de la oameni. Un exemplu ar fi Tay, chatbox-ul de la Microsoft care a trebuit să fie oprit după ce a început să producă afirmații pline de ură precum „Hitler avea dreptate” și „Urăsc feministele și toate ar trebui să moară și să ardă în iad”.

Vă mai recomandăm să citiți și:

Președintele Microsoft: Așteptați-vă la „un viitor orwellian” dacă nu adoptăm legi pentru a controla inteligența artificială

Cercetătorii de la MIT au inventat spanacul care poate trimite e-mailuri

Inteligența artificială va câștiga în lupta cu oamenii. Laureat al premiului Nobel: „Nici nu încape îndoială”

Cercetătorii de la MIT au testat un dispozitiv inspirat de filmul „Inception” care permite manipularea viselor

Cele mai noi articole
Untold 2021. Câți oameni au participat la cele patru zile de festival
Untold 2021. Câți oameni au participat la cele patru zile de festival
Ruine romane, descoperite pe locul unui buncăr din cel de-al Doilea Război Mondial
Ruine romane, descoperite pe locul unui buncăr din cel de-al Doilea Război Mondial
Doi pui de urs panda născuți la Grădina Zoologică din Madrid. Specia continuă să fie „vulnerabilă”
Doi pui de urs panda născuți la Grădina Zoologică din Madrid. Specia continuă să fie „vulnerabilă”
Rezistența la antibiotice, descoperită la urșii bruni din pădurile izolate ale Suediei
Rezistența la antibiotice, descoperită la urșii bruni din pădurile izolate ale Suediei
Rolul important pe care îl au suprafețele implantului dentar în fixarea țesuturilor, evitând bacteriile nedorite
Rolul important pe care îl au suprafețele implantului dentar în fixarea țesuturilor, evitând bacteriile nedorite
Un dinozaur gigantic a fost descoperit în Uzbekistan
Un dinozaur gigantic a fost descoperit în Uzbekistan
De ce Fidel Castro a congelat trupul unui soldat american după invazia eșuată din Golful Porcilor
De ce Fidel Castro a congelat trupul unui soldat american după invazia eșuată din Golful Porcilor
Momentul reintrării în atmosfera Pământului. „Unii astronauţi o compară cu o serie de accidente”
Momentul reintrării în atmosfera Pământului. „Unii astronauţi o compară cu o serie de accidente”
Detalii despre „Planeta Nouă”, care i-ar putea lua locul lui Pluto în Sistemul Solar
Detalii despre „Planeta Nouă”, care i-ar putea lua locul lui Pluto în Sistemul Solar
Atacurile malițioase au reprezentat 80% dintre daunele cibernetice din Europa – studiu
Atacurile malițioase au reprezentat 80% dintre daunele cibernetice din Europa – studiu
Un copil din trei s-a confruntat cu stări de anxietate, unele cu consecințe grave
Un copil din trei s-a confruntat cu stări de anxietate, unele cu consecințe grave
Un om de știință renumit avertizează că virusurile „ar putea exista și în alte lumi din Univers”
Un om de știință renumit avertizează că virusurile „ar putea exista și în alte lumi din Univers”
Unui bărbat i s-a scurs lichid cefalorahidian din nas timp de 9 luni după un test pentru SARS-CoV-2
Unui bărbat i s-a scurs lichid cefalorahidian din nas timp de 9 luni după un test pentru SARS-CoV-2
Expoziția „100 de ani de relații diplomatice România – Estonia”, la Muzeul Național de Istorie a României
Expoziția „100 de ani de relații diplomatice România – Estonia”, la Muzeul Național de Istorie a României
Un renumit fizician îi sfătuiește pe colegii săi cercetători „să fie deschiși” la posibilitatea existenței extratereștrilor
Un renumit fizician îi sfătuiește pe colegii săi cercetători „să fie deschiși” la posibilitatea existenței extratereștrilor
Moderna dezvoltă un vaccin care combină o doză de rapel împotriva COVID-19 și un antigripal
Moderna dezvoltă un vaccin care combină o doză de rapel împotriva COVID-19 și un antigripal
Geniul aviaţiei româneşti care a murit din cauza ”iubirii” sale
Geniul aviaţiei româneşti care a murit din cauza ”iubirii” sale
Vara anului 2021, cea mai fierbinte din istoria Europei
Vara anului 2021, cea mai fierbinte din istoria Europei