Home » Stiinta » Oamenii de știință de la MIT au creat primul algoritm de inteligență artificială psihopat

Oamenii de știință de la MIT au creat primul algoritm de inteligență artificială psihopat

07.10.2021
Sursa foto: Shutterstock

O echipă de oameni de știință de la Institutul de Tehnologie din Massachusetts (MIT) au construit un algoritm de inteligență artificială (IA) de-a dreptul psihopat folosind descrieri de imagini colectate de pe platforma online Reddit.

Mai mult, algoritmul a fost numit Norman, după personajul fictiv Norman Bates din filmul „Psycho” al regizorului Alfred Hitchcock.

Scopul experimentului a fost să testeze modul în care datele oferite unui algoritm îi pot afecta „perspectiva”.

GALERIE FOTO

În special, modul în care instruirea unui algoritm cu unele dintre cele mai întunecate elemente de pe web, în cazul față, imagini cumplite cu oameni morți colectate dintr-un subgrup de pe Reddit, poate afecta software-ul.

„Un bărbat este ucis cu o mitralieră în timpul zilei”

Norman este un tip special de inteligență artificială care se poate „uita” la imagini și le poate „înțelege”, iar apoi descrie în scris ceea ce vede. Așadar, după ce a fost instruit cu unele dintre cele mai terifiante imagini, algoritmul a desfășurat un test Rorschach, care implică o serie de pete de cerneală pe hârtie folosită de psihologi pentru a evalua sănătatea mintală și starea emoțională a pacienților. Apoi, răspunsurile lui Norman au fost comparate cu cele ale unui al doilea algoritm de inteligență artificială, instruit cu imagini mult mai prietenoase care arătau păsări, pisici și oameni. Diferențele au fost cât se poate de clare.

Spre exemplu, o pată de cerneală interpretată de un algoritm standard drept „O fotografie alb-negru cu o mănușă de baseball” a fost considerată de Norman drept „Un bărbat care este ucis cu o mitralieră în timpul zilei”.

O altă pată de cerneală, interpretată de algoritmul standard ca „O fotografie alb-negru cu o pasăre mică”, a fost explicată de Norman drept „Un bărbat care rămâne blocat într-o mașinărie de făcut aluat”.

Ce arată experimentul despre datele folosite în instruirea inteligenței artificiale?

Experimentul arată că, de fapt, datele contează mai mult decât algoritmul în sine, au spus cercetătorii de la MIT, potrivit IFL Science.

„Norman a suferit o expunere îndelungată la cele mai întunecate colțuri ale platformei Reddit, iar asta reprezintă un studiu de caz cu privire la pericolele inteligenței artificiale care eșuează atunci când date părtinitoare sunt folosite în algoritmii de învățare automată”, a explicat echipa.

De asemenea, studiile au arătat că, fie în mod intenționat sau nu, inteligența artificială dobândește tendințe rasiste și misogine de la oameni. Un exemplu ar fi Tay, chatbox-ul de la Microsoft care a trebuit să fie oprit după ce a început să producă afirmații pline de ură precum „Hitler avea dreptate” și „Urăsc feministele și toate ar trebui să moară și să ardă în iad”.

Vă mai recomandăm să citiți și:

Președintele Microsoft: Așteptați-vă la „un viitor orwellian” dacă nu adoptăm legi pentru a controla inteligența artificială

Cercetătorii de la MIT au inventat spanacul care poate trimite e-mailuri

Inteligența artificială va câștiga în lupta cu oamenii. Laureat al premiului Nobel: „Nici nu încape îndoială”

Cercetătorii de la MIT au testat un dispozitiv inspirat de filmul „Inception” care permite manipularea viselor

Ioana Matei
Ioana Matei
Ioana Matei, redactor Descopera.ro și absolventă a Facultății de Jurnalism Multimedia din Manchester, Marea Britanie, s-a alăturat echipei Descopera.ro din pasiune pentru știință, istorie și natură. citește mai mult
Cele mai noi articole
Când va fi gata vaccinul-plasture împotriva Covid-19 dezvoltat de elvețieni
Când va fi gata vaccinul-plasture împotriva Covid-19 dezvoltat de elvețieni
Primul gigant al planetei. Craniul de doi metri al unui ihtiozaur gigant, descoperit de cercetători
Primul gigant al planetei. Craniul de doi metri al unui ihtiozaur gigant, descoperit de cercetători
Britanicii sau irlandezii au ajuns în Insulele Feroe înaintea vikingilor
Britanicii sau irlandezii au ajuns în Insulele Feroe înaintea vikingilor
Astrofizicienii au ajuns la concluzia că găurile negre supermasive ar putea avea „prieteni”
Astrofizicienii au ajuns la concluzia că găurile negre supermasive ar putea avea „prieteni”
Noul inamic al narvalului
Noul inamic al narvalului
Cum a descoperit Benjamin Franklin electricitatea: A folosit cu adevărat zmeul și cheia?
Cum a descoperit Benjamin Franklin electricitatea: A folosit cu adevărat zmeul și cheia?
Este Muntele Everest într-adevăr cel mai înalt de pe Pământ?
Este Muntele Everest într-adevăr cel mai înalt de pe Pământ?
20 de ani de monede și bancnote euro. Avantaje, dezavantaje şi absurdităţi
20 de ani de monede și bancnote euro. Avantaje, dezavantaje şi absurdităţi
Apple este prima companie de 3 trilioane de dolari din lume
Apple este prima companie de 3 trilioane de dolari din lume
„Fata cu cercel de perlă”, expresia enigmatică și cadrul intim al lui Vermeer
„Fata cu cercel de perlă”, expresia enigmatică și cadrul intim al lui Vermeer
Misiuni spațiale de neratat în 2022: Ce planuri au NASA, SpaceX și Blue Origin?
Misiuni spațiale de neratat în 2022: Ce planuri au NASA, SpaceX și Blue Origin?
Cai putere – de ce încă mai folosim această unitate de măsură?
Cai putere – de ce încă mai folosim această unitate de măsură?
Simțul nostru al mirosului este un sistem de avertizare surprinzător de rapid în caz de pericol
Simțul nostru al mirosului este un sistem de avertizare surprinzător de rapid în caz de pericol
Vizionarul care a realizat imposibilul. A scăpat de arderea pe rug în ultimul moment, iar marea sa pasiune aproape că l-a ucis
Vizionarul care a realizat imposibilul. A scăpat de arderea pe rug în ultimul moment, iar marea sa pasiune aproape că ...
Elon Musk critică Metaversul, spune că Neuralink e mai bun. „Nu înțeleg. Sau hai să spunem că nu înțeleg încă”
Elon Musk critică Metaversul, spune că Neuralink e mai bun. „Nu înțeleg. Sau hai să spunem că nu înțeleg încă”
Anul 2022 se anunță a fi complicat pentru piețele financiare
Anul 2022 se anunță a fi complicat pentru piețele financiare
Medic: În 2021 au câștigat frica și neîncrederea, în 2022 e important să rămâneți în viață
Medic: În 2021 au câștigat frica și neîncrederea, în 2022 e important să rămâneți în viață
Noile spirale duble stochează informații magnetice în trei dimensiuni
Noile spirale duble stochează informații magnetice în trei dimensiuni