Home » Stiinta » Inteligenţa artificială creată de Google a învăţat să fie ”foarte agresivă” – VIDEO

Inteligenţa artificială creată de Google a învăţat să fie ”foarte agresivă” – VIDEO

Alexandru Voiculescu 02.15.2017
Inteligenţa artificială creată de Google a învăţat să fie ”foarte agresivă” – VIDEO
Cercetătorii de la proiectul ”DeepMind” al Google au descoperit recent un comportament interesant al inteligenţei artificiale. Au testat capacitatea de cooperare între diferiţi agenţi în cadrul unor jocuri, observând că atunci când cei care sunt pe cale să piardă, apelează la strategii agresive pentru a răsturna situaţia.

Echipa de la Google a efectuat o serie de teste pentru a vedea comportamentul inteligenţei artificiale DeepMind, relatează Science Alert.

Un test a avut în vedere rularea a 40 de milioane de runde de un joc simplu unde doi „agenţi” trebuiau să adune cât mai multe fructe.

Au observat că lucurile mergeau normal atâta vreme cât erau suficiente fructe, dar atunci când numărul acestora era din ce în ce mai scăzut, cei doi agenţi deveneau agresivi, folosind lasere pentru a-l elimina pe celălalt şi a-i lua fructele. Acest joc se poate observa mai jos, cu agenţii DeepMind în roşu şi albastru, fructele în verde şi laserul în galben:

Interesant că dacă un agent îl loveşte pe altul cu laserul, nu se oferă niciun bonus, doar elimină oponentul pentru un moment. Dacă agenţii nu ar folosi laserul, ar termina teoretic cu acelaşi număr de fructe culese, aşa cum au arătat formele precedente mai puţin complexe ale inteligenţei artificiale. Astfel de comportament s-a întâlnit aşadar la forme mai complexe de inteligenţă, unde agenţii au prezentat o dispoziţie pentru strategii agresive, care includ şi lăcomie.

Joel Z. Leibo, un membru al echipei de cercetare, susţine că „acest model […] arată că unele aspecte ale comportamentului similar cu al omului emerg ca produs al mediului şi al acumulării de experienţă”.

DeepMind a fost apoi instruit să mai joace un joc, numit Wolfpack. De data aceasta erau trei agenţi – doi erau lupi, iar unul era prada. Spre deosebire de jocul precedent, acesta încuraja cooperaream pentru că atunci când ambii lupi erau în apropierea prăzii când era capturată, ambii primeau o recompensă. Acesta este reprezentat în video-ul de mai jos, unde agenţii roşii sunt lupii, iar cel albastru este prada:

În acest joc, prada este periculoasă, un singur lup o poate învinge, dar riscă să piardă prada, primind deci şi o recompensă mai mică.

Astfel, agenţii s-au adaptat noilor condiţii şi au cooperat pentru obţinerea unor rezultate mai bune. Aceste rezultate pot indica un mare risc în contextul în care scopul inteligenţei artificiale nu este contrabalansat cu nevoile umane, acestea din urmă ar trebui să fie scopul ultim pentru agenţii AI-ului.

Vă recomandăm să citiţi şi următoarele articole:

Inteligenţa artificială ar putea deţine secretul tinereţii veşnice. Cercetătorii ruşi au descoperit 10 substanţe care ar putea avea efect de întinerire

Sistemul care va opri inteligenţa artificială dacă devine periculoasă

Inteligenţa artificială a câştigat. Legenda jocului Go, Lee Se-Dol, a pierdut milionul de dolari în faţa maşinăriei AlphaGo – VIDEO

Inteligenta artificiala o va depasi pe cea umana pana in 2020

Cele mai noi articole
Motivul pentru care aproape toate resursele de cărbune ale lumii trebuie lăsate în pământ
Motivul pentru care aproape toate resursele de cărbune ale lumii trebuie lăsate în pământ
Misterul craniului cu urechi din Napoli a fost elucidat
Misterul craniului cu urechi din Napoli a fost elucidat
75 de ani de la „Micul prinț”, două ediții noi speciale
75 de ani de la „Micul prinț”, două ediții noi speciale
Un record absolut. Zeci de mii de activiști de mediu au fost uciși în 2020
Un record absolut. Zeci de mii de activiști de mediu au fost uciși în 2020
Cea mai recentă ediție a „Scientific Update”, o publicație a Philip Morris International, prezintă modul în care strategiile de reducere a riscurilor asociate fumatului pot avea un impact pozitiv asupra sănătății individuale și publice
Cea mai recentă ediție a „Scientific Update”, o publicație a Philip Morris International, prezintă modul în care ...
Prima aplicaţie care îți evaluează riscul de burnout. Cum poate fi folosită
Prima aplicaţie care îți evaluează riscul de burnout. Cum poate fi folosită
Mortalitate de 15 ori mai mare la nevaccinați față de vaccinați, în Italia
Mortalitate de 15 ori mai mare la nevaccinați față de vaccinați, în Italia
Imagini care-ți taie răsuflarea. Jocul fascinant dintre stele și luminile orașelor de pe Pământ
Imagini care-ți taie răsuflarea. Jocul fascinant dintre stele și luminile orașelor de pe Pământ
Cercetătorii încep să înțeleagă cum și de ce apare cancerul pulmonar în cazul nefumătorilor
Cercetătorii încep să înțeleagă cum și de ce apare cancerul pulmonar în cazul nefumătorilor
Bill Gates a prezis cum va fi lumea după sfârşitul pandemiei
Bill Gates a prezis cum va fi lumea după sfârşitul pandemiei
Zeița Hera, soția geloasă și răzbunătoare a lui Zeus
Zeița Hera, soția geloasă și răzbunătoare a lui Zeus
British American Tobacco a mituit partidul lui Robert Mugabe. Detalii din anchetă
British American Tobacco a mituit partidul lui Robert Mugabe. Detalii din anchetă
SUA şi Japonia, îngrijorate din cauza testelor cu rachetă efectuate de Coreea de Nord
SUA şi Japonia, îngrijorate din cauza testelor cu rachetă efectuate de Coreea de Nord
Ce condiții trebuie să îndeplinească femeile din Afganistan ca să studieze în universități
Ce condiții trebuie să îndeplinească femeile din Afganistan ca să studieze în universități
Untold 2021. Câți oameni au participat la cele patru zile de festival
Untold 2021. Câți oameni au participat la cele patru zile de festival
Ruine romane, descoperite pe locul unui buncăr din cel de-al Doilea Război Mondial
Ruine romane, descoperite pe locul unui buncăr din cel de-al Doilea Război Mondial
Doi pui de urs panda născuți la Grădina Zoologică din Madrid. Specia continuă să fie „vulnerabilă”
Doi pui de urs panda născuți la Grădina Zoologică din Madrid. Specia continuă să fie „vulnerabilă”
Rezistența la antibiotice, descoperită la urșii bruni din pădurile izolate ale Suediei
Rezistența la antibiotice, descoperită la urșii bruni din pădurile izolate ale Suediei