Home » Lumea digitala » Oamenii de știință avertizează! Ar putea fi imposibil să controlăm Inteligența Artifcială

Oamenii de știință avertizează! Ar putea fi imposibil să controlăm Inteligența Artifcială

Andreea Laciu 01.19.2021
Credit foto: Pixabay

Oamenii de știință de la Max Planck Society, o instituție europeană de cercetare de renume, spun că omenirea nu va putea niciodată să controleze o inteligență artificială superinteligentă care ar putea salva sau distruge omenirea.

Cel puțin asta reiese conform cercetărilor publicate în Journal of Artificial Intelligence Research. Problema, spun cercetătorii, este că nu există nicio modalitate de a conține un astfel de algoritm fără o tehnologie mult mai avansată decât ceea ce putem construi astăzi.

Echipa s-a concentrat în primul rând pe problema restricției. Dacă un algoritm atotputernic ar determina cumva că ar trebui să rănească oamenii sau, într-un mod mai apropiat de „Terminator”, să pună capăt omenirii cu totul, cum l-am împiedica să acționeze?

Ce soluție au propus oamenii de știință pentru Inteligența Artificială scăpată de sub control

Ei propun construirea unui fel de „algoritm de izolare” care simulează comportamentul periculos al algoritmului și îl blochează să facă orice dăunător – dar pentru că acesta ar trebui să fie cel puțin la fel de puternic ca primul algoritm, oamenii de știință au declarat că problema este imposibil de rezolvat, conform Futurism.

Totul este însă doar o dezbatere teoretică. O inteligență artificială (AI) suficient de avansat pentru a amenința omenirea este probabil încă departe, dar oamenii foarte deștepți lucrează din greu la asta. Asta îl face subiectul perfect pentru a dezbate în avans, desigur. Ne-am dori să cunoaștem pericolul înainte ca acesta să sosească.

O mașină superinteligentă care controlează lumea sună ca o ficțiune științifică”, a spus co-autorul studiului Manuel Cebrian, liderul grupului de mobilizare digitală de la Centrul pentru oameni și mașini al Institutului Max Planck pentru Dezvoltare Umană.

Dar există deja mașini care îndeplinesc anumite sarcini importante în mod independent, fără ca programatorii să înțeleagă pe deplin cum au învățat-o. Prin urmare, se pune întrebarea dacă acest lucru ar putea deveni la un moment dat incontrolabil și periculos pentru umanitate”, a adăugat el.

Vă invităm să citiți și:

Cum ajută inteligența artificială cercetătorii să înțeleagă activitatea cerebrală din spatele gândurilor

Țipetele blestemaților”. Aceasta este lumea stranie a muzicii create de inteligența artificială

O nouă abordare matematică poate simplifica modul în care sunt antrenați algoritmii de inteligență artificială

Inteligența artificială a „readus la viață” 54 de împărați romani. Imaginile sunt uimitoare

Cele mai noi articole
Doi fizicieni tocmai au făcut o descoperire accidentală despre găurile negre
Doi fizicieni tocmai au făcut o descoperire accidentală despre găurile negre
O companie vrea să plătească o persoană pentru a viziona 13 filme de groază. Suma pe care o va achita
O companie vrea să plătească o persoană pentru a viziona 13 filme de groază. Suma pe care o va achita
Un ghețar din Elveția, acoperit cu pături pentru a încetini topirea cauzată de încălzirea globală
Un ghețar din Elveția, acoperit cu pături pentru a încetini topirea cauzată de încălzirea globală
Cea mai mare centrală pentru captarea de carbon din lume a devenit operațională în Islanda
Cea mai mare centrală pentru captarea de carbon din lume a devenit operațională în Islanda
Primul semn că singularitatea triunghiulară evidențiază particule care schimbă identități în mijlocul zborului
Primul semn că singularitatea triunghiulară evidențiază particule care schimbă identități în mijlocul zborului
Motivul pentru care aproape toate resursele de cărbune ale lumii trebuie lăsate în pământ
Motivul pentru care aproape toate resursele de cărbune ale lumii trebuie lăsate în pământ
Misterul craniului cu urechi din Napoli a fost elucidat
Misterul craniului cu urechi din Napoli a fost elucidat
75 de ani de la „Micul prinț”, două ediții noi speciale
75 de ani de la „Micul prinț”, două ediții noi speciale
Un record absolut. Zeci de mii de activiști de mediu au fost uciși în 2020
Un record absolut. Zeci de mii de activiști de mediu au fost uciși în 2020
Cea mai recentă ediție a „Scientific Update”, o publicație a Philip Morris International, prezintă modul în care strategiile de reducere a riscurilor asociate fumatului pot avea un impact pozitiv asupra sănătății individuale și publice
Cea mai recentă ediție a „Scientific Update”, o publicație a Philip Morris International, prezintă modul în care ...
Prima aplicaţie care îți evaluează riscul de burnout. Cum poate fi folosită
Prima aplicaţie care îți evaluează riscul de burnout. Cum poate fi folosită
Mortalitate de 15 ori mai mare la nevaccinați față de vaccinați, în Italia
Mortalitate de 15 ori mai mare la nevaccinați față de vaccinați, în Italia
Imagini care-ți taie răsuflarea. Jocul fascinant dintre stele și luminile orașelor de pe Pământ
Imagini care-ți taie răsuflarea. Jocul fascinant dintre stele și luminile orașelor de pe Pământ
Cercetătorii încep să înțeleagă cum și de ce apare cancerul pulmonar în cazul nefumătorilor
Cercetătorii încep să înțeleagă cum și de ce apare cancerul pulmonar în cazul nefumătorilor
Bill Gates a prezis cum va fi lumea după sfârşitul pandemiei
Bill Gates a prezis cum va fi lumea după sfârşitul pandemiei
Zeița Hera, soția geloasă și răzbunătoare a lui Zeus
Zeița Hera, soția geloasă și răzbunătoare a lui Zeus
British American Tobacco a mituit partidul lui Robert Mugabe. Detalii din anchetă
British American Tobacco a mituit partidul lui Robert Mugabe. Detalii din anchetă
SUA şi Japonia, îngrijorate din cauza testelor cu rachetă efectuate de Coreea de Nord
SUA şi Japonia, îngrijorate din cauza testelor cu rachetă efectuate de Coreea de Nord