Home » Stiinta » Inteligența artificială a ajuns îndeajuns de inteligentă pentru a semnala când nu mai este de încredere

Inteligența artificială a ajuns îndeajuns de inteligentă pentru a semnala când nu mai este de încredere

11.28.2020

Cum s-ar fi terminat acțiunea din „Terminator” dacă Skynet hotăra că probabil păstrarea cheilor pentru întregul arsenal nuclear al Statelor Unite era o responsabilitate prea mare?

După cum se pare, oamenii de știință tocmai ne-au salvat de la o astfel de apocalipsă produsă de inteligența artificială (AI). Experții în AI au creat rețele neurale care știu când nu mai pot fi demne de încrederea noastră.

Aceste rețele neurale sunt concepute pentru a imita creierul uman prin faptul că iau în considerare o multitudine de factori, căutând tipare în cantități de date pe care oamenii nu au capacitatea să le analizeze.

AI deja ia decizii în domenii care afectează viețile umane

Deși Skynet este încă o posibilitate destul de îndepărtată, AI deja ia decizii în domenii care afectează viețile umane precum mașinile autonome și diagnosticarea afecțiunilor medicale, iar asta înseamnă că inteligența artificială trebuie să fie cât mai precisă cu putință. Pentru a atinge acest obiectiv, noul sistem de rețele neurale poate genera nivelul propriu de încredere precum și previziuni.

„Avem nevoie de abilitatea de a înțelege atunci când nu mai putem avea încredere în aceste modele”, a spus Alexander Amini, om de știință de la Laboratorul pentru Inteligență Artificială și Știința Computerelor de la MIT (CSAIL).

Această auto-cunoaștere a nivelului de încredere a primit numele de „Deep Evidential Regression” și este bazată pe calitatea datelor disponibile. Cu cât sunt mai precise și complete datele, cu atât mai corecte vor fi previziunile viitoare.

Rețeaua neurală a estimat cu succes propria sa incertitudine

Cercetătorii au comparat sistemul cu o mașină autonomă care are diferite niveluri de siguranță despre cum să treacă printr-o intersecție sau dacă trebuie să aștepte, în cazul în care rețeaua neurală are mai puțină încredere în propriile predicții. Scorul de încredere include chiar și sfaturi pentru a obține un scor mai bun, potrivit Science Alert.

Oamenii de știință au testat noul sistem și l-au lăsat să judece adâncimile din diferite părți ale unei imagini, la fel cum o mașină autonomă judecât distanța. Rețeaua s-a ridicat la nivelul altor sisteme deja existente și a estimat cu succes propria sa incertitudine, momentele în care a avut mai puțină încredere fiind chiar cele în care a estimat eronat adâncimile.

Mai mult, rețeaua neurală a reușit să semnaleze momentele în care a întâlnit imagini în afara expertizei sale, adică foarte diferite de cele prin care a fost instruită. Într-o situație medicală asta ar însemna că ar fi nevoie de opinia suplimentară a unui medic.

Vă mai recomandăm să citiți și:

„Țipetele blestemaților”. Aceasta este lumea stranie a muzicii create de inteligența artificială

O nouă abordare matematică poate simplifica modul în care sunt antrenați algoritmii de inteligență artificială

Premieră pentru astronomie. Inteligența artificială tocmai a confirmat existența a 50 de noi planete

Primul articol de opinie scris în totalitate de un robot. „Eradicarea omenirii pare un efort inutil”

Ioana Matei
Ioana Matei
Ioana Matei, redactor Descopera.ro și absolventă a Facultății de Jurnalism Multimedia din Manchester, Marea Britanie, s-a alăturat echipei Descopera.ro din pasiune pentru știință, istorie și natură. citește mai mult
Cele mai noi articole
ABBA a dat în judecată Abba Mania, o trupă britanică de cover-uri
ABBA a dat în judecată Abba Mania, o trupă britanică de cover-uri
Firma de social media a lui Trump a strâns un miliard de dolari de la investitori
Firma de social media a lui Trump a strâns un miliard de dolari de la investitori
Invadarea Britaniei de către Iulius Cezar
Invadarea Britaniei de către Iulius Cezar
„O colibă misterioasă”, descoperită de roverul Chinei pe fața nevăzută a Lunii
„O colibă misterioasă”, descoperită de roverul Chinei pe fața nevăzută a Lunii
Molnupiravir, prima pastilă împotriva COVID, ar putea fi disponibil la scară mare în Marea Britanie, înainte de Crăciun
Molnupiravir, prima pastilă împotriva COVID, ar putea fi disponibil la scară mare în Marea Britanie, înainte de Crăciun
Cauza de la nivel molecular a bolii Alzheimer, descoperită de cercetători
Cauza de la nivel molecular a bolii Alzheimer, descoperită de cercetători
Telefoanele Departamentului de Stat SUA, piratate cu un spyware al unei companii israeliene
Telefoanele Departamentului de Stat SUA, piratate cu un spyware al unei companii israeliene
Imagini incredibile arată aeronava pierdută de americani în timpul atacurilor de la Pearl Harbor – VIDEO
Imagini incredibile arată aeronava pierdută de americani în timpul atacurilor de la Pearl Harbor – VIDEO
Doi bebeluși din Brazilia, ajunși la spital după ce au fost vaccinați din greșeală cu ser anti-covid
Doi bebeluși din Brazilia, ajunși la spital după ce au fost vaccinați din greșeală cu ser anti-covid
Care este marea problemă a Omicron, potrivit lui Valeriu Gheorghiță
Care este marea problemă a Omicron, potrivit lui Valeriu Gheorghiță
Hipopotami de la o grădină zoologică din Belgia s-au infectat cu COVID-19
Hipopotami de la o grădină zoologică din Belgia s-au infectat cu COVID-19
Descoperire macabră. 100 de pisici moarte, găsite în casa unui pensionar
Descoperire macabră. 100 de pisici moarte, găsite în casa unui pensionar
Este posibil ca varianta Omicron să fi capturat o bucată de virus al răcelii
Este posibil ca varianta Omicron să fi capturat o bucată de virus al răcelii
Cutia Neagră a Pământului, structura indestructibilă care va spune ce s-a întâmplat cu omenirea în viitor
Cutia Neagră a Pământului, structura indestructibilă care va spune ce s-a întâmplat cu omenirea în viitor
Kalașnikov vrea să cucerească piața de mașini electrice
Kalașnikov vrea să cucerească piața de mașini electrice
Noi cercetări arată că un medicament comun inhibă tratamentele pentru cancerul pulmonar
Noi cercetări arată că un medicament comun inhibă tratamentele pentru cancerul pulmonar
Ultimul ofițer supraviețuitor al vestitei „Band of Brothers” din al Doilea Război Mondial a murit
Ultimul ofițer supraviețuitor al vestitei „Band of Brothers” din al Doilea Război Mondial a murit
Bijuterii din aur din vremea lui Nefertiti, găsite în morminte din Cipru
Bijuterii din aur din vremea lui Nefertiti, găsite în morminte din Cipru