Home » Știință » Inteligența artificială a ajuns îndeajuns de inteligentă pentru a semnala când nu mai este de încredere

Inteligența artificială a ajuns îndeajuns de inteligentă pentru a semnala când nu mai este de încredere

Publicat: 28.11.2020

Cum s-ar fi terminat acțiunea din „Terminator” dacă Skynet hotăra că probabil păstrarea cheilor pentru întregul arsenal nuclear al Statelor Unite era o responsabilitate prea mare?

După cum se pare, oamenii de știință tocmai ne-au salvat de la o astfel de apocalipsă produsă de inteligența artificială (AI). Experții în AI au creat rețele neurale care știu când nu mai pot fi demne de încrederea noastră.

Aceste rețele neurale sunt concepute pentru a imita creierul uman prin faptul că iau în considerare o multitudine de factori, căutând tipare în cantități de date pe care oamenii nu au capacitatea să le analizeze.

AI deja ia decizii în domenii care afectează viețile umane

Deși Skynet este încă o posibilitate destul de îndepărtată, AI deja ia decizii în domenii care afectează viețile umane precum mașinile autonome și diagnosticarea afecțiunilor medicale, iar asta înseamnă că inteligența artificială trebuie să fie cât mai precisă cu putință. Pentru a atinge acest obiectiv, noul sistem de rețele neurale poate genera nivelul propriu de încredere precum și previziuni.

„Avem nevoie de abilitatea de a înțelege atunci când nu mai putem avea încredere în aceste modele”, a spus Alexander Amini, om de știință de la Laboratorul pentru Inteligență Artificială și Știința Computerelor de la MIT (CSAIL).

Această auto-cunoaștere a nivelului de încredere a primit numele de „Deep Evidential Regression” și este bazată pe calitatea datelor disponibile. Cu cât sunt mai precise și complete datele, cu atât mai corecte vor fi previziunile viitoare.

Rețeaua neurală a estimat cu succes propria sa incertitudine

Cercetătorii au comparat sistemul cu o mașină autonomă care are diferite niveluri de siguranță despre cum să treacă printr-o intersecție sau dacă trebuie să aștepte, în cazul în care rețeaua neurală are mai puțină încredere în propriile predicții. Scorul de încredere include chiar și sfaturi pentru a obține un scor mai bun, potrivit Science Alert.

Oamenii de știință au testat noul sistem și l-au lăsat să judece adâncimile din diferite părți ale unei imagini, la fel cum o mașină autonomă judecât distanța. Rețeaua s-a ridicat la nivelul altor sisteme deja existente și a estimat cu succes propria sa incertitudine, momentele în care a avut mai puțină încredere fiind chiar cele în care a estimat eronat adâncimile.

Mai mult, rețeaua neurală a reușit să semnaleze momentele în care a întâlnit imagini în afara expertizei sale, adică foarte diferite de cele prin care a fost instruită. Într-o situație medicală asta ar însemna că ar fi nevoie de opinia suplimentară a unui medic.

Vă mai recomandăm să citiți și:

„Țipetele blestemaților”. Aceasta este lumea stranie a muzicii create de inteligența artificială

O nouă abordare matematică poate simplifica modul în care sunt antrenați algoritmii de inteligență artificială

Premieră pentru astronomie. Inteligența artificială tocmai a confirmat existența a 50 de noi planete

Primul articol de opinie scris în totalitate de un robot. „Eradicarea omenirii pare un efort inutil”

Ioana Scholler
Ioana Scholler
Ioana s-a alăturat echipei DESCOPERĂ.ro în 2020, fiind atrasă de subiecte ce țin de știință, istorie și natură. Ioana și-a finalizat studiile de licență în Manchester, Marea Britanie, acolo unde a studiat Jurnalism Multimedia, și studiile de masterat în Media, Comunicare Publică și ... citește mai mult
Urmărește DESCOPERĂ.ro pe
Google News și Google Showcase
Cele mai noi articole
(P) Ceasuri Swatch inspirate de opere de artă
(P) Ceasuri Swatch inspirate de opere de artă
Cum ar arăta lumea cu peste 3 grade Celsius din cauza crizei climatice?
Cum ar arăta lumea cu peste 3 grade Celsius din cauza crizei climatice?
Un bărbat a făcut descoperirea vieții în grădina casei: o piatră cu inscripții, veche de 1.600 de ani
Un bărbat a făcut descoperirea vieții în grădina casei: o piatră cu inscripții, veche de 1.600 de ani
Peste 57.000 de celule și 150 de milioane de conexiuni, prezente într-o mostră infimă de creier uman
Peste 57.000 de celule și 150 de milioane de conexiuni, prezente într-o mostră infimă de creier uman
Test de cultură generală. Ce înseamnă SOS?
Test de cultură generală. Ce înseamnă SOS?
O predicție extraordinară a lui Albert Einstein despre găurile negre a fost confirmată
O predicție extraordinară a lui Albert Einstein despre găurile negre a fost confirmată
O structură gigantică ascunsă în adâncurile spațiului pune la încercare înțelegerea Universului
O structură gigantică ascunsă în adâncurile spațiului pune la încercare înțelegerea Universului
O fetiță de doar 6 luni a primit un transplant rar de plămâni
O fetiță de doar 6 luni a primit un transplant rar de plămâni
Comerțul „arme contra petrol” dintre Rusia și Coreea de Nord, lovit de noi sancțiuni
Comerțul „arme contra petrol” dintre Rusia și Coreea de Nord, lovit de noi sancțiuni
Platforma Temu din China, acuzată că folosește practici ilegale
Platforma Temu din China, acuzată că folosește practici ilegale
Mai bine de trei veacuri de când „Lorenzo de Medici” al României îi îndruma pe moldoveni să lupte împotriva otomanilor
Mai bine de trei veacuri de când „Lorenzo de Medici” al României îi îndruma pe moldoveni să lupte împotriva otomanilor
Vaccinarea împotriva HPV a prevenit 90% dintre cazurile de cancer de col uterin
Vaccinarea împotriva HPV a prevenit 90% dintre cazurile de cancer de col uterin
Singurul oraș din România în competiția pentru titlul de Capitală Verde Europeană
Singurul oraș din România în competiția pentru titlul de Capitală Verde Europeană
Cum vor măicuțele de la Notre-Dame-des-Neiges să-și salveze mănăstirea?
Cum vor măicuțele de la Notre-Dame-des-Neiges să-și salveze mănăstirea?
Planta care ar putea încetini îmbătrânirea și reduce riscul de Alzheimer
Planta care ar putea încetini îmbătrânirea și reduce riscul de Alzheimer
Nikola Tesla a iubit o porumbiță. „Dintre toate lucrurile, cel mai mult îmi plăceau cărțile”
Nikola Tesla a iubit o porumbiță. „Dintre toate lucrurile, cel mai mult îmi plăceau cărțile”
Valuri gigantice de materie întunecată ar putea modifica orbita stelelor
Valuri gigantice de materie întunecată ar putea modifica orbita stelelor
Noi cercetări arată că polenul poate modifica vremea
Noi cercetări arată că polenul poate modifica vremea