Home » Lumea digitala » Metoda prin care deciziile luate de algoritmi ar putea fi mai transparente

Metoda prin care deciziile luate de algoritmi ar putea fi mai transparente

Autor: Adrian Popovici 01.03.2020
Metoda prin care deciziile luate de algoritmi ar putea fi mai transparente
Acest cadru de operare ar putea permite celor care folosesc inteligenţa artificială să înţeleagă raţionamentul pe care acestea îl folosesc.

Înteligenţa artificială face parte din ce în ce mai mult din vieţile noastre, fie că o vrem sau nu, iar o înţelegere mai bună, atât la nivelul specialiştilor, cât şi a publicului larg a modului în care aceasta funcţionează, se poate dovedi benefică. Un grup de cercetători propune un nou cadru de operare care ar putea explica raţionamentul pe care algoritmii îl folosesc pentru a lua o decizie, notează Techxplore.

„Un lucru care ne diferenţiază cadrul este acela că facem din aceste elemente de interpretare parte a procesului de instruire AI”, explică Tianfu Wu, autor al studiului şi asistent universitar al catedrei de Inginerie a Calculatoarelor din cadrul Universităţii Norh Carolina.

„De exemplu, în cadrul nostru, când un program AI învaţă cum să identifice obiectele în imagini, el învaţă să localizeze obiectul ţintă în cadrul unei imagini şi să analizeze detaliile despre acele zone din imagine care îndeplinesc criteriile obiectului ţintă. Aceste informaţii sunt apoi prezentate alături de rezultat”, a mai adăugat acesta.

În cadrul unui experiemnt care să demonstreze fezabilitatea cadrului propus, oamenii de ştiinţă au inserat cadrul propus în codul unui algoritm care identifică obiecte:  R-CNN AI, care folosea două seturi de date de referinţă. Cercetătorii au aflat că integrarea cadrului lor de operare nu a afectat performanţa algoritmului în termeni de acurateţe sau timp necesar procesării informaţiilor. „Credem că acesta este un pas semnificativ către realizarea unor sisteme de inteligenţă artificială pe deplin transparente”, explică dr. Wu. 

Citeşte şi:

 

Cele mai noi articole
Cercetătorii sunt puși în impas de un obiect care cu o masă intermediară stelelor neutronice și găurilor negre
Cercetătorii sunt puși în impas de un obiect care cu o masă intermediară stelelor neutronice și găurilor negre
Universitatea din România unde se fac cercetari despre drone
Universitatea din România unde se fac cercetari despre drone
Arheologii cred că au găsit regatul lui Midas în Turcia
Arheologii cred că au găsit regatul lui Midas în Turcia
Când se vor afişa rezultatele complete de la Evaluarea Naţională (Capacitate) 2020. Edu.ro anunţă notele pe judeţe
Când se vor afişa rezultatele complete de la Evaluarea Naţională (Capacitate) 2020. Edu.ro anunţă notele pe judeţe
NASA a inventat pandantivul care te „ceartă” de fiecare dată când îți atingi fața
NASA a inventat pandantivul care te „ceartă” de fiecare dată când îți atingi fața
Ce se întâmplă, de fapt, atunci când două Găuri Negre se ciocnesc
Ce se întâmplă, de fapt, atunci când două Găuri Negre se ciocnesc
Cocktailul de antioxidanți care poate preveni sau chiar inversa efectele bolii Alzheimer
Cocktailul de antioxidanți care poate preveni sau chiar inversa efectele bolii Alzheimer
Lei de mare decapitați continuă să apară pe malurile Insulei Vancouver, iar nimeni nu știe de ce
Lei de mare decapitați continuă să apară pe malurile Insulei Vancouver, iar nimeni nu știe de ce
Petrecere de „adio” pentru coronavirus. Locuitorii din Praga au sărbătorit în plină stradă
Petrecere de „adio” pentru coronavirus. Locuitorii din Praga au sărbătorit în plină stradă
Sateliții NASA au surprins incendiul de vegetație Bighorn
Sateliții NASA au surprins incendiul de vegetație Bighorn
Trei noi alerte pentru măști periculoase au fost emise. Numărul total ajunge la 56
Trei noi alerte pentru măști periculoase au fost emise. Numărul total ajunge la 56
Un vechi oraș din Noua Zeelandă a fost scos la vânzare pentru 7,5 milioane de dolari
Un vechi oraș din Noua Zeelandă a fost scos la vânzare pentru 7,5 milioane de dolari
Strada din Cluj-Napoca pe care a locuit Doina Cornea îi va purta numele fostei disidente
Strada din Cluj-Napoca pe care a locuit Doina Cornea îi va purta numele fostei disidente
Disney amână din nou lansarea în cinematografe a filmului „Mulan”
Disney amână din nou lansarea în cinematografe a filmului „Mulan”
A fost lansată o lucrare de artă colectivă pentru copii, care vorbește despre viitorul planetei
A fost lansată o lucrare de artă colectivă pentru copii, care vorbește despre viitorul planetei
Timp de două luni la rând Huawei a fost cel mai mare producător de smartphone-uri
Timp de două luni la rând Huawei a fost cel mai mare producător de smartphone-uri
China a cumpărat atât de mult petrol încât a provocat blocaj pe mare
China a cumpărat atât de mult petrol încât a provocat blocaj pe mare
Cercetătorii din Suedia spun că imunitatea dată de COVID-19 ar putea fi mult mai mare decât se credea
Cercetătorii din Suedia spun că imunitatea dată de COVID-19 ar putea fi mult mai mare decât se credea