Home » Lumea digitala » Atunci când algoritmii dau greş, oamenii suportă consecinţele

Atunci când algoritmii dau greş, oamenii suportă consecinţele

Adrian Popovici 06.17.2019
Atunci când algoritmii dau greş, oamenii suportă consecinţele
Atunci când un algoritm dă greş, oamenii sunt cei care suferă. Atât în mod direct, cât şi din punct de vedere legal.
Sistemele de inteligenţă artificială devin din ce în ce mai complexe şi capătă aplicaţii tot mai diverse şi mai extinse. Această extindere a aplicaţiilor practice ale acestor algoritmi vin la pachet şi cu posibilitatea ca ceva să nu meargă aşa cum a fost programat şi să aibă loc tragedii. În această situaţie trebuie să ne punem mai multe întrebări legate de ce-i de făcut, cine trebuie să îşi asume responsabilitatea morală şi legală atunci când au loc tragedii?
 
Aceaste întrebări au început să fie puse din ce în ce mai des, mai ales din cauza unor accidente în care au fost implicate dispozitive controlate de către sistemele de inteligenţă artificială şi de către acoperirea media de care aceastea au avut parte.
 
La aceste întrebări încearcă să răspundă Madeleine Clare Elish, expertă în antropologie. Ea este de părere că, în pofida incidentelor recente în care  au fost implicate sistemele de inteligenţă artificală (un exemplu fiind maşinile cu pilot automat), discuţiile legate de responsabilitatea pentru greşelile acestora nu este deloc nouă, potrivit Technology Review.
 
Madeleine Clare Elish a observat că, în general, atunci când se produce un astfel de incident, rapoartele întocmite de autorităţile însărcinate cu investigarea acestuia ajung la concluzia că probelemele sunt cauzate de un mix de erori ale sistemului şi de erori de natură umană. Ea mai observă că atunci când media se ocupă de astfel de subiecte, vina este pusă asupra elementului uman, trecând cu vederea probelemele cauzate de tehnologie. De ce?
 
Elish crede că această situaţie apare din modul în care sistemele de inteligenţă artificială sunt prezentate publicului. Tendinţa generală fiind de a prezenta algoritmi ca fiind incapabili de erori. Tot din această cauză se consideră că inclusiv în cazul erorilor cauzate de sistemele autonome se ajunge la situaţia când este identificat cel mai apropiat om pentru a fi învinuit. În această situaţie, oamenii acţionând asemenea unor „bureţi”  care absorb răspunderea legală şi morală.
 
În contextul acestor evoluţii la care asistăm, Madeleine Clare Elish este de părere că trebuie să modificăm perpectivele şi normele legale tradiţionale care reglementează răspunderea. Ea argumentează că aceste norme se vor transforma în modalităţi care să surprindă compexitatea controlului activităţilor în care oamenii şi algoritmi lucrează împreună.
 
Citeşte şi:

Prima reclamă realizată de inteligenţa artificială şi filmată de un regizor de Oscar

Cele mai noi articole
China lansează o misiune crucială în spațiu, cu echipaj
China lansează o misiune crucială în spațiu, cu echipaj
Peștii care comunică prin semnale electrice și își planifică pauzele într-un mod similar oamenilor
Peștii care comunică prin semnale electrice și își planifică pauzele într-un mod similar oamenilor
China acuză NATO de „mentalitate de Război Rece”: „Nu vom rămâne indiferenți”
China acuză NATO de „mentalitate de Război Rece”: „Nu vom rămâne indiferenți”
Cauza prăbușirii unuia dintre „turnurile” Ocolașului Mare, din Munții Ceahlău
Cauza prăbușirii unuia dintre „turnurile” Ocolașului Mare, din Munții Ceahlău
Bărbatul cu cea mai numeroasă familie din lume a murit. Avea 38 de soții și 89 de copii
Bărbatul cu cea mai numeroasă familie din lume a murit. Avea 38 de soții și 89 de copii
Majoritatea companiilor nu au făcut până acum obiectul unei inspecții de mediu
Majoritatea companiilor nu au făcut până acum obiectul unei inspecții de mediu
Imagini noi de la Cascada Bigăr, realizate cu drona. Nu micșorarea debitului ar fi dus la prăbușire
Imagini noi de la Cascada Bigăr, realizate cu drona. Nu micșorarea debitului ar fi dus la prăbușire
Milenialii sunt cei care adoptă și investesc cel mai mult în animalele lor de companie
Milenialii sunt cei care adoptă și investesc cel mai mult în animalele lor de companie
O carte din 1952 a prezis că „Elon” va domni peste Marte, într-o zi
O carte din 1952 a prezis că „Elon” va domni peste Marte, într-o zi
Verde de Paris, culoarea care a făcut numeroase victime în Epoca Victoriană
Verde de Paris, culoarea care a făcut numeroase victime în Epoca Victoriană
Platformă unică în țară pentru pacienții cu boli pulmonare, lansată la Timișoara
Platformă unică în țară pentru pacienții cu boli pulmonare, lansată la Timișoara
Cine a fost ”Cenuşăreasa sovietică”, prima femeie care a văzut Pământul din spaţiu în urmă cu 58 de ani – VIDEO
Cine a fost ”Cenuşăreasa sovietică”, prima femeie care a văzut Pământul din spaţiu în urmă cu 58 de ...
Hackerii au pătruns în sistemele companiei de jocuri video Electronic Arts. Ce au reușit să fure
Hackerii au pătruns în sistemele companiei de jocuri video Electronic Arts. Ce au reușit să fure
Clasamentul celor mai tari străzi din lume
Clasamentul celor mai tari străzi din lume
Quasimodo, spiritul curajos ascuns în spatele unei înfățișări grotești
Quasimodo, spiritul curajos ascuns în spatele unei înfățișări grotești
O populație indigenă din pădurea amazoniană ar putea deține cheia pentru încetinirea procesului de îmbătrânire
O populație indigenă din pădurea amazoniană ar putea deține cheia pentru încetinirea procesului de îmbătrânire
„Salt cuantic” pentru medicină. Cercetătorii au dezvoltat un microscop ce arată structuri nemaivăzute până acum
„Salt cuantic” pentru medicină. Cercetătorii au dezvoltat un microscop ce arată structuri nemaivăzute până acum
Prognoza meteo pentru următoarele săptămâni. Când se încălzește vremea
Prognoza meteo pentru următoarele săptămâni. Când se încălzește vremea