Președintele Microsoft: Așteptați-vă la „un viitor orwellian” dacă nu adoptăm legi pentru a controla inteligența artificială

Inteligența artificială ar putea duce la „un viitor orwellian” dacă legile care ar putea proteja publicul nu sunt implementate cât mai curând, a spus Brad Smith, președintele Microsoft.

Smith a făcut aceste afirmații în cadrul programului Panorama de la BBC, la data de 26 mai, în timpul unui episod concentrat pe posibilele pericole ale inteligenței artificiale (IA) și cursa dintre Statele Unite ale Americii și China pentru dezvoltarea tehnologiei. Avertizarea vine la o lună după ce Uniunea Europeană a dat publicității o versiune a reglementărilor prin care încearcă să stabilească limitele utilizării inteligenței artificiale. Există puține astfel de eforturi în SUA, acolo unde legislația a fost în mare parte centrată pe limitarea reglementărilor și pe promovarea IA în scopuri de securitate națională.

„Îmi amintesc în mod constant de romanul ‘1984’ al lui George Orwell. Povestea fundamentală era despre un guvern care putea să vadă tot ce face toată lumea și putea să asculte tot ce spunea toată lumea mereu. Asta nu s-a întâmplat în anul 1984, însă, dacă nu avem grijă, s-ar putea adeveri în 2024”, a spus Smith.

Cine se apropie cu pași repezi de lumea SF descrisă de George Orwell?

Din nefericire, multe locuri din lume se apropie cu pași repezi de această lume științifico-fantastică descrisă de George Orwell, a mai precizat Smith.

„Recunoașterea facială este un instrument extrem de puternic care poate fi folosit în multe moduri pozitive, însă, dacă vrei să supraveghezi pe toată lumea care trece pe o stradă, dacă vrei să vezi pe toată lumea care își face apariția la un protest, atunci poți folosi inteligența artificială. Tocmai asta vedem în anumite regiuni din lume”, a adăugat președintele Microsoft.

Spre exemplu, China a început deja să folosească tehnologia cu inteligență artificială atât în moduri banale cât și alarmante. Recunoașterea facială este folosită în unele orașe în loc de bilete pentru autobuze sau trenuri. Însă, asta înseamnă și că guvernul are acces la o cantitate imensă de date despre deplasările și interacțiunile cetățenilor săi.

China dorește să dezvolte un sistem numit „O persoană, un dosar”

Grupul IPVM din SUA, care desfășoară cercetări privind etica supravegherii video, a descoperit documente care sugerează existența unor planuri prin care China dorește să dezvolte un sistem numit „O persoană, un dosar”. Programul ar colecta activitățile, relațiile și ideologiile politice ale fiecărui locuitor într-un dosar guvernamental.

Conform documentelor obținute de IPVM, compania Huawei (posibil în colaborare cu Guvernul Chinei) ar fi patentat deja diverse tehnologii care ar putea identifica rasa unei persoane sau care ar putea acționa ca un detector de minciuni fără ca persoana în cauză să fie conectată la vreun fir sau orice fel de aparat. Spre exemplu, tehnologia cu inteligență artificială ar putea detecta schimbări în expresia feței care sunt insesizabile pentru ochiul uman.

Tehnologia va avansa foarte rapid și ne va fi foarte dificil să o ajungem din urmă

În schimb, interesul Guvernului federal american pentru inteligența artificială a fost centrat în mare parte pe încurajarea dezvoltării IA în scopuri militare și securitate națională. Acest interes a creat ocazional controverse. Spre exemplu, în 2018, Google a sistat Project Maven, un contract cu Pentagonul care ar fi analizat automat filmări făcute de drone și aeronave militare.

Google a susținut că scopul era doar să semnalizeze obiecte pentru analiză umană. Totuși, criticii s-au temut că tehnologia ar putea fi folosită pentru a ținti automat oameni și locuri pentru atacuri cu drone. Avertizorii de integritate din cadrul Google au dezvăluit proiectul, iar acesta a fost în cele din urmă sistat de companie din cauza presiunii publice și a propriilor angajați, potrivit BBC Panorama.

„Dacă nu implementăm acum legile care vor proteja publicul în viitor, vom vedea că tehnologia va avansa foarte rapid și va fi foarte dificil să o ajungem din urmă”, a mai precizat președintele Microsoft.

Vă mai recomandăm să citiți și:

Inteligența artificială a învățat cum să manipuleze comportamentul uman

Primul articol de opinie scris în totalitate de un robot. „Eradicarea omenirii pare un efort inutil”

Inteligența artificială a ajuns îndeajuns de inteligentă pentru a semnala când nu mai este de încredere

Inteligența artificială va câștiga în lupta cu oamenii. Laureat al premiului Nobel: „Nici nu încape îndoială”