Un sistem de inteligență artificială și-a creat propriul limbaj secret, a dezvăluit un cercetător

De cele mai multe ori, cercetătorii care folosesc învățare automată și inteligența artificială nu cunosc cu exactitate cum sunt folosiți algoritmii pentru a rezolva problemele. 

Să luăm spre exemplu inteligența artificială care poate identifica rasa umană doar uitându-se la radiografii, o abilitate care depășește capacitățile oamenilor, sau inteligența artificială inclusă din platformele de socializare care a început să-și dezvolte propriul limbaj, indică IFL Science.

• Radiațiile UV: Ce trebuie să știm pentru a ne proteja pielea și sănătatea
• Grădinile „dezordonate” care salvează natura: Cum buruienile pot susține biodiversitatea

Alăturarea acestora poate constitui generatorul preferat de text – imagine al tuturor, DALLE-2. Un specialist în știința computerelor, Giannis Daras, a observat că DALLE-2, care creează imagini bazate pe inserarea de text, ar returna cuvinte aleatorii sub formă de text în anumite circumstanțe.

Inteligența artificială dezvoltă propriul limbaj

„O limitare a acestui sistem, despre care se știe, este aceea că textul îi pune anumite probleme”, a scris acesta într-o lucrare publicată în Arxiv. „De exemplu, textele precum O imagine a cuvântului avion conduce cel mai adesea la generearea unei imagini care înfățișează un text lipsit de sens”.

„Am descoperit că aceste texte aparent ilogice nu sunt aleatorii, ci mai degrabă arată un vocabular ascuns pe care sistemul l-ar fi dezvoltat intern. De exemplu, când este alimentat cu acest tip de text, modelul generează frecvent avioane”.

Într-o ilustrare postată pe una dintre rețelele de socializare, se explică faptul că atunci când se cere subtitrarea unei conversații între doi fermieri, sistemul îi arată vorbind, dar casetele de text sunt umplute cu ceva care nu are nici cel mai mic sens.

DALLE-2 se chinuie cu textul

Cu toate acestea, Daras s-a gândit să pună înapoi în sistem aceste cuvinte lipsite de sens, pentru a vedea dacă inteligența artificială a alocat un sens propriu pentru acestea. Când a făcut acest lucru, a descoperit că acele cuvinte păreau să aibă propriul sens pentru IA: fermierii vorbeau despre legume și păsări.

Dacă Daras are dreptate, el consideră că acest lucru ar putea avea unele implicații de securitate pentru generatorul text-imagine. „Primul aspect de securitate este legat de folosirea acestor inserții aleatorii ca backdoor pentru atacatori”, a declarat acesta.

„În prezent, filtrele sistemelor de procesare naturală a limbajului care contravin politicilor de securitate pot fi folosite pentru a ocoli aceste filtre”.„Mai mult, stimulările absurde care generează în mod constant imagini ne testează încrederea în astfel de modele”.

Vă mai recomandăm și:

Rasa umană, prezisă de inteligența artificială pe baza radiografiilor. De ce îi neliniștește asta pe cercetători?

Ambuteiajele ar putea deveni doar o amintire, cu ajutorul semafoarelor cu Inteligență Artificială

Electrocardiograma cu inteligență artificială ar putea identifica pacienții cu risc crescut de AVC

Inteligența artificială care te judecă mai rău ca o soacră. De ce a fost creată?