Home » Știință » Un sistem de inteligență artificială și-a creat propriul limbaj secret, a dezvăluit un cercetător

Un sistem de inteligență artificială și-a creat propriul limbaj secret, a dezvăluit un cercetător

Publicat: 09.06.2022

De cele mai multe ori, cercetătorii care folosesc învățare automată și inteligența artificială nu cunosc cu exactitate cum sunt folosiți algoritmii pentru a rezolva problemele. 

Să luăm spre exemplu inteligența artificială care poate identifica rasa umană doar uitându-se la radiografii, o abilitate care depășește capacitățile oamenilor, sau inteligența artificială inclusă din platformele de socializare care a început să-și dezvolte propriul limbaj, indică IFL Science.

Alăturarea acestora poate constitui generatorul preferat de text – imagine al tuturor, DALLE-2. Un specialist în știința computerelor, Giannis Daras, a observat că DALLE-2, care creează imagini bazate pe inserarea de text, ar returna cuvinte aleatorii sub formă de text în anumite circumstanțe.

Inteligența artificială dezvoltă propriul limbaj

„O limitare a acestui sistem, despre care se știe, este aceea că textul îi pune anumite probleme”, a scris acesta într-o lucrare publicată în Arxiv. „De exemplu, textele precum O imagine a cuvântului avion conduce cel mai adesea la generearea unei imagini care înfățișează un text lipsit de sens”.

„Am descoperit că aceste texte aparent ilogice nu sunt aleatorii, ci mai degrabă arată un vocabular ascuns pe care sistemul l-ar fi dezvoltat intern. De exemplu, când este alimentat cu acest tip de text, modelul generează frecvent avioane”.

Într-o ilustrare postată pe una dintre rețelele de socializare, se explică faptul că atunci când se cere subtitrarea unei conversații între doi fermieri, sistemul îi arată vorbind, dar casetele de text sunt umplute cu ceva care nu are nici cel mai mic sens.

DALLE-2 se chinuie cu textul

Cu toate acestea, Daras s-a gândit să pună înapoi în sistem aceste cuvinte lipsite de sens, pentru a vedea dacă inteligența artificială a alocat un sens propriu pentru acestea. Când a făcut acest lucru, a descoperit că acele cuvinte păreau să aibă propriul sens pentru IA: fermierii vorbeau despre legume și păsări.

Dacă Daras are dreptate, el consideră că acest lucru ar putea avea unele implicații de securitate pentru generatorul text-imagine. „Primul aspect de securitate este legat de folosirea acestor inserții aleatorii ca backdoor pentru atacatori”, a declarat acesta.

„În prezent, filtrele sistemelor de procesare naturală a limbajului care contravin politicilor de securitate pot fi folosite pentru a ocoli aceste filtre”.„Mai mult, stimulările absurde care generează în mod constant imagini ne testează încrederea în astfel de modele”.

Vă mai recomandăm și:

Rasa umană, prezisă de inteligența artificială pe baza radiografiilor. De ce îi neliniștește asta pe cercetători?

Ambuteiajele ar putea deveni doar o amintire, cu ajutorul semafoarelor cu Inteligență Artificială

Electrocardiograma cu inteligență artificială ar putea identifica pacienții cu risc crescut de AVC

Inteligența artificială care te judecă mai rău ca o soacră. De ce a fost creată?

Vlad Constantin Voinea
Vlad Constantin Voinea
Vlad a făcut parte din echipa site-ului Descoperă.ro între februarie și august 2022, fiind pasionat de subiecte asociate cu știința, tehnologia, istoria și geopolitica. Vlad este specializat în managementul crizelor si prevenirea conflictelor, fiind absolvent al Universității Naționale ... citește mai mult
Urmărește DESCOPERĂ.ro pe
Google News și Google Showcase
Cele mai noi articole
Ziua în care Iancu de Hunedoara ajungea o legendă. Victoria care a dat naştere unei practici păstrate şi la ora actuală
Ziua în care Iancu de Hunedoara ajungea o legendă. Victoria care a dat naştere unei practici păstrate şi la ora actuală
Vladimir Putin ar fi „gata să negocieze pacea cu Ucraina” dar cu o condiție
Vladimir Putin ar fi „gata să negocieze pacea cu Ucraina” dar cu o condiție
Cum au umflat vânzările unii producători de mașini electrice?
Cum au umflat vânzările unii producători de mașini electrice?
Marea Britanie propune o „campanie de 50 de zile” pentru înarmarea Ucrainei
Marea Britanie propune o „campanie de 50 de zile” pentru înarmarea Ucrainei
Meteorologii anunță că urmează două săptămâni cu vreme schimbătoare
Meteorologii anunță că urmează două săptămâni cu vreme schimbătoare
Via delle Valli, traseul din Italia dedicat drumeților care caută să scape de aglomerație
Via delle Valli, traseul din Italia dedicat drumeților care caută să scape de aglomerație
Cum să faci față unei nopți fără somn și să-ți menții energia pe parcursul zilei
Cum să faci față unei nopți fără somn și să-ți menții energia pe parcursul zilei
Bacteriile intestinale ar putea deveni o armă împotriva „chimicalelor eterne”
Bacteriile intestinale ar putea deveni o armă împotriva „chimicalelor eterne”
Durerea nu e ce pare: Cum a jucat un sportiv legendar un meci cu o fractură gravă
Durerea nu e ce pare: Cum a jucat un sportiv legendar un meci cu o fractură gravă
Încă o țară anunță mari ambiții spațiale! Cine vrea să construiască o bază pe Lună până în 2045?
Încă o țară anunță mari ambiții spațiale! Cine vrea să construiască o bază pe Lună până în 2045?
Felix Baumgartner, prima persoană din lume care a depăşit viteza sunetului fără a se afla într-un avion. „Uneori trebuie să te ridici foarte sus pentru a înțelege cât de mic ești cu adevărat”
Felix Baumgartner, prima persoană din lume care a depăşit viteza sunetului fără a se afla într-un avion. „Uneori ...
Yaupon, planta uitată a Americii care ar putea înlocui ceaiul și cafeaua
Yaupon, planta uitată a Americii care ar putea înlocui ceaiul și cafeaua
Ce au descoperit oamenii de știință sub vulcanii adormiți din Auvergne?
Ce au descoperit oamenii de știință sub vulcanii adormiți din Auvergne?
Europa, de la o extremă la altă: Căldură sufocantă și furtuni violente
Europa, de la o extremă la altă: Căldură sufocantă și furtuni violente
Cod roșu de caniculă în București și șase județe
Cod roșu de caniculă în București și șase județe
Ziua în care a ars una dintre cele şapte minuni ale lumii
Ziua în care a ars una dintre cele şapte minuni ale lumii
Reacția Papei Leon după ce singura biserică catolică din Gaza a fost atacată
Reacția Papei Leon după ce singura biserică catolică din Gaza a fost atacată
A început construcția celui mai mare baraj hidroelectric din lume
A început construcția celui mai mare baraj hidroelectric din lume