Home » Știință » Un sistem de inteligență artificială și-a creat propriul limbaj secret, a dezvăluit un cercetător

Un sistem de inteligență artificială și-a creat propriul limbaj secret, a dezvăluit un cercetător

Publicat: 09.06.2022

De cele mai multe ori, cercetătorii care folosesc învățare automată și inteligența artificială nu cunosc cu exactitate cum sunt folosiți algoritmii pentru a rezolva problemele. 

Să luăm spre exemplu inteligența artificială care poate identifica rasa umană doar uitându-se la radiografii, o abilitate care depășește capacitățile oamenilor, sau inteligența artificială inclusă din platformele de socializare care a început să-și dezvolte propriul limbaj, indică IFL Science.

Alăturarea acestora poate constitui generatorul preferat de text – imagine al tuturor, DALLE-2. Un specialist în știința computerelor, Giannis Daras, a observat că DALLE-2, care creează imagini bazate pe inserarea de text, ar returna cuvinte aleatorii sub formă de text în anumite circumstanțe.

Inteligența artificială dezvoltă propriul limbaj

„O limitare a acestui sistem, despre care se știe, este aceea că textul îi pune anumite probleme”, a scris acesta într-o lucrare publicată în Arxiv. „De exemplu, textele precum O imagine a cuvântului avion conduce cel mai adesea la generearea unei imagini care înfățișează un text lipsit de sens”.

„Am descoperit că aceste texte aparent ilogice nu sunt aleatorii, ci mai degrabă arată un vocabular ascuns pe care sistemul l-ar fi dezvoltat intern. De exemplu, când este alimentat cu acest tip de text, modelul generează frecvent avioane”.

Într-o ilustrare postată pe una dintre rețelele de socializare, se explică faptul că atunci când se cere subtitrarea unei conversații între doi fermieri, sistemul îi arată vorbind, dar casetele de text sunt umplute cu ceva care nu are nici cel mai mic sens.

DALLE-2 se chinuie cu textul

Cu toate acestea, Daras s-a gândit să pună înapoi în sistem aceste cuvinte lipsite de sens, pentru a vedea dacă inteligența artificială a alocat un sens propriu pentru acestea. Când a făcut acest lucru, a descoperit că acele cuvinte păreau să aibă propriul sens pentru IA: fermierii vorbeau despre legume și păsări.

Dacă Daras are dreptate, el consideră că acest lucru ar putea avea unele implicații de securitate pentru generatorul text-imagine. „Primul aspect de securitate este legat de folosirea acestor inserții aleatorii ca backdoor pentru atacatori”, a declarat acesta.

„În prezent, filtrele sistemelor de procesare naturală a limbajului care contravin politicilor de securitate pot fi folosite pentru a ocoli aceste filtre”.„Mai mult, stimulările absurde care generează în mod constant imagini ne testează încrederea în astfel de modele”.

Vă mai recomandăm și:

Rasa umană, prezisă de inteligența artificială pe baza radiografiilor. De ce îi neliniștește asta pe cercetători?

Ambuteiajele ar putea deveni doar o amintire, cu ajutorul semafoarelor cu Inteligență Artificială

Electrocardiograma cu inteligență artificială ar putea identifica pacienții cu risc crescut de AVC

Inteligența artificială care te judecă mai rău ca o soacră. De ce a fost creată?

Vlad Constantin Voinea
Vlad Constantin Voinea
Vlad a făcut parte din echipa site-ului Descoperă.ro între februarie și august 2022, fiind pasionat de subiecte asociate cu știința, tehnologia, istoria și geopolitica. Vlad este specializat în managementul crizelor si prevenirea conflictelor, fiind absolvent al Universității Naționale ... citește mai mult
Urmărește DESCOPERĂ.ro pe
Google News și Google Showcase
Cele mai noi articole
Scorpionii invadează orașele din Brazilia. Pericol alimentat de urbanizare și schimbări climatice
Scorpionii invadează orașele din Brazilia. Pericol alimentat de urbanizare și schimbări climatice
Enigma: Codul „de neînfrânt” s-ar prăbuși astăzi în fața unui simplu laptop
Enigma: Codul „de neînfrânt” s-ar prăbuși astăzi în fața unui simplu laptop
James Harrison, prima persoană care a creat o mașină de făcut gheață și un frigider viabile din punct de vedere comercial
James Harrison, prima persoană care a creat o mașină de făcut gheață și un frigider viabile din punct de vedere comercial
Natacha Rambova, iubita lui Rudolph Valentino. Balerină, designer de costume de film și singurul egiptolog de la Hollywood
Natacha Rambova, iubita lui Rudolph Valentino. Balerină, designer de costume de film și singurul egiptolog de la Hollywood
Podcastul care dezgroapă SECRETELE LUI MIHAI EMINESCU. Alin Comșa: „N-avea ce mânca!” | ALTCEVA CU ADRIAN ARTENE
Podcastul care dezgroapă SECRETELE LUI MIHAI EMINESCU. Alin Comșa: „N-avea ce mânca!” | ALTCEVA CU ADRIAN ARTENE
Test de cultură generală. Ce este Inelul de Foc al Pacificului?
Test de cultură generală. Ce este Inelul de Foc al Pacificului?
Academia Atlantykron omagiază 44 de ani de la zborul în spațiu al cosmonautului Dumitru-Dorin Prunariu
Academia Atlantykron omagiază 44 de ani de la zborul în spațiu al cosmonautului Dumitru-Dorin Prunariu
Oamenii de știință au calculat peste cât timp se va sfârși Universul
Oamenii de știință au calculat peste cât timp se va sfârși Universul
S-ar fi descoperit o posibilă cauză pentru pana de curent din Spania și Portugalia
S-ar fi descoperit o posibilă cauză pentru pana de curent din Spania și Portugalia
Danemarca ar putea renunța la o interdicție veche de 40 de ani privind energia nucleară
Danemarca ar putea renunța la o interdicție veche de 40 de ani privind energia nucleară
SUA și Qatar au semnat un acord Boeing de 200 de miliarde de dolari
SUA și Qatar au semnat un acord Boeing de 200 de miliarde de dolari
Ziua în care „fecioara din Orleans” a intrat în rândul sfinţilor
Ziua în care „fecioara din Orleans” a intrat în rândul sfinţilor
O influenceriță a fost împușcată mortal în timp ce era live pe TikTok
O influenceriță a fost împușcată mortal în timp ce era live pe TikTok
Inteligența Artificială este capabilă să dezvolte spontan comunicare similară cu cea a oamenilor
Inteligența Artificială este capabilă să dezvolte spontan comunicare similară cu cea a oamenilor
Comisia Europeană a greșit atunci când a blocat accesul la mesajele Ursulei von der Leyen
Comisia Europeană a greșit atunci când a blocat accesul la mesajele Ursulei von der Leyen
Cum arată industria criptomonedelor după primele 100 de zile din al doilea mandat al lui Donald Trump?
Cum arată industria criptomonedelor după primele 100 de zile din al doilea mandat al lui Donald Trump?
Arheologii au aflat originea lamelor de obsidian folosite de azteci în timpul ritualurilor
Arheologii au aflat originea lamelor de obsidian folosite de azteci în timpul ritualurilor
O specie de insectă folosește o tactică surprinzătoare pentru a-și manipula prada
O specie de insectă folosește o tactică surprinzătoare pentru a-și manipula prada