Agenții AI sunt matematic incapabili să efectueze o muncă funcțională

Agenții AI sunt matematic incapabili să efectueze o muncă funcțională. Un studiu vechi de câteva luni, dar trecut cu vederea până de curând și prezentat recent de Wired, susține că demonstrează matematic faptul că modelele lingvistice de mari dimensiuni „sunt incapabile să realizeze sarcini computaționale și agențiale dincolo de un anumit nivel de complexitate”, un nivel care, esențial, este surprinzător de scăzut.

Lucrarea, care nu a fost evaluată de experți independenți, este semnată de Vishal Sikka, fost CTO al gigantului software german SAP, și de fiul său, Varin Sikka.

Vishal Sikka nu este un outsider în domeniu: a studiat sub îndrumarea lui John McCarthy, informatician laureat al Premiului Turing și fondator al Inteligenței Artificiale, cel care a și introdus termenul. „Nu există nicio șansă să fie fiabile”, a declarat Sikka pentru publicația Wired, citată de Futurism.

Întrebat direct, el a fost de acord că ar trebui abandonate ideile despre agenți AI care să opereze centrale nucleare sau alte promisiuni grandioase vehiculate de susținătorii entuziaști ai tehnologiei. De fapt, pare că agenții AI sunt matematic incapabili să efectueze o muncă funcțională.

Agenții AI sunt matematic incapabili să efectueze o muncă funcțională. Ce înseamnă asta pentru viitorul tehnologiei?

Dacă ignori retorica spectaculoasă a directorilor din tech și te uiți la concluziile cercetătorilor care lucrează efectiv în industrie, devine clar că până și sectorul AI recunoaște existența unor limitări fundamentale, adânc înrădăcinate în arhitectura acestor sisteme. În septembrie, de pildă, cercetătorii OpenAI au admis că halucinațiile AI, adică situațiile în care modelele inventează fapte cu mare încredere, rămân o problemă omniprezentă chiar și în sistemele tot mai avansate și că acuratețea nu va ajunge „niciodată” la 100%.

Această realitate pune sub semnul întrebării fezabilitatea așa-zișilor agenți AI, concepuți pentru a îndeplini autonom sarcini fără intervenție umană și considerați anul trecut următoarea mare direcție a industriei. Unele companii care au adoptat rapid agenți AI pentru a-și reduce personalul au descoperit curând că aceștia nu erau nici pe departe suficient de buni pentru a-i înlocui pe oameni, probabil din cauza frecvenței ridicate a halucinațiilor și a dificultății de a duce la bun sfârșit sarcinile primite.

Pot fi limitate „halucinațiile” modelelor AI?

Liderii din domeniul AI susțin că pot fi introduse mecanisme externe de siguranță pentru a filtra aceste erori. Chiar dacă modelele vor rămâne predispuse la halucinații, argumentează ei, atât timp cât acestea devin suficient de rare, companiile vor ajunge să le încredințeze modelelor sarcini rezervate până acum oamenilor. În același articol în care cercetătorii OpenAI au recunoscut că acuratețea perfectă este imposibilă, ei au respins ideea că halucinațiile sunt „inevitabile”, susținând că modelele „pot refuza să răspundă atunci când sunt nesigure”. Cu toate acestea, este greu de găsit un chatbot popular care să facă efectiv acest lucru, probabil pentru că ar părea mai puțin impresionant și mai puțin atractiv pentru utilizatori.

Deși este convins că modelele lingvistice au un plafon clar, Sikka este de acord cu ideea că halucinațiile pot fi ținute sub control. „Lucrarea noastră spune că un LLM pur are această limitare inerentă, dar, în același timp, este adevărat că poți construi componente în jurul LLM-urilor care să depășească aceste limitări”, a declarat el pentru Wired.

Vă recomandăm să citiți și:

Trucul simplu care reduce consumul de energie al centrelor de date cu 30%

Test de cultură generală. Ce sunt criptomonedele?

De ce vor oamenii de știință să-i provoace durere Inteligenței Artificiale?

Facebook plănuiește să umple platforma cu utilizatori AI