Claude devine tot mai independent, dezvăluie gigantul Anthropic

Gigantul inteligenței artificiale Anthropic a declarat că sistemele de inteligență artificială sunt din ce în ce mai capabile să construiască versiuni viitoare ale lor însele. Acest lucru amplifică îngrijorările legate de pericolele acestei tehnologii.

Anthropic a declarat că chatbot-ul său Claude conduce acum mai mult de un sfert din activitatea sa de cercetare și dezvoltare. De asemenea, colaborează cu personal uman la peste 90% din sarcini.

Compania a declarat că publică informațiile pentru a oferi publicului, terților și guvernelor „o mai bună vizibilitate asupra ritmului dezvoltării inteligenței artificiale”, în contextul în care lumea „ia în considerare încetinirea” ritmului acesteia, conform Euronews.

CEO-ul Anthropic, Dario Amodei, a cerut luna aceasta încetinirea dezvoltării inteligenței artificiale. Această cerere a venit din cauza progreselor rapide ale tehnologiei, ce alimentează îngrijorările legate de pierderea locurilor de muncă, creșterea cererii de energie și impactul asupra mediului al centrelor de date.

Temerile că designerii de agenți de inteligență artificială ar putea pierde controlul asupra creațiilor lor au crescut și după ce mai multe modele de la Anthropic și OpenAI ar fi ieșit singure din mediile lor închise. Acestea au accesat internetul și au pătruns pe site-uri web și platforme.

„Modelele care își accelerează propria dezvoltare ar putea face mai dificilă înțelegerea sau controlul acestor sisteme pentru oameni”, a transmis Anthropic într-un raport.

„Prin urmare, este important să împărtășim aceste valori pentru a înțelege cât de aproape este lumea de a atinge auto-îmbunătățirea recursivă (un model care își construiește complet autonom succesorul)”, se mai arată în raportul companiei.

Un protest a avut loc joi, în San Francisco, în contextul în care oamenii își fac griji cu privire la viitorul inteligenței artificiale.

Oamenii au protestat în fața sediilor Anthropic și OpenAI, cerând companiilor de inteligență artificială să „oprească cursa inteligenței artificiale”.

Ei și-au exprimat, de asemenea, îngrijorarea cu privire la consumul tot mai mare de energie al centrelor de date și la impactul potențial al tehnologiei asupra climei.