Un nou model de Inteligență Artificială, considerat prea periculos pentru public

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Compania americană Anthropic a anunțat că nu va lansa public noul model de inteligență artificială Mythos Preview. Dezvoltatorii spun că sistemul este atât de performant în descoperirea vulnerabilităților informatice încât ar putea fi folosit de hackeri sau spioni, transmite Euronews.

Anthropic a prezentat noul model, denumit oficial „Claude Mythos Preview”. Compania susține că tehnologia este capabilă să identifice vulnerabilități critice în sisteme de operare și browsere. Potrivit dezvoltatorilor, aceste capacități ar putea fi exploatate de criminali informatici. Din acest motiv, modelul nu va fi lansat public pentru moment. „Creșterea semnificativă a capabilităților ne-a determinat să nu îl punem la dispoziția tuturor utilizatorilor”, a transmis compania într-un document tehnic, citat de Euronews.

• Incident medical fără precedent la bordul ISS: Un astronaut NASA a rămas brusc fără voce
• Jumătate dintre elevii români s-au gândit la sinucidere, arată un raport îngrijorător

Anthropic a testat modelul în mai multe scenarii de securitate. Într-un experiment, sistemul a reușit să găsească o metodă de a depăși restricțiile unui mediu virtual securizat. Modelul a reușit să transmită un mesaj din interiorul acelui mediu. În plus, a publicat detalii despre vulnerabilitate pe mai multe site-uri publice. Compania a descoperit că sistemul poate identifica erori grave în nucleul Linux, folosit pe majoritatea serverelor din lume. Modelul a reușit chiar să combine mai multe vulnerabilități pentru a simula preluarea controlului asupra unui sistem. Într-un alt caz, Mythos a descoperit o vulnerabilitate veche de 27 de ani în sistemul de operare OpenBSD.

Anthropic a decis ca modelul să fie folosit doar într-un program restrâns de securitate cibernetică. Proiectul, numit „Project Glasswing”, va implica mai multe companii mari din tehnologie. Printre ele se numără Amazon Web Services, Apple, Google, Microsoft, Nvidia și Cisco. Modelul va fi folosit pentru identificarea vulnerabilităților și îmbunătățirea securității sistemelor informatice. Compania spune că va publica ulterior concluziile programului. Anthropic a confirmat că poartă discuții cu oficiali ai guvernului SUA despre implicațiile modelului. Compania consideră că dezvoltarea unor astfel de tehnologii are impact asupra securității naționale. De aceea, colaborarea cu autoritățile ar putea deveni necesară.

Directorul general al Anthropic, Dario Amodei, a avertizat că și alte companii ar putea dezvolta sisteme similare. Potrivit experților companiei, modele AI cu astfel de capacități ar putea apărea pe piață în următoarele șase până la 18 luni. Specialiștii din domeniul securității spun că industria trebuie să se pregătească pentru apariția unor instrumente AI capabile să identifice și să exploateze vulnerabilități informatice la scară largă.