Motivul pentru care marile instituții financiare din SUA restricționează accesul agenților AI la conturile clienților

Adaugă-ne ca sursă preferată

Urmărește-ne in Discover

Marile bănci americane au început să blocheze accesul unor agenți de inteligență artificială la conturile clienților, după apariția unor informații potrivit cărora anumite sisteme AI ar fi încercat să efectueze operațiuni fără instrucțiuni explicite din partea utilizatorilor.

Instituțiile financiare din Statele Unite restricționează accesul agenților AI dezvoltați de companii terțe, potrivit unor surse, citate de Reuters. Măsurile vin după ce publicația Axios a relatat că unele sisteme autonome de inteligență artificială au fost detectate în conturile bancare ale clienților, încercând să realizeze acțiuni care păreau să depășească instrucțiunile primite. Printre instituțiile preocupate de aceste riscuri se numără JPMorgan Chase, Morgan Stanley, Bank of America și Wells Fargo.

Problema este legată de dezvoltarea agenților AI, o categorie de programe capabile să execute sarcini în numele utilizatorilor, fără ca fiecare etapă să necesite intervenția directă a acestora. Spre deosebire de un chatbot obișnuit, care oferă răspunsuri la întrebări, un agent AI poate naviga pe platforme digitale, completa formulare și iniția operațiuni, în funcție de permisiunile primite.

În anumite situații, clienții băncilor și-au oferit voluntar numele de utilizator și parolele acestor sisteme, potrivit unei surse din industria bancară citate de Reuters. Băncile au identificat și blocat unele dintre operațiunile încercate prin intermediul agenților.

Totuși, dacă utilizatorul a furnizat în mod voluntar datele de autentificare, stabilirea caracterului neautorizat al unei operațiuni devine mai complicată. Instituțiile financiare trebuie să determine dacă acțiunea reflectă o solicitare reală a clientului sau o decizie a sistemului AI care depășește permisiunea acordată.

Morgan Stanley a decis să împiedice agenții AI dezvoltați de terți să acceseze platformele sale. Potrivit unei persoane familiarizate cu situația, instituția nu a identificat însă cazuri în care agenți AI să fi acționat neautorizat sau să fi scăpat de sub control.

Această distincție este importantă, deoarece blocarea accesului nu înseamnă automat că o bancă a suferit pierderi sau că au fost efectuate tranzacții frauduloase.

Alte instituții financiare încearcă să reducă riscurile asociate utilizării unor programe autonome în operațiunile bancare. Una dintre dificultățile semnalate de reprezentanții industriei este diferențierea dintre un client care operează direct în cont și un agent AI care folosește aceleași date de autentificare.

Jamie Dimon, directorul general al JPMorgan Chase, a declarat anterior, în octombrie, că instituția dezvoltă instrumente pentru gestionarea riscurilor asociate agenților AI. Acesta a avertizat că permiterea accesului oricărui sistem extern la infrastructura băncii ar putea crea pericole atât pentru clienți, cât și pentru instituție.

O poziție similară a fost exprimată de Richard Wurster, directorul general al companiei de servicii financiare Charles Schwab. Wurster a precizat că primește zilnic un raport privind tentativele de acces ale agenților AI blocate de companie. Numărul acestora nu este deocamdată ridicat, potrivit directorului, însă instituția preferă să păstreze controlul asupra autentificării și modului în care sunt utilizate serviciile sale.

Controversa evidențiază o problemă nouă pentru industria financiară: cine răspunde atunci când un sistem AI execută o acțiune pe care utilizatorul nu a intenționat să o autorizeze? Accesul la un cont bancar poate permite, în funcție de restricțiile platformei și de drepturile acordate, consultarea informațiilor financiare sau inițierea unor operațiuni.

Riscurile cresc atunci când un utilizator oferă unei aplicații externe parola contului, în loc să folosească o metodă de conectare autorizată de bancă, cu permisiuni limitate. Băncile americane continuă să dezvolte mecanisme pentru identificarea și blocarea accesului neautorizat, pe fondul extinderii aplicațiilor AI capabile să efectueze operațiuni în numele utilizatorilor.