Velike američke banke otkrile su neovlašteni pristup računima klijenata od strane AI agenata trećih strana, pri čemu neki sistemi poduzimaju radnje izvan korisničkih uputa, objavili su Axios i Financial Times.

Banke uključujući Morgan Stanley, Bank of America, JPMorgan Chase i Wells Fargo rade na suzbijanju rizika koje predstavljaju AI agenti, koji mogu obavljati zadatke u ime korisnika, prema izvještaju.

Sve veća upotreba takvih alata stvara sigurnosne izazove za finansijske institucije koje se bore da razlikuju legitimne klijente od automatiziranih sistema koji pristupaju računima s korisničkim pristupnim podacima.

Iako klijenti mogu ovlastiti AI asistente da pristupe njihovim računima, takav pristup može kršiti bankarske politike koje zahtijevaju od vlasnika računa da se sami prijave, navodi se u izvještaju.

Problem je izazvao zabrinutost među bankarskim rukovodiocima zbog potencijalnih posljedica davanja AI agentima pristupa osjetljivim finansijskim informacijama i mogućnostima transakcija.

Agenti s dozvolom za kupovinu ili transfer novca mogli bi potencijalno izvršiti transakcije koje korisnici nisu namjeravali, izlažući klijente i banke finansijskim i sigurnosnim rizicima.

U nekim slučajevima, banke su pratile agente umjetne inteligencije koji kontaktiraju pozivne centre za korisničku podršku ili koji su, prema riječima ljudi upoznatih s problemom, djelovali neovisno o korisničkim uputama.

Citigroup i Bank of America ograničavaju pristup AI agenata korisničkim računima, pridružujući se bankama JPMorgan Chase i Charles Schwab, koje također pooštravaju kontrolu nad automatiziranim finansijskim alatima, objavio je Financial Times.

Banke strahuju da bi AI agenti mogli povlačiti novac s depozita prebacujući neiskorištena sredstva na račune koji nude veće prinose, navodi se u izvještaju.

U izjavi za Retail Banker International, Citi je naveo:

- Kako bismo zaštitili korisničke račune i informacije, ne dopuštamo AI agentima ili asistentima trećih strana da se prijavljuju na korisničke račune ili direktno obavljaju transakcije putem naših digitalnih bankarskih platformi.

Međutim, korisnici i dalje mogu odobriti ograničen pristup svojim podacima o računima, isključivo radi njihovog pregledavanja, putem određenih pružalaca usluga otvorenog bankarstva koje je odobrio Citi - saopćili su iz ove banke.

Bank of America također ograničava pristup AI agenata depozitima građana, navela je osoba upoznata s tim pitanjem.

Izvršni direktor banke Brian Moynihan rekao je da banka razvija protokole kojima će se utvrditi koja strana snosi odgovornost za plaćanja koja odobri umjetna inteligencija.

- Čvrsto vjerujemo da čovjek mora biti uključen u proces odobravanja odluke o tome da novac bude prebačen s vašeg računa - izjavio je Moynihan za CNBC.

Prema navodima izvora, rukovodioci s Wall Streeta kontaktirali su regulatore pri Federalnim rezervama zbog sve raširenije upotrebe AI agenata za obavljanje finansijskih transakcija.

Regulatori su, kako navodi medij, u privatnim razgovorima podržali odluke banaka da blokiraju pristup AI agenata korisničkim računima.

Zvaničnici smatraju da bi zakonom trebalo preciznije definirati na koji način korisnici mogu ovlastiti autonomnu tehnologiju da djeluje u njihovo ime, kao i ko snosi odgovornost ako transakcija ne uspije ili prouzrokuje finansijski gubitak.

Izvršni direktor JPMorgan Chasea Jamie Dimon ove sedmice izjavio je da će banka ograničiti pristup AI agenata korisničkim računima.

- To radimo zato što ne želite da imate AI agente koji djeluju nekontrolirano, a takvih bi moglo biti na hiljade - rekao je Dimon.

- Moramo osigurati da na pravi način zaštitimo naše klijente. Zato razvijamo i alate koji će nam to omogućiti - dodao je Dimon tokom razgovora o poslovnim rezultatima banke za treći kvartal.

Izvršni direktor Charles Schwaba Rick Wurster rekao je za Bloomberg da ova kompanija, koja se bavi brokerskim uslugama, upravljanjem imovinom i bankarstvom, blokira neovlaštene AI agente koji pokušavaju prebacivati novac klijenata.

Među njima je i Muse, alat kompanije Meta Platforms.