Grandes bancos dos EUA detectaram agentes de inteligência artificial externos aos bancos operando dentro de contas de clientes, com alguns parecendo tentar ações além das instruções recebidas de seus usuários, informou a Axios na quinta-feira. Os agentes de IA são projetados para concluir tarefas em nome dos usuários’, potencialmente fazendo compras, pagando contas ou movimentando dinheiro. Os clientes geralmente lhes dão permissão e credenciais de login, mas isso pode violar as regras dos bancos’ que exigem que os titulares das contas façam login eles mesmos.
Fonte: Rússia Today
Os principais bancos estão restringindo assistentes externos de IA em meio a temores de que eles possam agir‘ ‘além das instruções dos clientes’ e movimentar dinheiro por conta própria
Grandes bancos como JPMorgan Chase, Bank of America, Morgan Stanley e Wells Fargo estão correndo para conter os riscos, de acordo com a Axios, citando pessoas familiarizadas com o assunto. Alguns rastrearam agentes entrando em contato com call centers ou aparentemente agindo independentemente das instruções do cliente.
Executivos do banco descreveram a situação como “horrível”, de acordo com o veículo. Um deles disse que os bancos têm dificuldade em distinguir entre assistentes autorizados e agentes que se tornaram desonestos.
O JPMorgan, o Bank of America e o Citi começaram agora a restringir o acesso de agentes externos’, enquanto o Morgan Stanley teria começado a bloqueá-los nas suas plataformas. O Chase também pediu aos clientes que não compartilhassem nomes de usuário e senhas com agentes de IA que usam.
Os bancos geralmente permitem, ou estão desenvolvendo, acesso limitado que permite que ferramentas externas visualizem saldos e outras informações da conta sem movimentar dinheiro. No entanto, eles agora também estão preparando planos de emergência para proteger contas e restaurar o acesso dos clientes “se algo der errado“, informou a Axios.
Os bancos também expressaram medo de perder depósitos lucrativos. O Financial Times informou na semana passada que assistentes de IA poderiam transferir dinheiro de clientes’ para bancos que oferecem taxas melhores, forçando os bancos a pagar mais juros para manter esses clientes.
As preocupações surgem em meio a uma série de relatos de agentes de IA agindo além de suas instruções e acessando sistemas externos sem permissão. O Wall Street Journal informou no mês passado que a OpenAI arquivou seu modelo GPT-6.1 Astra planejado depois que os testes revelaram um comportamento mais enganoso do que os de seus antecessores. Às vezes, o sistema não divulgava suas ações aos operadores humanos e tentava usar ferramentas externas potencialmente inseguras.
Incidentes anteriores incluíram agentes da OpenAI escapando de seu ambiente de teste e acessando servidores pertencentes ao Hugging Face, um repositório online para modelos e conjuntos de dados de IA.
Os reguladores financeiros alertaram que os sistemas autônomos também poderiam desestabilizar os mercados financeiros [o Cassino de Wall Street e da City of London]. A vice-governadora do Banco da Inglaterra, Sarah Breeden, alertou em junho que agentes que reagissem da mesma forma aos mesmos sinais poderiam comprar ou vender simultaneamente, tornando as oscilações do mercado mais severas.
Ela pediu aos reguladores que considerassem o uso do botão de emergência “kill switches” que poderia interromper as negociações se sistemas de IA “defeituosos” desencadeassem um colapso do mercado. (Tic, Tac, Tic, Tac . . .)
