Agentes de IA que podem tomar decisões e realizar transações de forma independente poderão em breve operar em todo o sistema financeiro, alertou o Banco da Inglaterra, acrescentando que confiar na supervisão humana pode não ser mais realista. A vice-governadora do Banco da Inglaterra, Sarah Breeden, fez o alerta no fórum anual do Banco Central Europeu em Sintra na terça-feira, enquanto os principais desenvolvedores migram de chatbots de IA generativos para sistemas agentes.
Fonte: Rússia Today
Tecnologia autônoma (Agentes de IA – intencionalmente – ‘Desonestos’) pode executar negociações nos mercados financeiros sem supervisão humana, aumentando o risco de colapsos de mercado, alertam autoridades do Reino Unido
Ao contrário de ferramentas de IA generativas como ChatGPT (OpenAi), Gemini (Google) e Claude (Anthropic), que geram texto, imagens e código em resposta a solicitações, um Agente de IA é projetado para concluir tarefas de várias etapas com intervenção humana limitada.
Em vez de apenas recomendar um investimento ou sugerir uma compra, um agente de IA poderia executar negociações, fazer pagamentos, comprar bens e reservar serviços sem exigir aprovação humana para cada ação. Breeden disse que o sistema financeiro provavelmente “evoluirá para um que opere de forma mais autônoma, em escala e velocidade.”
À medida que os agentes de IA se tornam mais capazes, “confiar em um ser humano envolvido em todas as ações do agente dificilmente será realista”, ela disse, argumentando que as estruturas regulatórias atuais “não foram criadas para contemplar” e administrar com segurança esse cenário.
Breeden alertou que agentes de IA treinados em dados semelhantes e respondendo aos mesmos sinais de mercado poderiam exibir comportamento de rebanho, tomando decisões comerciais idênticas simultaneamente e amplificando a volatilidade do mercado financeiro durante períodos de estresse.
Os reguladores devem examinar “se são necessários guarda-corpos, análogos aos disjuntores ou interruptores de desligamento que limitariam ou interromperiam a negociação em todo o mercado se modelos de IA “defeituosos” causassem colapso do mercado”, disse Breeden.
Ela também pediu aos bancos centrais que se preparem para “surpresas tecnológicas” mais frequentes, dizendo que os avanços recentes na IA já superaram as expectativas dos formuladores de políticas’.
As suas observações surgem num momento em que os governos tratam cada vez mais a IA como uma questão de segurança nacional. Washington interveio recentemente na implementação de alguns modelos avançados de IA por questões de segurança cibernética, enquanto os desenvolvedores de IA continuam avançando com sistemas agentes. A Anthropic revelou o Claude Sonnet 5 esta semana, seu modelo mais recente projetado para executar tarefas complexas em nome dos usuários’.
O impulso em direção ao desenvolvimento do Agente de IA também chegou ao Pentágono. Na semana passada, revelou agentes de IA concebidos para analisar continuamente a inteligência e gerar rapidamente opções de segmentação para os comandantes, ao mesmo tempo que sublinhou que os [zumbis] “humanos manterão” a autoridade final de tomada de decisão.
