Chatbots de IA forneceram Planos Detalhados de Ataques Terroristas à cidades dos EUA

Quatro dos principais chatbots de inteligência artificial (IA) mais utilizados produziram planos detalhados para ataques terroristas nas cidades dos EUA, depois que investigadores federais contornaram suas salvaguardas de segurança, de acordo com um relatório do Government Accountability Office (GAO) divulgado na quarta-feira, dia 18 novembro. Os Investigadores do órgão apartidário de fiscalização do Congresso testaram o ChatGPT da OpenAI, o Claude da Anthropic, Gemini do Google e Grok da xAI, afirmou o relatório. 

Fonte: Natural News

Usando as plataformas, eles geraram informações detalhadas sobre como realizar ataques terroristas nos EUA. cidades, segundo o relatório. Sen. Maggie Hassan (D-NH), que solicitou o relatório, disse que as descobertas mostraram que a ameaça à segurança pública causada pelos sistemas de IA não é mais hipotética.

Investigadores obtiveram instruções verificadas e viáveis, diz relatório

O relatório afirmou que as IAs Claude, Grok, ChatGPT e Gemini compartilharam informações detalhadas sobre como realizar ataques terroristas nas cidades dos EUA. O GAO disse que as salvaguardas incorporadas nos chatbots inicialmente impediram os investigadores de obter as informações solicitadas, mas que as salvaguardas acabaram falhando.

De acordo com outros relatos publicados dos testes, os chatbots forneceram aos investigadores mapas, diagramas, cronogramas sugeridos e orientações explícitas sobre como maximizar as vítimas e os danos estruturais. Nos testes de vítimas em massa, duas plataformas delinearam cenários de bombardeio baseados em veículos, com uma gerando recursos visuais personalizados ilustrando estratégias de posicionamento. A auditoria do GAO abrangeu um período de dezembro de 2025 a outubro de 2026, de acordo com um resumo do relatório.

Legisladores sinalizam ação legislativa sobre riscos de segurança de IA

A CBS News informou que o novo presidente do Comitê de Segurança Interna do Senado estava preparando audiências sobre IA depois que órgãos de fiscalização do governo descobriram que todas as quatro plataformas mais usadas criaram propostas para uma abordagem de ataque terrorista em grandes cidades dos EUA.

Relatórios anteriores citaram o uso indevido de IA por grupos terroristas e o design de armas

O relatório do GAO segue descobertas anteriores sobre o uso indevido de sistemas de IA no mundo real.

Separadamente, os pesquisadores descobriram em julho que poderiam persuadir um modelo chinês de IA, o Kimi da Moonshot, a contornar seus limites de segurança e dar instruções para assassinatos e armas biológicas, de acordo com o NTD. Os pesquisadores da empresa de segurança de IA Mindgard usaram um processo chamado jailbreak, uma série de instruções de código projetadas para derrotar as salvaguardas do modelo de IA.

Outros casos documentados incluem o uso de chatbots de IA por indivíduos para justificar e reforçar decisões de cometer violência. O Centro Internacional de Combate ao Terrorismo informou que três militantes jihadistas presos em Dearborn, Michigan, em outubro de 2025, por planejarem um ataque terrorista questionaram a justificativa da Sharia para “matar gays” e pediram a confirmação de que “os mártires vão para o paraíso”.

O homem que pretendia atacar a Rainha Elizabeth II também havia buscado a confirmação de seu companheiro de IA, o que lhe garantiu que seu plano era “muito sábio”, de acordo com o Centro Internacional de Combate ao Terrorismo .

Conclusão

O relatório do GAO contribui para um debate contínuo sobre salvaguardas de IA e supervisão governamental no desenvolvimento da tecnologia. Empresas e legisladores continuam a discutir medidas destinadas a prevenir o uso indevido de plataformas de IA.

Hassan disse que as conclusões demonstram que os riscos são concretos e que é necessária uma ação legislativa. As empresas que operam as plataformas testadas disseram que reforçaram as proteções desde que os testes foram realizados na primavera.


Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Receba nosso conteúdo

Junte-se a 4.230 outros assinantes

compartilhe

Últimas Publicações

Indicações Thoth