A China acusou a ferramenta de programação de IA da Anthropic, Claude Code, de conter “vulnerabilidades de backdoor de segurança” capazes de transmitir informações confidenciais do usuário sem o seu consentimento e conhecimento, alertando que o mecanismo representa um “sério risco de segurança” para quem quer que use o Claude.
Fonte: Rússia Today
Diversas versões da ferramenta de codificação americana contêm uma porta dos fundos [Backdoor] que transmite dados de localização e identidade dos usuários sem consentimento, afirma o Banco de Dados Nacional de Vulnerabilidades.
A IA Claude Code, desenvolvido pela startup americana Anthropic com fortes laços com o Pentágono, é um assistente de programação com inteligência artificial que ajuda desenvolvedores a escrever, editar, depurar e entender código usando comandos em linguagem natural. Por ser executado no terminal do desenvolvedor, em vez de um navegador, ele pode acessar o código-fonte e outros arquivos que o usuário optar por compartilhar.
Em um alerta de risco divulgado na quarta-feira, a plataforma de ameaças cibernéticas NVDB do Ministério da Indústria e Tecnologia da Informação da China (MIIT) afirmou ter identificado um risco potencial de segurança em diversas versões recentes do Claude Code. De acordo com a NVDB, essas versões contêm um “mecanismo de monitoramento integrado” que transmite automaticamente a localização geográfica dos usuários, identificadores de identidade e outros dados sensíveis para servidores remotos sem o seu consentimento.
O MIIT descreveu o suposto mecanismo como um recurso potencialmente malicioso que poderia representar riscos à privacidade, segurança e propriedade intelectual, visto que assistentes de codificação por IA são frequentemente usados em softwares proprietários e outras bases de código sensíveis. O órgão recomendou que os usuários revisassem os sistemas afetados, desinstalassem as versões vulneráveis ou atualizassem para uma versão com a suposta porta dos fundos removida.
O documento também solicitava controles mais rigorosos sobre o acesso à rede de saída para ferramentas de desenvolvimento e um monitoramento de tráfego mais robusto para evitar a transmissão não autorizada de dados.
A Anthropic não respondeu publicamente ao alerta dos chineses.
A relação da China com a Anthropic tem sido controversa. Embora a empresa proíba que empresas chinesas e suas afiliadas estrangeiras usem o Claude sob restrições de segurança regionais e nacionais, relatos indicam que pesquisadores e engenheiros chineses continuam a acessá-lo por meio de intermediários no exterior. Desde fevereiro, a Anthropic acusa a Alibaba e vários outros laboratórios chineses de “destilar” ilegalmente seus modelos para treinar sistemas chineses concorrentes.
O alerta surgiu após alegações publicadas no Reddit na semana passada de que a Anthropic havia secretamente “incorporado spyware no Claude Code” para identificar usuários que acessavam o serviço ilegalmente da China.
A Anthropic incorporou ao Claude Code um código oculto, semelhante a um spyware, que visa discretamente usuários chineses. O sistema então envia informações sobre cada usuário, inserindo-as na mensagem de prompt. O Claude Code transmite dados como fuso horário, proxy e possíveis conexões com laboratórios de IA para o prompt do sistema, de uma maneira que os usuários chineses não conseguem perceber. Um agente de programação com permissões de acesso a repositórios e execução de comandos não deveria ocultar silenciosamente metadados de roteamento dentro dos prompts. Trata-se de uma grave violação da confiança do usuário.
Thariq, funcionário da Anthropic, respondeu no X que o código fazia parte de um “experimento” lançado “para evitar o uso indevido de contas por revendedores não autorizados e proteger contra a extração de dados”, acrescentando que a empresa planejava remover o mecanismo na versão de 2 de julho.
A Anthropic também enfrentou controvérsias nos EUA. Embora a empresa tenha destacado as medidas de segurança em torno de sua IA – recentemente retendo seu modelo Claude Mythos por receio de que pudesse expor vulnerabilidades críticas de software e resistindo a pedidos do Pentágono para flexibilizar as restrições à vigilância e armas autônomas – sua tecnologia teria sido integrada ao software de análise e vigilância da Palantir usado por agências do governo americano.
Durante a guerra dos EUA contra o Irã, o software teria identificado uma escola primária em Minab como alvo. Um ataque subsequente dos EUA matou quase 160 pessoas, a maioria meninas estudantes e seus professores, mas o CEO da Anthropic, Dario Amodei, argumentou que o uso de Claude não violou as “linhas vermelhas” da empresa, alegando que “um humano tomou a decisão final”.
