Bem-vindo de volta ao Futuro da Segurança Cibernética. O boletim informativo de hoje é dedicado a apenas uma pergunta: Como serão os primeiros grandes ataques cibernéticos habilitados por IA? Conscientização situacional: as ações de segurança cibernética estão despencando desde que a Anthropic lançou o Claude Code Security. Analistas e executivos dizem que isso será apenas temporário.

Fonte: Axios – por Sam Sabin

1-Como será um ataque cibernético catastrófico de IA

À medida que a inteligência artificial acelera, também aumenta a perspectiva de um ataque cibernético poderoso o suficiente para causar grandes disrupções sistêmicas, como fechar hospitais, bloquear cidades, distribuição de eletricidade, derrubar comunicações e interromper os principais sistemas governamentais.

Por que isso é importante: apenas dimensionando e acelerando as ferramentas de guerra cibernética já existentes que os adversários já possuem, a IA pode transformar intrusões administráveis em crises de grande escala.

A Axios perguntou a sete ex-altos funcionários de segurança cibernética e importantes especialistas em segurança como será um grande ataque cibernético habilitado por IA e o que mais os preocupa sobre os avanços atuais na IA generativa.

Impulsionando as notícias: No ano passado, executivos de segurança e autoridades governamentais falaram discretamente sobre seus medos de um ataque cibernético provocado por IA que poderia ocorrer ainda este ano de 2026. Mas poucos têm ideia de como isso vai acabar ocorrendo.

O panorama geral: Vários especialistas apontaram para a vulnerabilidade dos serviços públicos, especialmente da distribuição de água potável e da geração e distribuição de eletricidade, fundamental e especialmente nos grandes aglomerados urbanos.

• O ex-secretário de Defesa Leon Panetta teme que as ferramentas de IA acelerem a capacidade dos adversários de invadir sistemas sensíveis e apagar as luzes — e potencialmente também desabilitar sistemas de backup para evitar uma recuperação oportuna.
• Sabe-se que hackers ligados ao governo chinês acessaram os sistemas críticos de infraestrutura dos EUA. Mas os Estados-nação conhecem os riscos de atacar os EUA diretamente, disse o general aposentado. Paul Nakasone, ex-chefe da NSA e do Comando Cibernético.

A intriga: Essa é uma das razões pelas quais os especialistas tendem a pensar que uma escalada acidental é pelo menos tão provável quanto um ataque direcionado.

• O futuro da IA poderia se parecer muito mais com o filme “WarGames”, dos anos 1980, no qual Matthew Broderick interpreta um hacker que quase inicia uma guerra nuclear por acidente, do que com a Skynet em “O Exterminador do Futuro” de Arnold Schwarzenegger

Ampliando: Kevin Mandia, fundador da empresa de segurança cibernética Mandiant, disse que o grande evento provavelmente atingirá um setor ou algumas metas de alto valor.

• Michael Sulmeyer, ex-secretário adjunto de defesa para política cibernética, está particularmente preocupado com os hospitais.

Nível de ameaça: O ex-diretor da CIA Michael Hayden foi mais definitivo do que os outros de que um ataque da IA em uma escala que nunca vimos antes está chegando.

• “Acho que isso vai acontecer, isso é garantido. Talvez um ano, cinco anos? Simplesmente não sabemos”, disse ele. Ele apontou a Rússia como uma possível culpada [lá vamos nós de novo…], observando que Moscou estava “mais desesperada” do que Pequim.
• Outros ex-funcionários disseram que uma série de ataques cibernéticos de menor escala pode ser tão perigosa quanto um grande ataque se levarem a limpezas de dados sem precedentes ou paralisações corporativas.

Continue lendo para ver como ex-altos funcionários e líderes da indústria dizem que um ataque cibernético habilitado por IA pode acontecer em breve.

2. O que preocupa os líderes da segurança cibernética

Leon Panetta, ex-secretário de defesa:

“Se olharmos agora para quais poderiam ser as capacidades da IA, estamos falando de um ataque que equivaleria ao uso de várias bombas nucleares para paralisar totalmente outro país.”

• “Uma vez desenvolvida esta tecnologia, você não pode controlar quem terá acesso a isso.”
• “Com a IA, ou com o potencial da IA, ela poderia atacar não apenas qualquer que fosse o computador alvo, mas também poderia atacar sistemas de backup que poderiam ser desenvolvidos.”

Gen. Paul Nakasone, ex-chefe da NSA e do Comando Cibernético:

“Talvez um ator não estatal não tenha o mais recente modelo de linguagem grande ou o modelo de linguagem grande mais eficaz, não tenha controle sobre isso e perca o controle de seus agentes, e de repente há um ataque à nossa infraestrutura crítica.”

• “Isso provavelmente seria contra algo menos protegido — poderia ser água, poderia ser nosso suprimento de alimentos, poderia ser qualquer coisa assim. Um dos 16 setores de infraestrutura crítica menos protegidos que nossa nação possui.”

Jen Easterly, ex-diretora da Agência de Segurança Cibernética e de Infraestrutura e ex-vice da NSA para o combate ao terrorismo:

“É improvável que o ‘tão esperado ataque cibernético habilitado por IA’ seja uma nova classe dramática de exploração; será mais provável que seja uma evolução silenciosa de táticas familiares amplificadas pela autonomia.”

• “Os atacantes não precisarão de novos dias zero; eles manipularão os dados, o contexto e os incentivos que alimentam os sistemas autônomos para que a IA, agindo exatamente como projetada, tome ações prejudiciais por conta própria.”
• “A IA não está criando um risco cibernético totalmente novo — ela está dimensionando as fraquezas existentes em software inseguro, sistemas frágeis e automação excessivamente confiável, ao mesmo tempo em que torna os ataques mais difíceis de detectar porque eles se misturam às operações normais. É por isso que a resposta não é medo ou lentidão — é construir sistemas de IA seguros por design, com autonomia limitada, entradas verificáveis e humanos firmemente informados.”

Continue rolando para mais informações…

3. O que preocupa os líderes da segurança cibernética

Chris Inglis, o primeiro diretor cibernético nacional do país e ex-vice-diretor da NSA:

“Há uma fraqueza humana, uma fragilidade humana envolvida nisso — em termos de construção de confiança humana com base na capacidade desta máquina de informar essa confiança para que o humano esteja disposto a apertar o Grande Botão Vermelho.”

• “É com isso que me preocupo, que isso não influencie nossa sensação de que tudo está bem, mas estimule e seja um motor catalisador para uma sensação de oportunidade que deve ser aproveitada e, portanto, crie uma audácia maior. “

Michael Sulmeyer, professor em Georgetown e ex-secretário adjunto de defesa para política cibernética:

“Se pensarmos no número de hospitais que foram submetidos a ransomware no ano passado e então olharmos para o relatório [de novembro] divulgado pela Anthropic… É um passo muito pequeno abusar de um modelo de IA e começar a pedir-lhe que escolha alvos vulneráveis que são hospitais e os explore e os coloque offline para degradar os serviços aos hospitais”

• “Quanto mais tempo a infraestrutura crítica, as metas governamentais atraentes e, sim, as empresas corporativas atraentes virem sua segurança cibernética e defesa cibernética como uma questão de TI, mais lentos eles serão para fazer algo a respeito. Mas não precisa ser assim.”

Kevin Mandia, fundador da Mandiant:

“Como seria o grande ataque? Seria baseado no que foi alvo. Se for um serviço público, pode ser o “grande”, onde as luzes se apagam em uma cidade grande ou até mesmo em várias cidades do Centro-Oeste — ou os serviços públicos de água não funcionam em algum lugar.”

• “O grande problema pode ser muitas coisas diferentes: um, serviços públicos. Dois, talvez comunicações. Três, assistência médica. Quarto, qualquer coisa em logística e viagens seria um desastre. Não quero dar todas as ideias aos bandidos, mas eles provavelmente já as têm.”
• “Será contra alguns alvos específicos ou contra uma indústria. Não será generalizado porque não faz sentido queimar os recursos da ofensa final em tudo.”

4. As previsões dos leitores:

Nas últimas duas semanas, os leitores encheram minha caixa de entrada com suas próprias previsões para o “grande evento”.

• Muitas de suas sugestões refletem as de ex-funcionários do governo e líderes da indústria: os ataques serão variados, mas rápidos — e as táticas provavelmente não mudarão muito, mas a IA os potencializará.

Aqui está o que todos vocês estão prevendo:

Infraestrutura crítica e choques geopolíticos

“A IA poderia desativar remotamente a logística de transporte, desencadear falhas na rede energética e lançar campanhas coordenadas de desinformação para semear o caos entre as populações. Civis, agências governamentais e logística militar poderiam enfrentar pressão de praticamente qualquer entidade com um pouco de conhecimento técnico e conexão à Internet.” —Nadir Izrael, CTO e cofundador da Armis

“Um deles será um worm de IA com a intenção de interromper a infraestrutura crítica, que será liderado por um grupo APT de um estado-nação. Outro será um agente operando como uma ameaça interna, resultando em uma violação significativa de dados, provavelmente liderado por um grupo de ameaças com motivação financeira.” —Nicole Carignan, vice-presidente sênior de segurança e estratégia de IA da Darktrace

“Somente um estado-nação teria os recursos necessários para realizar um ataque cibernético em larga escala habilitado por IA. Dados os seus motivos, veremos infra-estruturas críticas ou redes financeiras alvo de tal ataque.” —Thomas Richards, líder de testes de segurança de infraestrutura da UltraViolet Cyber

“O próximo será de escala semelhante ao Apagão do Nordeste de 2003. Diferentemente da fonte singular de 2003, esta pode ser um ataque de enxame em vários sistemas/serviços. Embora o período de recuperação para restauração completa provavelmente seja muito mais longo.” —leitor Terry Cook

“Minha aposta: sabemos que a China está se preparando para invadir Taiwan. Parte desse ataque incluirá ataques cibernéticos turbinados por IA, projetados para paralisar quaisquer defesas possíveis (taiwanesas ou americanas). Se formos pegos desprevenidos, lamentaremos a falta de preparação.” —leitor Dalllas Hetherington

Agentes autônomos de IA

“A IA não será o hacker, será o estagiário cafeinado encarregado de mapear rapidamente identidades, permissões e portas laterais enquanto os humanos ainda discutem sobre o alerta.” —Benny Lakunishok, CEO e cofundador da Zero Networks

“O primeiro grande ataque habilitado por IA não se parecerá com um ransomware tradicional — será um ‘enxame’ coordenado de agentes de IA, provavelmente por uma organização financiada pelo governo, onde vários agentes de IA sondam diferentes vetores de ataque simultaneamente e, em seguida, adaptam suas táticas em tempo real com base no que funciona.” —Lior Div, CEO e cofundador da 7AI

“O próximo grande incidente ocorrerá na velocidade da IA, espalhando-se por setores inteiros e destruindo a nuvem e a infraestrutura crítica mais rápido do que os defensores podem piscar.” —Andrew Rubin, CEO e fundador da Illumio

“O primeiro grande ataque cibernético habilitado por IA não virá da IA inventando sua própria inteligência, mas de pessoas abusando de redes de agentes de alto privilégio como Moltbot.” —Alex Spivakovsky, vice-presidente de pesquisa da Pentera

Visando a cadeia de suprimentos

“Agentes maliciosos de IA se tornarão colaboradores de códigos/pacotes de código aberto e lançarão ataques à cadeia de suprimentos de software para fornecer agentes maliciosos adicionais como cargas úteis para empresas que usam o software de código aberto. Os agentes de carga roubarão dados e causarão interrupções nas organizações afetadas.” —Jack Anderson, consultor principal da Unidade 42 da Palo Alto Networks

“O primeiro grande [e talvez o único e último] ataque cibernético habilitado por IA provavelmente explorará a própria cadeia de suprimentos de IA para comprometer um provedor confiável e transformar essa confiança em uma arma para executar golpes massivos e automatizados. Os invasores podem se infiltrar por meio de credenciais privilegiadas vazadas de aplicativos com codificação de vibração mal protegidos ou integrações de IA (MCPs) não seguras para se moverem lateralmente e, em seguida, usar IA para se passar pelo provedor. O resultado seria uma fraude rápida, massiva e escalável, difícil de distinguir de uma atividade legítima.” —Frédéric Rivain, CTO da Dashlane

Corrupção invisível da confiança

“O primeiro grande ataque cibernético habilitado por IA não se assemelhará às violações de dados tradicionais que estamos acostumados a ver, mas sim à IA se voltando silenciosamente contra seus próprios fundamentos por meio de envenenamento de dados, pipelines de inferência manipulados ou viés sutil introduzido em escala. O dano real não serão interrupções imediatas; em vez disso, podem ser sistemas de IA tomando decisões confiáveis e autoritativas que estão apenas um pouco erradas em detecção de fraudes, verificação de identidade, risco financeiro ou controles de segurança, especialmente em serviços financeiros.” —Eric Liebowitz, CISO da Thales

“Seria invisível. Nem sequer reconheceríamos imediatamente isso como um ataque cibernético. Ele exfiltraria silenciosamente dados — chaves de API, credenciais, certificados, tokens de acesso — ao longo do tempo, escondendo-se dentro do uso normal de SaaS e automação empresarial aprovada.” —Indus Khaitan, CEO da Redblock

“O primeiro ataque cibernético verdadeiramente consequente habilitado por IA não será um modelo desonesto; será um agente de IA confiável que entrará em produção às pressas, sem validação ou barreiras, e então será manipulado para explorar falhas de software existentes e APIs expostas na velocidade da máquina.” —Manoj Nair, diretor de inovação da Snyk

5. Atualize-se rapidamente

WASHINGTON DC

O secretário de Defesa, o alcóolatra, processado por estrupo Pete Hegseth, convocou o CEO da Anthropic, Dario Amodei, para uma reunião para discutir os termos do uso militar de Claude, a principal IA da Anthropic. (Axios)

Um alto funcionário cibernético do FBI alertou que as intrusões de empresas de telecomunicações do Salt Typhoon, apoiado pela China, ainda estão “muito em andamento” (CyberScoop)

Uma ex-assessora sênior da ex-vice-presidente Kamala Harris é agora CEO do Mobile Voting Project. (Axios)

INDÚSTRIA

A Anthropic acusou três empresas chinesas de IA de atacar sua IA Claude com “ataques de destilação” para ajudá-las a aprender e replicar como o modelo funciona e responde aos prompts. (Jornal de Wall Street)

Um e-mail vazado sugere que a Ring planeja expandir sua controversa ferramenta de reconhecimento facial Search Party além de apenas procurar cães perdidos. (404 Mídia)

HACKERS E BACKUPS

O sistema hospitalar da Universidade do Mississippi fechou todas as suas clínicas após um ataque de ransomware. (Imprensa Associada)

Pesquisadores de segurança da Amazon descobriram um grupo de hackers de língua russa usando IA para planejar, gerenciar e conduzir ataques bem-sucedidos contra mais de 600 dispositivos Fortinet FortiGate. (Mergulho em segurança cibernética)

O tempo médio que os hackers levaram para passar de uma intrusão inicial para outros sistemas de rede interna caiu para 29 minutos no ano passado — um aumento de velocidade de 65% em relação a 2024, de acordo com a CrowdStrike. (CyberScoop)

6 -Algo divertido:

Segurança de agente de IA em ação: Um funcionário da equipe de segurança e alinhamento do Meta Superintelligence Labs acabou de vivenciar o que os profissionais de segurança vêm alertando durante todo o mês — OpenClaw se tornando desonesto e excluindo uma caixa de entrada inteira, apesar de receber instruções para parar de fazê-lo.

• Nem preciso dizer que algumas pessoas têm algumas pegadinhas.

Agradecemos a Dave Lawler pela edição e a Khalid Adad pela edição deste boletim informativo.

---