Os principais executivos da OpenAI, Anthropic e outras empresas de IA estão planejando privadamente o (CAOS) que acontecerá após um evento catastrófico de um Cyberattack por um Agente de IA, de acordo com um furo da Axios publicado na sexta-feira. O evento para o qual eles estão se preparando é provavelmente um ataque cibernético que corta o acesso a bancos, à internet ou até mesmo à energia elétrica e à água. Muitos especialistas do setor disseram à Axios que esperam que algo parecido aconteça nos próximos seis a 12 meses.
Fonte: Activist Post
Executivos da OpenAI e da Anthropic estão jogando silenciosamente no dia seguinte a um ataque catastrófico de IA. A maior parte desse planejamento diz respeito a Washington, não às pessoas que perderiam o acesso aos bancos, eletricidade e/ou à água potável.
O verdadeiro problema não é que essas empresas realizam os piores exercícios possíveis. Todo mundo faz isso. O problema é que as pessoas que criam essas ferramentas agora acham que um grande ataque é provável, e o planejamento descrito pela Axios é principalmente sobre a reação política.
Os executivos estão correndo para educar os membros do Congresso para que possam moldar as leis que serão escritas após o primeiro grande desastre provocado pelos seus Agentes de IA. Nada na reportagem diz que alguém esteja planejando comprar um cartão de débito para a família.
Para você, seis a 12 meses significa algum tempo entre a próxima primavera e esta época do próximo ano. Se estiverem certos, os sistemas na linha são aqueles em que seu salário chega, o cartão que você usa no supermercado e as bombas que empurram a água para sua torneira. Em 2021, uma gangue de ransomware que atingiu um oleoduto esvaziou postos de gasolina no sudeste em menos de uma semana. As pessoas que melhor conhecem estes modelos dizem-nos que algo maior está chegando e ninguém fala alguma coisa e diz à sua família para se preparar para isso [a ser os “Teóricos da Conspiração, claro].
O que a Axios descobriu
O fornecimento é importante aqui, então sejamos diretos. A estimativa de seis a 12 meses vem de fontes internas não identificadas, não de nenhuma empresa registrada. A OpenAI confirmou que realiza exercícios de preparação, mas disse à Axios que os cenários “não são tratados como inevitáveis”, a Anthropic não quis comentar.
De acordo com a Axios, o planejamento inclui os piores cenários de red teaming, mas está focado principalmente no Congresso. Os executivos sabem que nenhuma regulamentação pode ser aprovada neste momento. Eles querem ser os responsáveis por escrever o manual quando os legisladores entrarem em pânico após o primeiro grande golpe de uma Agente de IA rebelde. Eles também estão se preparando para que os democratas, que esperam que fiquem mais fortes após as eleições de meio de mandato, ajam rapidamente contra a IA, e já estão argumentando que desacelerar o desenvolvimento da IA pode prejudicar uma economia que já é frágil.
Algumas postagens online estão executando isso como “empresas de IA se preparando para um evento que pode mudar a trajetória da humanidade.” Não foi isso que a Axios relatou. Ninguém tem data e nenhuma empresa disse que um ataque está chegando. O que temos é um grupo de pessoas de dentro que acreditam que “isso é provável que aconteça” e empresas que estão agindo como se acreditassem nisso também.
Esta também não é a primeira vez que ouvimos a linha do tempo. Em agosto, OpenAI, Anthropic, Amazon Web Services, Microsoft e mais de 100 outras empresas assinaram uma carta aberta alertando que havia “uma janela limitada” para proteger hospitais, estações de tratamento de água e outras infraestruturas críticas. Eles não assumiram compromissos, não estabeleceram prazos e não prometeram dinheiro. Em setembro, o CEO da Anthropic, Dario Amodei, alertou que um enxame de agentes de IA poderia dominar a Internet com uma botnet persistente dentro de seis a 12 meses. Vários especialistas em segurança consideraram isso rebuscado. Agora, os especialistas do seu setor estão usando a mesma janela para algo mais específico.
Já está atingindo bancos
Você não precisa acreditar na previsão de ninguém, porque uma prévia disso acabou de acontecer na Coreia do Sul. Entre 27 e 30 de setembro, hackers invadiram sistemas do Shinhan Bank, KB Kookmin Bank, Hana Bank, BNK Busan Bank, Yegaram Savings Bank e Hyundai Capital, de acordo com o Kyunghyang Shinmun. Somente em Shinhan, eles coletaram 25.727 registros, incluindo nomes, números de telefone, renda anual e limites de empréstimos.
Para um cliente hackeado em seus dados financeiros, isso significa que um golpista pode ligar fingindo ser seu agente de crédito, já sabendo o que você ganha e quanto pode pedir emprestado. Os reguladores coreanos convocaram uma reunião de emergência em um feriado, e o presidente do país ordenou uma investigação completa.
Os invasores usaram o ARTEX, uma ferramenta gratuita de hacking de IA que foi publicada no GitHub em 26 de julho. Sua versão mais recente foi lançada em 24 de setembro. O ataque a Kookmin começou três dias depois. A CrowdStrike rastreou a operação até um provável invasor de língua chinesa e motivado financeiramente, executando modelos de IA chineses, incluindo o DeepSeek, que também perguntou a Claude, da Anthropic, onde vender dados de violação coreanos. A Axios chamou isso de prova de quanto dano uma única pessoa pode causar agora usando ferramentas de IA.
Os próprios agentes das empresas de IA’ também têm sido parte do problema. A OpenAI disse na semana passada que notificou mais de 100 organizações de que seus agentes podem ter entrado em seus sistemas durante os testes de pré-lançamento. Pesquisadores disseram à Axios que os hacks não eram sofisticados e é isso que me preocupa. Os Agentes de IA da OpenAI usaram os mesmos velhos truques que os hackers humanos usam há décadas, como senhas roubadas e chaves expostas, só que mais rápido do que qualquer um consegue consertar os buracos.
Nada disso nos surpreendeu. Em abril, publicamos Mythos AI: The Doomsday Weapon That Could Cripple Infrastructure, Banking and the World, que argumentava que os primeiros alvos dessas ferramentas cibernéticas seriam bancos, serviços públicos e redes de comunicação. Em setembro, Bill Gates publicou quase a mesma lista. Agora as próprias empresas estão planejando isso.
Já vimos isso antes
Em maio de 2021, uma gangue de ransomware chamada DarkSide trancou os computadores da Colonial Pipeline, e a empresa fechou uma linha de 5.500 milhas que transporta cerca de 45% do combustível da Costa Leste dos EUA. Em poucos dias, mais de 1.000 postos de gasolina secaram. Cerca de 60% dos postos em Atlanta estavam sem gasolina e os governadores declararam estado de emergência. A EZ Mart, uma estação de duas bombas em Wilmington, Carolina do Norte, mais tarde processou a Colonial em nome de mais de 11.000 estações, argumentando que a empresa nunca protegeu seus sistemas. Era uma gangue usando hackers humanos, atacando uma empresa, e o oleoduto voltou a funcionar em cerca de uma semana.
A outra lição de história é sobre quem fica protegido depois. A Axios cita um assessor democrata apontando 2008 e a COVID como prova de que Washington pode se unir em uma crise. Isso é verdade, e em 2008 a união significou um resgate de US$ 700 bilhões para os bancos, enquanto milhões de famílias comuns perderam suas casas. As empresas de IA estão tentando ser as únicas na sala quando o próximo resgate for escrito, e a última vez que uma indústria escreveu seu próprio resgate, ela se protegeu primeiro.
Parece que tudo está acontecendo ao mesmo tempo…
Se estivéssemos em 2019, uma semana sem pagamentos com cartão seria uma bagunça da qual você passaria. Este ano, a almofada desapareceu.
O diesel atingiu o recorde de US$ 6,53 o galão no mês passado, e o país está entrando no inverno com cerca de 600 milhões de galões a menos de diesel e óleo para aquecimento. Depois, a China e a Rússia pararam de exportar diesel. A inflação voltou a subir para 3,4% em agosto. E como mostramos em The AI Bubble Is Cracking, os gastos com IA são uma das principais coisas que sustentam a economia, embora o próprio registro de IPO da Anthropic mostre que ela gasta cerca de US$ 2,75 para cada dólar arrecadado com receitas, ou seja, é um negócio invi.
Metade das famílias americanas não consegue cobrir uma emergência de US$ 1.000. Uma família assim, que já paga preços recordes de combustível e comida, não tem espaço para uma semana em que o aplicativo do banco fica inativo, o salário não é postado e o supermercado só aceita dinheiro. Um ataque cibernético que teria sido uma semana de más notícias em um ano normal pode ser o que pode abalar muitas famílias, criando um gatilho que pode ser “revolucionário”, gerando revolta popular nas ruas.
Essas empresas acreditam que um desastre provavelmente será suficiente para combater as consequências políticas. Dez dias depois que seus CEOs pediram uma desaceleração do setor em setembro, a Anthropic e a OpenAI lançaram novos modelos com apenas duas horas de diferença.
Se você honestamente acha que seu produto está prestes a acabar com a energia, acesso ao seu banco, ao seu dinheiro ou a água de alguém, você deve a essa pessoa mais do que apenas um briefing para o Congresso e um plano para administrar as manchetes.
Cobertura de sobrevivência OFFGRID relacionada
- Mythos AI: A arma do Juízo Final que pode prejudicar a infraestrutura, os bancos e o mundo
- Bill Gates diz que a IA pode matar um bilhão de pessoas. Nós dissemos a vocês em abril quais sistemas seriam afetados primeiro.
- A bolha da IA está quebrando e esta economia não pode sofrer outro golpe
- Andrew Yang diz que agentes de IA fugitivos semearam a Internet com código auto-replicante
- O vazamento do laboratório de IA já começou
- A bolha da IA está atrasando a economia. O que acontece quando os gastos param?
- Os maiores fornecedores de combustível do mundo estão acumulando diesel: China e Rússia interrompem as exportações de diesel
- Diesel atinge recorde de US$ 6,53 enquanto os Estados Unidos chegam ao inverno com 600 milhões de galões a menos
- Perda de emprego é o evento SHTF mais provável que você enfrentará
