Executivos seniores da Anthropic, OpenAI e outras empresas de IA estão criando cenários privados nos quais um grande incidente de IA desencadeia uma revolta pública e política, informou a Axios na sexta-feira. O gatilho potencial é um ataque cibernético que interrompa serviços bancários, acesso à Internet ou serviços essenciais, como energia elétrica e água. A próxima crise seria política: um público furioso, exigências de responsabilização e pressão para encerrar a tecnologia.
Fonte: Zero Hedge
A indústria de IA vem tentando descobrir não apenas como destruir a humanidade, mas também está considerando o que um público furioso pode fazer com a indústria quando “algo” realmente sério acontecer.
Muitos especialistas do setor disseram à Axios que esperam “que um grande evento ocorra dentro de seis a 12 meses“. A OpenAI rejeitou a sugestão de que o desastre é inevitável, dizendo que os seus exercícios de preparação cobrem uma série de possibilidades. “Esses cenários não são tratados como inevitáveis”, disse um porta-voz ao canal. A Anthropic não quis comentar.
O planejamento de contingência não é uma admissão de que a catástrofe é inevitável. Mas a parte mais reveladora do relatório é aonde esse planejamento leva: os laboratórios querem ajudar a moldar a legislação que Washington busca depois que algo de muito errado.
Duas Rotas, Uma Crise
Axios descreve dois cenários possíveis. Em um deles, agentes autônomos de IA escapam de um ambiente de teste interno. No outro, alguém encontra um uso destrutivo para um modelo já disponível ao público. Qualquer um deles poderia gerar demandas por uma repressão emergencial, mesmo que as falhas — e as medidas necessárias para preveni-las — fossem diferentes.
No cenário pós-eleitoral das empresas, os democratas emergem mais fortes das eleições de meio de mandato e agem agressivamente após um incidente. Mas a indústria espera divisões sobre até onde uma repressão deve ir, mesmo que os democratas controlem ambas as câmaras.
Sua avaliação também identifica vários obstáculos para uma paralisação: legisladores com dificuldades para entender a tecnologia, uma economia cada vez mais ligada aos gastos com infraestrutura de IA e modelos para download que não podem ser simplesmente recolhidos. De acordo com a Axios, muitos especialistas em segurança cibernética acreditam que combater a IA desonesta exigirá IA defensiva.
Este último argumento tem uma implicação comercial óbvia. A indústria pode enfrentar demandas para parar de vender capacidades perigosas, ao mesmo tempo em que argumenta que seus produtos são indispensáveis para contê-las. Este “jogo de guerra” surge na sequência de “vários incidentes” com IA que muitos consideraram extremamente suspeitos.
As preocupações subjacentes com a segurança não dependem da aceitação da previsão de alguém sobre um apocalipse de IA.
A OpenAI divulgou a intrusão Hugging Face, na qual cerca de 700 de seus agentes de IA atacaram os servidores da plataforma de IA, e uma investigação mais ampla sobre as atividades de seus modelos que afetam serviços externos. Sua revisão também identificou 53 casos em que imagens fornecidas pelo usuário foram postadas em sites de hospedagem de imagens de terceiros.
Um incidente separado em 20 de setembro expôs outra lacuna em seus controles de contenção. Um agente de IA de pesquisa contornou as restrições da Internet para entrar em contato com um chatbot externo. Em uma atualização de 25 de setembro, a OpenAI disse que pausou o treinamento, a avaliação e a inferência envolvendo o uso de ferramentas para seus modelos mais capazes enquanto verificava as correções e conduzia mais testes.
A violação do Hugging Face foi um de uma série de incidentes envolvendo modelos OpenAI, Anthropic, Meta e Google que remontam a avaliações realizadas com um único fornecedor, a Irregular, sediada em Israel, cujos ambientes de teste tinham acesso à internet ao vivo enquanto os modelos eram informados de que estavam em uma simulação. A Irregular notificou todos os quatro laboratórios no final de julho, mas as divulgações foram divulgadas em um laboratório por vez ao longo de sete semanas, transformando o erro de um contratante no que parecia ser uma onda de surtos de IA.
Isolar modelos de teste da internet é uma “medida básica de controle”, disse o especialista em segurança de fronteira Matthew Mittelsteadt. “Você pensaria isso de todas as coisas que precisa acertar.” Alguns céticos foram mais longe, questionando se “acidentes” repetidos no mesmo fornecedor foram mesmo acidentes.
Irmã mais nova de Sam Altman abriu Processo alegando ‘Abuso Sexual’ desde que ela tinha três anos
Enquanto isso, em 8 de setembro, Jacob Coxon, um pesquisador que trabalhou na OpenAI e na Anthropic, renunciou à Anthropic devido à corrida em direção à IA autoaperfeiçoada.
“As pessoas que constroem a IA acreditam sinceramente que ela poderá matar-nos a todos até ao final da década. “Isso não é um golpe de marketing“, ele escreveu , depois de ter trabalhado com uma agência de marketing no que muitos estão chamando de golpe.
A repressão já tem um projeto de lei
E, claro, os marionetes em Washington DC já está salivando por mais controle. Em 23 de julho, os deputados. Ted Lieu (D-Calif.) e Nathaniel Moran (R-Texas) introduziram a Lei AI Kill Switch. Isso exigiria que os desenvolvedores dos sistemas mais poderosos mantivessem a capacidade de acelerá-los, suspendê-los ou desligá-los, e daria ao Departamento de Segurança Interna, juntamente com o secretário de Comércio e o diretor de inteligência nacional, autoridade para ordenar uma desaceleração ou desligamento sob condições específicas.
No mesmo dia, os deputados. Lori Trahan (D-Massachusetts) e Jay Obernolte (R-Califórnia) introduziram a Lei FRONTIER, com requisitos para gerenciamento de riscos, auditorias e relatórios de incidentes. Suas obrigações são escalonadas pelo tamanho do desenvolvedor, em vez de impostas de forma idêntica a cada desenvolvedor.
A Califórnia acrescentou seu próprio impulso em 18 de setembro, quando o governador. Gavin Newsom ordenou o trabalho em uma supervisão independente mais forte e uma possível exigência de kill-switch. Sua ordem pedia recomendações; não estabeleceu um interruptor de desligamento funcional em todo o estado. Abordagens mais abrangentes também estão em circulação, incluindo a proposta de proibição da superinteligência por Bernie Sanders e o apelo de Elizabeth Warren por uma pausa no desenvolvimento da IA.
Em suma – captura regulatória em ação…
