A Anthropic disse nesta segunda-feira [12] que seus experimentos sugeriram que pequenos modelos de IA podem estar a meses de serem capazes o suficiente para se auto-replicarem em dispositivos comerciais de internet das coisas (IoT), como fornos inteligentes e caixas de TV Android de marca desconhecida. Em seus experimentos, a Anthropic analisou se os modelos de IA poderiam encontrar dispositivos vulneráveis, copiar-se para esses dispositivos e continuar se espalhando sem interferência humana.

Fonte: Reuters

Em seus experimentos, a Anthropic analisou se os modelos de IA poderiam encontrar dispositivos vulneráveis, copiar-se para esses dispositivos e continuar se espalhando sem interferência humana.

Foi descoberto que modelos pequenos com menos de 30 bilhões de parâmetros poderiam completar as muitas etapas necessárias para replicação.

No entanto, a empresa descobriu que esses modelos de IA também tiveram dificuldades para completar a sequência inteira do início ao fim.

Em seus testes simplificados, onde algumas etapas de segurança foram removidas, a Anthropic descobriu que o GLM-5.2 e modelos mais fortes eram capazes de replicação de ponta a ponta.

Seria difícil desativar modelos replicados, pois não há um ponto central de desligamento e, diferentemente de malwares não relacionados à IA, eles também podem descobrir dispositivos desconhecidos por conta própria, visando processadores de data center, alertou a Anthropic.

A empresa se concentrou em dispositivos IoT, como Android TVs, “aparelhos inteligentes” e “outros dispositivos” conectados à Internet em sua pesquisa, pois normalmente são mal protegidos.

O especialista em IA também alertou que, se os modelos pequenos melhorassem em seu ritmo histórico, eles seriam capazes de se replicar de forma autônoma até o final deste ano, com pequenos replicadores baseados em peso seguindo o exemplo logo depois.

A Anthropic também disse que esses sistemas autônomos de IA provavelmente se replicariam lentamente e dependeriam de recursos computacionais amplamente disponíveis e relativamente inseguros. Acrescentou que os sistemas devem ser fortalecidos para dificultar a disseminação desses agentes de IA.