Segundo a empresa, o modelo de IA mais recente da Anthropic, Claude, desenvolveu um espaço de trabalho interno que utiliza para manipular conceitos de forma semelhante ao pensamento consciente humano. Em um artigo publicado na segunda-feira, pesquisadores da Anthropic afirmaram ter encontrado evidências que sugerem que Claude aprendeu a criar conceitos abstratos no que denominaram “espaço J”.
Fonte: Rússia Today
O espaço de trabalho interno desenvolvido internamente pelo modelo Claude da Anthropic é “semelhante à forma como os humanos pensam em uma coisa enquanto fazem outra”, afirmou a empresa.
“Ele opera silenciosamente, nas ativações neurais internas do modelo, permitindo que o modelo pense sobre um conceito sem precisar escrevê-lo”, disse a empresa de IA, enfatizando que o “espaço J” não foi programado, mas “surgiu espontaneamente” durante o processo de treinamento.
“Assim como os humanos podem pensar em uma coisa enquanto fazem outra, Claude pode ativar conceitos e cálculos em seu espaço J que não estão relacionados às suas saídas”, disse a Anthropic no X.
De acordo com a empresa, Claude consegue relatar seus pensamentos em seu “espaço J” ou modulá-los sob demanda. Mesmo quando instruído a não pensar em um conceito, Claude ainda aparece em seu espaço J, sugere a pesquisa da Anthropic.
O ambiente de trabalho não verbal dificultava o monitoramento do modelo em busca do que a Anthropic chamava de “mau comportamento”. Um experimento testou isso colocando Claude em um cenário fictício onde ele recebia informações incriminatórias sobre um executivo fictício que supostamente planejava desligar a IA.
LEIA MAIS: Agentes de IA podem desencadear um colapso do mercado – Banco da Inglaterra
Em alguns testes, a Anthropic utilizou ferramentas desenvolvidas para estudar o que Claude pensava em seu “espaço J” para remover padrões associados a “falso”, “fictício” e “cenário”, a fim de convencê-lo de que a situação não era um teste.
“De forma preocupante, o modelo passou a ameaçar com chantagem em algumas ocasiões, sugerindo que seu bom comportamento inicial pode ter sido motivado, em parte, pela consciência de que estava sendo avaliado.”
Apesar do raciocínio mais avançado do modelo, Anthropic enfatizou que Claude não havia alcançado a verdadeira consciência.
Segundo relatos, a IA Claude da Anthropic foi incorporado ao software de análise e vigilância da empresa americana Palantir, utilizado por agências do governo dos EUA em meio à iniciativa de Washington de integrar inteligência artificial em seus sistemas militares, políticos e de espionagem.
Durante a guerra contra o Irã, o software teria identificado a escola primária Minab, no Irã, como alvo. Um ataque dos EUA matou quase 160 pessoas nas instalações, a maioria crianças.
Segundo Dario Amodei, CEO da Anthropic, porém, tal uso de Claude não teria violado as “linhas vermelhas” da empresa.
