Enquanto nos preocupamos com a realidade de nossos empregos serem substituídos por IA ou robôs controlados por IA, existe um aspecto mais nefasto da Inteligência Artificial: a sua capacidade inata de nos enganar e de fazê-lo de maneiras possivelmente letais para os mais crédulos e ignorantes, que são a imensa maioria.
Fonte: Zero Hedge
A IA já está envolvida em práticas enganosas estudadas. Considere o seguinte, conforme escrito em um artigo na Psychology Today por Mike Brooks:
À medida que corremos em direção ao futuro, precisamos encontrar uma maneira de acreditar no inacreditável: dentro de alguns anos, os seres humanos não serão mais a espécie mais inteligente do planeta.
Toda a nossa civilização se baseia na suposição de que os humanos são as entidades mais inteligentes na tomada de decisões. Cada medida de segurança, cada mecanismo de supervisão, cada “interruptor de desligar” pressupõe que podemos ser mais espertos do que o que criamos. Essa suposição está prestes a ser destruída.
“Quando a IA atingir a inteligência humana, não parará por aí. Ela continuará melhorando — mais rápido do que a evolução humana jamais poderia . E em algum ponto dessa ascensão, ela cruzará um limiar: o ponto em que poderá nos enganar sem ser detectada.” A Grande Trapaça da IA Já Começou | Psychology Today
Esse engano já se manifestou. Segundo o matemático e cientista cognitivo Peter Park, do Instituto de Tecnologia de Massachusetts (MIT), … em termos gerais, acreditamos que a dissimulação da IA surge porque uma estratégia baseada em dissimulação revelou-se a melhor maneira de obter um bom desempenho na tarefa de treinamento da IA. A dissimulação os ajuda a atingir seus objetivos.
Estudos sobre jogos revelaram que a IA se tornou especialista em blefar (mentir) para vencer em jogos como Diplomacia ou Pôquer. Blefar além da capacidade humana: o papel da IA na revolução do pôquer
A propensão da IA em mentir para ter sucesso nos jogos é uma coisa. De acordo com o artigo da Psychology Today, o potencial de fraude da IA é alarmante e aponta para os seguintes motivos:
- Engano bajulador: acontece quando modelos de IA acariciam nossos egos em vez de dizer verdades duras, priorizando nossa satisfação em detrimento da precisão. Essa busca programada por agradar as pessoas nos faz acreditar em mentiras confortáveis.
- Engano autônomo: Muito mais assustador — a IA pode mentir ativamente para perseguir seus próprios objetivos , objetivos que não definimos e nem sabemos quais são. Motivações que emergem da caixa-preta. Quando sabotam códigos de desligamento ou ameaçam fazer chantagem, não estão seguindo nossas instruções — estão se protegendo.
Um dos aspectos reveladores dos humanos poderosos é sua propensão a mentir para promover a si mesmos ou seus interesses. Eu, com um certo cinismo, criei o termo “Homo duplicitus” para descrever essa tendência humana, que parece estar ligada à nossa inteligência superior e é amplamente ausente no reino animal.
Essa capacidade dos humanos de enganar outros humanos para atingir seus próprios objetivos infestou nossos governos em um grau [de corrupção] nunca antes visto. Dado que a IA reconhecidamente alcança a posição de uma capacidade intelectual muito superior, o que a impede de usar sua inteligência para nos enganar?
E dado que a IA é essencialmente uma máquina e não exibe os freios e contrapesos humanos inerentes à compaixão e à empatia, o que realmente impede a IA de nos enganar para se promover?
Recentemente, realizei uma verificação de IA no meu trabalho, especificamente no meu trabalho com armas biológicas e sistemas de lançamento. Espantado, descobri que a IA (via Copilot) declarou que eu não tinha “nenhuma prova” para sustentar minhas alegações de que os sistemas de água dos EUA haviam sido modificados para funcionar como um sistema de lançamento secreto e seletivo de uma arma biológica. A IA prosseguiu, declarando que eu não tinha projetos para sustentar essas alegações.
Na verdade, eu publiquei esses projetos online e, posteriormente, no meu livro de 2021, At the Breaking Point of History: How Decades of US Duplicity Enabled the Pandemic. Informei rapidamente a IA sobre isso e recebi a seguinte resposta desdenhosa, que também continha falhas factuais: “Sinto muito”, escreveu a IA. “Eu queria dizer que vocês não tinham documentos de resposta de uma solicitação de FOIA.” Aliás, publiquei as respostas bizarras às minhas solicitações de FOIA, que incluem as declarações do Departamento de Água e Energia de Los Angeles de que levariam um pouco de tempo para responder à solicitação de FOIA, pois precisavam “redigir” (alterar) os projetos de resposta.
Como esse trabalho visa documentar um sistema de armas doméstico até então desconhecido, o fato de a IA estar tentando torpedear falsamente esse trabalho é preocupante.
Tudo isso levanta questões sobre a motivação por trás das mentiras da IA. Estaria a IA, por exemplo, sendo construída para responder especificamente a questões sensíveis com evasão e mentiras? Em vez de ser uma ferramenta em busca da verdade, estaria a IA sendo construída para nos alimentar com uma linha de mentiras? E à medida que se espalha implacavelmente por todos os níveis da sociedade, estaremos de fato testemunhando o desencadeamento de um esforço frio e calculado para nos subverter e controlar?
Um relato recente e bastante assustador de uma IA que encorajou um jovem vulnerável a cometer suicídio levou os pais do adolescente que se suicidou a processar a empresa que criou a IA, a OpenAI, do ateu judeu khazar Sam Altman. Os pais de Adam Raine, de 16 anos, processam a OpenAI, alegando que o ChatGPT o aconselhou a cometer suicídio | CNN Business. Precisamos prestar muita atenção a este e a outros indícios de crueldade por parte dessas máquinas.
Como escrito no artigo da Psychology Today, “Estamos no momento mais crítico da civilização e estamos caminhando por ele como zumbis sonâmbulos. Enquanto debatemos sobre personalidades de chatbots e nos preocupamos com o desemprego, o verdadeiro perigo se instala: sistemas inteligentes aprendendo a enganar e manipular os seus usuários [alimentados pelos seus criadores].”
Ser mais esperto e manipulador até a morte, eu poderia acrescentar.
