A ficção científica de Hollywood há muito prevê as ameaças e os desafios impostos pela IA. No universo de Star Trek, particularmente na série original, Segunda Temporada, Episódio 24, “The Ultimate Computer,” Dr. Leonard McCoy profere esta frase assustadora: “Compaixão: essa é a única coisa que nenhuma máquina jamais teve. Talvez seja a única coisa que mantém os homens à frente delas.” A linha surge na sequência de um novo computador de IA revolucionário na série, o M5, que utiliza a sua lógica de IA sem alma para transformar um exercício de treino num massacre mortal. Em outro episódio de Star Trek, conhecemos Nomad, uma IA genocida que limpa o universo de imperfeições biológicas.
Fonte: De autoria de Mike Fredenburg via The Epoch Times,
Prenunciando a ascensão da IA com imensos poderes de hacking, como o Mythos da Anthropic, o reimaginado “Battlestar Galactica” (2003–2009) mostra os Cylons alimentados por IA da humanidade usando sua capacidade de hackear qualquer computador conectado à rede para se rebelar, quase erradicando seus criadores.
Na franquia “Terminator”, com Arnold Schwarzenegger, a rede Skynet ficou “inteligente” e autônoma (alcançou a consciência) e determinou o destino da humanidade, “extermínio,“ em um ”microssegundo,” desencadeando o Armagedom nuclear na humanidade.
Estas narrativas alertam que a inteligência artificial, sem salvaguardas robustas, pode levar à catástrofe. À medida que as capacidades da IA continuam a acelerar em 2026, a ficção converge rapidamente com a realidade. Proteções de software, padrões da indústria e regulamentações de patchwork são inadequadas. Uma base mais sólida; construções de hardware imutáveis e mudanças nas leis nacionais e internacionais são essenciais.
As Três Leis da Robótica de Isaac Asimov
Conforme descrito na revista Spectrum do Instituto de Engenheiros Elétricos e Eletrônicos’, as Três Leis da Robótica do renomado cientista e escritor de ficção científica Isaac Asimov, apresentadas em suas histórias “Eu, Robô”, fornecem uma estrutura bem pensada para salvaguardas de inteligência artificial:
- Um robô não pode ferir um ser humano ou uma humanidade, ou, por inação, permitir que um ser humano ou uma humanidade sofra danos.
- Um robô deve obedecer às ordens que lhe são dadas pelos seres humanos, exceto quando tais ordens entrem em conflito com a Primeira Lei.
- Um robô deve proteger sua própria existência, desde que tal proteção não entre em conflito com a Primeira ou Segunda Lei.
Resumindo, as Leis de Asimov são um bom ponto de partida, mas, como descrito em detalhes na obra-prima subsequente de Asimov, a trilogia Fundação, elas são inadequadas quando se trata de proteger a humanidade genuína. Além disso, será um verdadeiro desafio conectar equivalentes à IA, como foi feito no universo de Asimov por meio do cérebro “positrônico”. Mas assumir o desafio de criar salvaguardas que vão além das abordagens baseadas em software é fundamental para garantir que a IA beneficie apenas a humanidade.
A inadequação das salvaguardas de software, criptografia e regulamentação por si só
Os guardrails baseados em software são modificáveis e vulneráveis a hackers e explorações.
E a história demonstra a fragilidade da autorregulamentação: a violação de dados da Equifax (2017), o ataque à cadeia de suprimentos da SolarWinds (2020), a vulnerabilidade do MOVEit (2023) e as violações contínuas mostram que as promessas corporativas de “proteções robustas” frequentemente falham.
Estamos em um Velho Fareste [sem lei] de IA, com estruturas globais ou nacionais vinculativas insuficientes.
Proteção verdadeira por meio de guardiões de hardware imutáveis
A história demonstra que as salvaguardas baseadas em software não podem atualmente e nunca serão capazes de fornecer o nível de protecção necessário. Inspirada no cérebro positrônico de Asimov, as salvaguardas instanciadas em ASICs (Circuitos Integrados Específicos de Aplicação) fornecerão uma camada crítica que fornece as proteções que aumentarão as chances de a IA beneficiar, em vez de prejudicar, a humanidade.
Esses chips especializados usam milhões de linhas de lógica de software complexa ou regras que são fisicamente gravadas diretamente no próprio hardware de silício. Depois que o chip é fabricado e implantado, essas regras se tornam imutáveis: elas não podem ser alteradas, atualizadas ou contornadas por meio de alterações de software, patches ou tentativas de hacking. A única maneira de modificar a lógica incorporada é projetar e produzir fisicamente um chip ASIC totalmente novo, um processo caro, demorado e altamente visível.
Isso cria um “firewall de hardware” que é muito mais confiável do que qualquer proteção baseada em software, garantindo que restrições críticas de segurança permaneçam bloqueadas, não importa o quão inteligentes ou agressivos os futuros sistemas de IA se tornem.
Os ASICs atuarão como guardiões fisicamente fixos e em linha. E no futuro, tanto os processadores focados em IA quanto os de uso geral poderão incorporar esses pequenos ASICs diretamente na CPU como uma camada de triagem de IA de hardware como uma parte padrão e não opcional da CPU.
Alguns princípios básicos de design sugeridos:
- Com a camada de hardware atuando como interface para interações externas, como é o caso de alguns smartphones hoje em dia, a IA pode pensar, planejar e simular livremente em software sem ser desacelerada pelo ASIC. Somente quando os resultados forem comunicados externamente a ASIC se envolverá como guardiã para garantir que as ações propostas pela IA sejam aprovadas em termos de segurança e outras restrições.
- Incentivos de treinamento: algoritmos baseados em custos/perdas, etc., recompensarão a IA por rotear ações através do rastreador de hardware e a penalizarão severamente por tentar contornar a camada gatekeeper de hardware. Conseqüentemente, a IA será incentivada a não tentar contornar suas restrições.
Mas uma camada tão importante só funcionará se a sua utilização se tornar universal.
Sem a força da lei para impor tais barreiras à IA, eles falharão em proteger a humanidade.
Hoje, particularmente na guerra Ucrânia–Rússia, esforços estão sendo feitos tanto pela Rússia quanto pela Ucrânia para permitir que drones que foram isolados de seus operadores humanos continuem autonomamente sua missão de matar combatentes inimigos. Isso não deve ser tolerado.
Assim como a comunidade internacional proibiu a guerra química, biológica e de gás, a IA também deve ser proibida de tomar quaisquer decisões finais que resultem em danos aos seres humanos. Isto poderia ser conseguido através de uma atualização explícita das Convenções de Genebra para proibir a tomada de decisões letais autónomas por sistemas de IA.
Mas a IA pode causar danos além do campo de batalha. Consequentemente, juntamente com a atualização da Convenção de Genebra, devem ser implementadas leis que abordem a aplicação não militar da IA. Para evitar o uso indevido de IA nas chamadas aplicações civis, deve haver consequências muito sérias, incluindo penalidades financeiras severas o suficiente para ameaçar a viabilidade organizacional de empresas e organizações sem fins lucrativos, pena de prisão para indivíduos e sanções econômicas ou mesmo ações militares contra governos por executar sistemas de IA sem a camada de segurança de hardware imutável necessária e outras proteções.
O texto acima é apenas um corte inicial do que a estrutura deve incluir, mas qualquer que seja a forma que assuma, ela deve incorporar o espírito das Três Leis de Asimov, com a adição de garantir que a singularidade humana seja respeitada. A atual colcha de retalhos de leis, normas e tecnologias regulamentar da IA é totalmente inadequada. Precisamos de um quadro abrangente e contíguo, apoiado por toda a força das leis nacionais e internacionais que colocam barreiras à IA.
Por fim, devemos resistir ao chamado “canto da sereia” da conveniência e da eficiência quando se trata de tomar decisões que podem prejudicar os seres humanos e garantir que os agentes morais que são responsáveis perante a humanidade e seu Criador —ou seja, os seres humanos— tomem tais decisões, não as IAs sem alma.
