O Departamento de Defesa dos EUA divulgou esta semana um plano sobre a adoção acelerada de sistemas de I.A. [a Besta em construção] nas operações militares. A criação da estratégia é lógica, mas carece de garantias sobre o uso ético [algo muito escasso na atualidade] desta tecnologia na guerra, diz a investigadora Gloria Shkurti Ozdemir, da Fundação SETA, um think tank com sede na Turquia.
Estratégia de I.A. do Pentágono revela Esforço dos EUA para ‘Manter’ Supremacia Tecnológica Global
Fonte: Sputnik
¹¹ E a besta que era e já não é, é ela também o oitavo, e é dos sete, e vai à perdição. ¹² E os dez chifres que viste são dez reis, que ainda não receberam o reino, mas receberão poder como reis por uma hora, juntamente com a besta. ¹³ Estes têm um mesmo intento, e entregarão o seu poder e autoridade à besta. – Apocalipse 17:11-13
O Pentágono divulgou na quinta-feira (1º) uma nova estratégia abrangente sobre a integração de sistemas de inteligência artificial (I.A.) em suas capacidades de combate, com o documento focando no uso de IA para obter o que é conhecido como “vantagem de decisão”, facilitando uma consciência superior do espaço de batalha, planejamento adaptativo de força e aplicação, “cadeias de eliminação rápidas, precisas e resilientes” e apoio de sustentação resiliente.
A estratégia se concentra e dá prioridade à velocidade, “maior integração, transparência e partilha de conhecimento através das fronteiras organizacionais” e destaca a necessidade de “medidas de proteção rigorosas” para evitar a exploração das vulnerabilidades técnicas das tecnologias de IA.
Devemos nos preparar para robôs assassinos?
O debate global sobre a utilização da IA em armas tem como foco principal a discussão ética — especificamente na perspectiva de retirar os seres humanos do processo de tomada de decisão quando se trata de tirar a vida de uma pessoa. A questão tem estado em debate há décadas, discutida não apenas por acadêmicos, mas se transformando em um tema bastante popular da ficção científica, desde “O Exterminador do Futuro”, de James Cameron, e “Robocop”, de Paul Verhoeven, até à série de sucesso britânica “Black Mirror”, e “Fahrenheit 451”, de Ray Bradbury.
Mas, embora o documento de estratégia de IA do Departamento de Defesa dos EUA, de 26 páginas, esteja repleto de gráficos sofisticados e fotos estilizadas, a “ética” é mencionada apenas cinco vezes, e apenas uma vez em um contexto relevante para as preocupações já mencionadas.
“O Departamento abordará as reformas com rapidez e responsabilidade, visando revisões de políticas identificadas para melhorar a agilidade, velocidade e implantação de capacidades e escalabilidade; ao mesmo tempo que defendemos um compromisso firme com um comportamento lícito e ético; e proteger a privacidade e as liberdades civis”, diz o documento em uma seção sobre governança empresarial.
Isto pode sinalizar uma de duas coisas: que o foco do Pentágono nos sistemas de IA ainda não atingiu as visões de pesadelo apresentadas por escritores de ficção científica distópicos, ou que os militares não pensaram até agora muito no assunto, apenas no momento em que as capacidades técnicas e mecânicas da humanidade estão atingindo um ponto em que a ameaça de robôs assassinos eficazes se torna uma possibilidade genuína.
“A principal ameaça ligada à IA reside no seu potencial uso antiético, que pode causar danos a civis que não estão protegidos”, disse à Sputnik a investigadora Gloria Shkurti Ozdemir, da Fundação SETA.
“Por exemplo, o conceito de sistemas de armas letais autônomas [LAWS, na sigla em inglês] é preocupante porque estes sistemas podem atingir indivíduos sem controle humano. Além disso, a IA poderia ser explorada para ataques cibernéticos, biológicos, nucleares e outras ameaças”, disse a pesquisadora.
Mas o verdadeiro perigo decorrente da IA não é a tecnologia, mas “como ela é utilizada“, segundo Ozdemir.
“Vejamos os drones, por exemplo, especialmente na sua utilização pelos EUA no Oriente Médio. Quando implantados de forma antiética, resultaram na perda de inúmeras vidas de civis. No entanto, se usados de forma ética e cautelosa, os drones podem ser ferramentas essenciais e eficazes em operações militares.”
Assim, a observadora acredita que, embora as considerações éticas e a utilização responsável devam ser uma área importante de foco na determinação do impacto da IA, “infelizmente, a estratégia não as aborda” de forma alguma.
Em vez disso, observou Ozdemir, o novo plano do Pentágono parece centrar-se no ambiente organizacional e na melhoria da capacidade dos militares dos EUA de tomarem decisões rápidas.
“A estratégia mais recente baseia-se na Estratégia de IA de 2018, mas também considera a Estratégia de Dados de 2020”, explicou a analista. “Nos últimos cinco anos, houve um aumento significativo na integração da IA em vários sistemas militares, tais como sistemas autônomos, robótica, segurança cibernética, logística e processos de tomada de decisão […]. O foco nos dados continua a ser uma preocupação significativa, como visto na mais recente estratégia de IA do Departamento [de Defesa], refletindo a importância contínua de como os dados são utilizados e sua qualidade.”
A nova estratégia se baseia no conceito de Comando e Controle Conjunto Combinado em Todos os Domínios (CJADC2, na sigla em inglês) — cujo significado basicamente se resume em melhorar a integração das operações militares “em diferentes domínios para uma tomada de decisão mais rápida e coordenação aprimorada entre vários componentes militares”, disse Ozdemir.
Sabe-se que a China está trabalhando em um conceito semelhante, conhecido como Guerra de Precisão em Vários Domínios (MDPW, na sigla em inglês).
Na verdade, diz Ozdemir, o lançamento da sua nova estratégia de IA pelo Pentágono na quinta-feira, combinado com a ordem executiva do presidente Biden sobre IA na segunda-feira (30), está ligado a uma preocupação entre os decisores políticos norte-americanos de manter a supremacia dos EUA na corrida global à IA.
“Há uma corrida contínua à IA, não apenas confinada aos avanços militares, mas também abrangendo a governança, regulamentos e padrões globais. Esta competição não envolve apenas os EUA e a China; se estende aos aliados, embora em grande parte tacitamente”, incluindo a União Europeia (UE) e o Reino Unido, explicou a investigadora.
“Portanto, neste contexto, se os EUA não derem passos significativos, poderão se ver vinculados a regras estabelecidas por outros intervenientes globais. Consequentemente, estes desenvolvimentos recentes indicam os esforços dos EUA para manter a liderança nas esferas militar e civil da IA, com o objetivo de manter a sua supremacia tecnológica global”, resumiu Ozdemir.
Quanto à ética, esta, infelizmente, parece ser uma questão que será deixada para acadêmicos, filósofos e escritores de ficção científica, e não para os decisores políticos.
“E ouvireis de GUERRAS e de rumores de GUERRAS; olhai, não vos assusteis, porque é mister que isso tudo aconteça, mas ainda não é o fim. Porquanto se levantará nação contra nação, e reino contra reino, e haverá FOMES, PESTES e TERREMOTOS, em vários lugares. Mas todas estas coisas são [APENAS] o princípio de dores. – Apocalipse 13:16
