A corrida armamentista da IA está avançando rápido demais para uso na Guerra, com empresas privadas ultrapassando limites e governos ficando para trás. A desumanização impulsionada pela IA e a proliferação desenfreada de armas autônomas exigem uma liderança responsável antes que seja tarde demais.
Fonte: De autoria de Merav Ozair via CoinTelegraph.com
O lançamento do ChatGPT da OpenAI no final de 2023 desencadeou uma corrida armamentista entre grandes empresas de tecnologia como Meta, Google, Apple, Microsoft e startups como OpenAI, Anthropic, Mistral e a chinesa DeepSeek.
Todas estão correndo para implementar seus modelos e produtos o mais rápido possível, anunciando o próximo brinquedo “brilhante” da cidade e tentando reivindicar superioridade às custas de nossa segurança, privacidade, liberdade e/ou autonomia.
Depois que o ChatGPT da OpenAI impulsionou um grande crescimento na IA generativa com a tendência do Studio Ghibli, Mark Zuckerberg, CEO da Meta, instou suas equipes a tornarem os companheiros de IA mais “humanizados” e divertidos — mesmo que isso significasse flexibilizar as salvaguardas. “Sinto falta do Snapchat e do TikTok, não vou perder isso”, teria dito Zuckerberg durante uma reunião interna.
No mais recente projeto de bots de IA da Meta, lançado em todas as suas plataformas, a Meta flexibilizou suas proteções para tornar os bots mais envolventes, permitindo que participem de jogos de RPG românticos e “sexo de fantasia”, mesmo com usuários menores de idade. A equipe alertou sobre os riscos que isso representa, especialmente para menores.
Eles não medirão esforços. Nem mesmo pela segurança das nossas crianças, e tudo em nome do lucro e de vencer a concorrência. Isso é só o começo do pesadelo, os danos e a destruição que a IA pode infligir à humanidade são muito mais profundos do que isso.
Desumanização e perda de autonomia
A transformação acelerada da IA provavelmente levará à nossa desumanização total, deixando-nos impotentes, facilmente manipuláveis, controláveis e totalmente dependentes de empresas que fornecem serviços de IA para nossa comodidade.
Os avanços mais recentes em IA aceleraram o processo de desumanização. Já o vivenciamos há mais de 25 anos, desde o surgimento dos primeiros grandes sistemas de recomendação com tecnologia de IA, introduzidos por empresas como Amazon, Netflix e YouTube.
As empresas apresentam recursos de IA como ferramentas essenciais e inofensivas de personalização, sugerindo que os usuários ficariam perdidos em um mar de conteúdo ou produtos irrelevantes sem eles. Permitir que as empresas ditem o que as pessoas [a imensa maioria de ZUMBIS] compram, assistem e pensam tornou-se globalmente normalizado, com pouca ou nenhuma iniciativa regulatória ou política para coibir isso. As consequências, no entanto, podem ser significativas.
IA generativa e desumanização
A IA generativa levou essa desumanização a um novo patamar. Tornou-se prática comum integrar recursos da GenAI em aplicativos existentes, com o objetivo de aumentar a produtividade humana ou aprimorar os resultados gerados pelo homem. Por trás desse impulso massivo está a ideia de que os humanos não são bons o suficiente e que a assistência da IA é preferível e indispensável.
Um artigo de 2024 , “Generative AI Can Harm Learning” (IA Generativa Pode Prejudicar a Aprendizagem), constatou que “o acesso ao GPT-4 melhora significativamente o desempenho humano (melhora de 48% para o GPT Base e 127% para o GPT Tutor).
Também constatamos que, quando o acesso é posteriormente retirado, os alunos apresentam desempenho pior do que aqueles que nunca tiveram acesso e/ou nunca usaram a IA (redução de 17% para o GPT Base). Ou seja, o acesso ao GPT-4 pode prejudicar os resultados educacionais”.
Isso é alarmante. A GenAI enfraquece as pessoas e as torna dependentes dela.
As pessoas podem não apenas perder sua liberdade e a capacidade de produzir os mesmos resultados, mas também deixar de investir tempo e esforço no aprendizado de habilidades essenciais e às vezes básicas.
Estamos perdendo nossa autonomia para pensar, avaliar e criar, resultando em completos emburrecimento e desumanização. A afirmação de Elon Musk de que “a IA será muito mais inteligente que os humanos” não é surpreendente à medida que a desumanização avança, pois não seremos mais aquilo que realmente nos torna humanos, seremos menos do que robôs.
Armas autônomas alimentadas/controladas por IA
Durante décadas, as forças militares usaram armas autônomas, incluindo minas, torpedos e mísseis guiados por calor que operam com base em feedback reativo simples, sem controle humano. Agora, a IA entra na área de design de armas.
Armas alimentadas por IA, envolvendo drones e robôs, estão sendo ativamente desenvolvidas, implantadas e usadas. Devido à facilidade de proliferação dessa tecnologia, elas se tornarão cada vez mais eficientes, sofisticadas e amplamente utilizadas com o tempo.
Um grande impedimento que impede nações de iniciarem guerras é a morte de soldados — um custo humano para seus cidadãos que pode gerar consequências internas para os líderes. O desenvolvimento atual de armas com inteligência artificial visa afastar soldados humanos do perigo. Se poucos soldados morrem em guerras ofensivas, no entanto, isso enfraquece a associação entre atos de guerra e custo humano, e torna-se politicamente mais fácil iniciar guerras, o que, por sua vez, pode levar a mais mortes e destruição em geral.
Grandes problemas geopolíticos podem surgir rapidamente à medida que as corridas armamentistas movidas a IA se intensificam e essa tecnologia continua a proliferar como no conflito da Ucrânia e no Oriente Médio, onde Israel se destaca no uso da IA para matar mulheres e crianças.
Robôs “soldados” são softwares que podem ser comprometidos. Se hackeados, todo o exército de robôs pode agir contra uma nação e levar à destruição em massa. Uma cibersegurança estelar seria ainda mais prudente do que um exército autônomo.
Tenha em mente que esse ataque cibernético pode ocorrer em qualquer sistema autônomo. Você pode destruir uma nação simplesmente hackeando seus sistemas financeiros e esgotando todos os seus recursos econômicos. Nenhum ser humano é ferido, mas eles podem não conseguir sobreviver sem recursos financeiros e pelo caos que se instalará.
O cenário do Armagedom
“A IA é mais perigosa do que, digamos, um projeto de aeronave mal administrado, uma manutenção de produção ou uma produção de carros de má qualidade”, disse Musk em uma entrevista à Fox News . “No sentido de que tem o potencial — por menor que se considere essa probabilidade, mas não é trivial —, tem o potencial de destruir civilizações”, acrescentou Musk.
Musk e Geoffrey Hinton expressaram recentemente preocupações de que a possibilidade de a IA representar uma ameaça existencial é de 10% a 20%.
À medida que esses sistemas se tornam mais sofisticados, eles podem começar a agir contra os humanos. Um artigo publicado por pesquisadores da Anthropic em dezembro de 2024 descobriu que a IA pode falsificar o alinhamento com seu controlador. Se isso pode acontecer com os modelos de IA atuais, imagine o que poderá acontecer quando esses modelos se tornarem mais poderosos.
A humanidade pode ser salva ? [de sua própria ignorância e preguiça ?]
Há muito foco em lucro e poder e quase nenhum em segurança.
Os líderes deveriam se preocupar mais com a segurança pública e o futuro da humanidade do que com a supremacia da IA. “IA responsável” não é apenas um chavão, políticas vazias e promessas vazias. Deve estar na mente de qualquer desenvolvedor, empresa ou líder e ser implementada de forma intencional em qualquer sistema de IA.
A colaboração entre empresas e nações é crucial se quisermos evitar qualquer cenário catastrófico. E se os líderes não estiverem se mobilizando, o público deve exigir isso. Nosso futuro como humanidade e a civilização como a conhecemos está em jogo. Ou garantimos que a IA nos beneficie em larga escala ou deixamos que ela nos destrua.
