O filme norte-americano de 2014, Transcendência, acompanha um cientista moribundo que carrega sua mente para um supercomputador e se torna uma inteligência quase‑onipotente. Um ano depois, a obra Ex Machina contou a história de um robô humanóide que supera seus manipuladores humanos e escapa para o mundo mais amplo. Ambos os filmes, como muitos outros do domínio da ficção científica, referiam-se ao que é conhecido como “a singularidade”, um momento em que a tecnologia, particularmente a IA, ultrapassa a inteligência humana e se torna cada vez mais difícil de controlar autônoma.
Fonte: AlJazeera
A ‘Singularidade’ refere-se ao ponto em que a IA ultrapassa a inteligência humana e se torna difícil de controlar.
No sábado, o chefe da OpenAI, Sam Altman, declarou que esse momento chegou. A IA atingiu “a singularidade”, disse ele. Embora Altman tenha enfatizado que a singularidade pode ser boa para o mundo, seu comentário gerou preocupação. Aqui está uma análise mais detalhada do que Altman disse e se isso significa uma automação mais integrada ou o risco de uma destruição catastrófica iminente da nossa atual civilização.
O que é a singularidade?
A singularidade se refere a um ponto hipotético no futuro quando uma tecnologia como a IA supera a inteligência humana e se torna capaz de se aprimorar de forma autônoma. Teoriza-se que este é o ponto em que se tornará difícil para os humanos controlá-lo ou revertê-lo e poderá ter efeitos imprevisíveis na civilização humana.
A teoria propõe que, uma vez que a IA ganhe o controle de seu próprio desenvolvimento, os avanços tecnológicos subsequentes poderão acontecer tão rapidamente que os humanos não conseguirão acompanhá-la, deixando-a efetivamente evoluir por conta própria, além do controle humano.
Como isso é apenas uma teoria, é difícil dizer qual poderia ser o efeito disso. Alguns especialistas alertam que a singularidade seria catastrófica para a humanidade, enquanto outros são mais otimistas, sugerindo que poderia ser benéfica para a raça humana.
Até agora, a singularidade permaneceu contida no reino da ficção científica. Um dos exemplos mais famosos é a trilogia Matrix (1999-2003), que imagina um futuro pós‑singularidade sombrio no qual as máquinas governam os humanos. Outro é o filme Singularidade, de 2017, no qual um supercomputador originalmente construído para acabar com as guerras humanas conclui que a humanidade é a verdadeira ameaça e lança um ataque apocalíptico para exterminar completamente os humanos.
O que Altman disse sobre a singularidade?
Altman é o CEO da OpenAI, cujo produto exclusivo ChatGPT domina o mercado de IA de consumo com mais de 900 milhões de usuários ativos semanais e cerca de 50 milhões de assinantes. No ano passado, ele previu que a IA superaria a inteligência humana em todos os níveis até 2030.
Então, durante uma aparição no podcast Relentless – uma série documental “sobre a busca de ideias rebuscadas e aspirações incomuns” – no sábado, Altman disse: “Estamos agora, tipo, na singularidade.”
Ele esclareceu que, em termos de avanços tecnológicos, estamos caminhando gradativamente para a singularidade, e que essa mudança será boa para o mundo. Ele acrescentou: “Agora estamos realmente no momento sobre o qual costumávamos falar na mesa do almoço de uma forma nada séria. Esperei por isso toda a minha vida e acho que será incrível, extremamente positivo, incrível para o mundo.”
Mais tarde no episódio do podcast, Altman criticou outros líderes de IA por alertarem que a IA pode ser perigosa. Embora Altman não tenha nomeado o concorrente da OpenAI, Anthropic, seu CEO, Dario Amodei, é conhecido por fazer tais avisos.
“Também acho que algumas das visões alternativas pintadas por outras empresas são bastante assustadoras”, disse Altman. “Vou garantir que isso seja rejeitado e não seja o que aconteça.”
No mês passado, a Anthropic, empresa por trás do chatbot Claude, pediu às principais empresas de IA do mundo que criassem uma maneira coordenada de interromper o desenvolvimento de sistemas avançados de IA, alertando que a tecnologia está melhorando tão rapidamente que há o risco de os humanos perderem o controle.
Em uma postagem de blog em 4 de junho, a Anthropic, que há muito tempo se posiciona como um laboratório de IA focado em segurança, escreveu que, à medida que a IA se torna mais avançada “seria bom para o mundo ter a opção de desacelerar ou pausar temporariamente”, seu desenvolvimento.
Por que outros estão alertando sobre os perigos da IA?
Em 23 de julho, dois membros do Congresso dos Estados Unidos apresentaram o AI Kill Switch Act, um projeto de lei bipartidário que exigiria que os desenvolvedores de IA do país instalassem um “kill switch” em seus programas, permitindo que humanos desacelerassem, suspendessem ou desligassem modelos avançados de IA caso eles representassem um risco catastrófico.
A legislação foi introduzida dias depois que a OpenAI divulgou o que descreveu como um “incidente cibernético [hacker] sem precedentes”, onde dois de seus modelos de IA mais avançados escaparam de um ambiente de testes e hackearam a plataforma de desenvolvimento de IA Hugging Face durante uma avaliação de segurança interna.
Em 13 de julho, centenas de especialistas assinaram uma carta aberta, organizada pelo laboratório de economia digital da Universidade de Stanford, exigindo que os decisores políticos e os líderes tecnológicos “devam agir agora” para se prepararem para o impacto econômico da IA.
A carta alerta que a IA pode se tornar muito mais capaz na próxima década, impulsionando uma transformação “maior que a Revolução Industrial, mas que se desenrolará em um período de tempo muito mais curto”. “Poderia trazer riscos, incluindo deslocamento de empregos em larga escala, bem como oportunidades como grandes ganhos nos padrões de vida,” acrescentou a carta.
Em junho, uma equipe de pesquisadores da Universidade de Toronto mostrou que ferramentas de IA poderiam ser usadas para criar um novo tipo de IA “worm” que adapta sua estratégia de hacking à medida que se espalha de dispositivo para dispositivo e assume uma vasta rede de computação.
“Acho que é muito importante que as pessoas entendam que não são apenas os maiores e mais poderosos modelos de linguagem que representam as preocupações de segurança”, disse o pesquisador principal Nicolas Papernot em uma entrevista. Nos últimos anos, pesquisadores de IA têm solicitado pausas semelhantes à sugerida recentemente pela Anthropic. No entanto, eles não foram ouvidos.
Elon Musk, dono do laboratório de IA X-AI, estava entre os apoiadores de uma iniciativa de 2023 do Future of Life Institute, uma organização sem fins lucrativos, para interromper o desenvolvimento de IA por seis meses para dar tempo de desenvolver proteções de segurança.
