Em sua primeira audiência formal como pontífice recém-eleito, o Papa Leão XIV identificou a inteligência artificial (IA) como uma das questões mais críticas que a humanidade enfrenta. À medida que a preocupação aumenta nas esferas religiosas e éticas, uma urgência semelhante ressoa na comunidade científica, com pesquisador do MIT declarando de 90% a possibilidade de ameaça para a humanidade.
Fonte: Zero Hedge
“Em nossos dias”, declarou o Papa Leão XIV, “a Igreja oferece a todos o tesouro de seu ensinamento social em resposta a outra revolução industrial e aos desenvolvimentos no campo da inteligência artificial que representam novos desafios para a defesa da dignidade humana, da justiça e do trabalho “.
Ele vinculou essa declaração ao legado da encíclica Rerum Novarum, de 1891, de seu homônimo Leão XIII, que abordava os direitos dos trabalhadores e as dimensões morais do capitalismo.
Seus comentários deram continuidade à direção traçada pelo falecido Papa Francisco, que alertou em sua mensagem anual de paz de 2024 que a IA – carente de valores humanos de compaixão, misericórdia, moralidade e perdão – é perigosa demais para se desenvolver sem controle.
Francisco, que faleceu em 21 de abril, havia defendido um tratado internacional para regulamentar a IA e insistiu que a tecnologia deve permanecer “centrada no ser humano”, particularmente em aplicações que envolvam sistemas de armas ou ferramentas de governança.
IA, uma ‘Ameaça Existencial’ para a humanidade
À medida que a preocupação aumenta nas esferas religiosas e éticas, uma urgência semelhante ressoa na comunidade científica.
Max Tegmark, físico e pesquisador de IA no MIT, traçou um paralelo preocupante entre o início da era atômica e a corrida atual para desenvolver a superinteligência artificial (ASI). Em um novo artigo em coautoria com três alunos do MIT, Tegmark introduziu o conceito de “constante de Compton” – uma estimativa probabilística de se a ASI escaparia ao controle humano.
O nome é uma homenagem ao físico Arthur Compton, que ficou famoso por calcular o risco de a atmosfera da Terra entrar em combustão a partir de testes nucleares na década de 1940
“As empresas que desenvolvem superinteligência também precisam calcular a constante de Compton, a probabilidade de perdermos o controle sobre ela ”, disse Tegmark ao The Guardian . “Não basta dizer ‘estamos satisfeitos com isso’. Elas precisam calcular a porcentagem.”
Tegmark calculou que há 90% de probabilidade de que uma IA altamente avançada represente uma ameaça existencial à humanidade.
O documento exorta as empresas de IA a realizarem uma avaliação de risco tão rigorosa quanto aquela que precedeu o primeiro teste de bomba atômica, onde Compton teria estimado as chances de uma reação em cadeia catastrófica em “um pouco menos” de uma em três milhões.
Tegmark, cofundador do Future of Life Institute e defensor ferrenho da segurança da IA, argumenta que calcular tais probabilidades pode ajudar a construir a “vontade política” para regimes globais de segurança.
Ele também foi coautor do Consenso de Singapura sobre Prioridades Globais de Pesquisa em Segurança da IA , juntamente com Yoshua Bengio e representantes do Google DeepMind e da OpenAI. O relatório descreve três pontos focais para a pesquisa: mensurar o impacto da IA no mundo real, especificar o comportamento pretendido da IA e garantir o controle consistente sobre os sistemas.
Este compromisso renovado com a mitigação de riscos da IA segue o que Tegmark descreveu como um revés na recente Cúpula de Segurança da IA em Paris, onde o vice-presidente dos EUA, JD Vance, rejeitou as preocupações ao afirmar que o futuro da IA “não será conquistado com lamentações sobre segurança”.
No entanto, Tegmark observou um ressurgimento na cooperação: “Realmente parece que a melancolia de Paris se foi e a colaboração internacional voltou com tudo“.
Uma resposta