Centenas de pessoas, desde comentaristas conservadores a importantes executivos de tecnologia, assinaram uma carta pedindo a proibição do “Desenvolvimento da IA Superinteligente” [A Besta]. Este ano, empresas líderes em tecnologia como Google, Meta Platforms [Facebook] e OpenAI aceleraram os esforços para construir sistemas de inteligência artificial (IA) capazes de superar os humanos em um amplo espectro de tarefas elementares e complexas.
Fonte: De autoria de Andrew Moran via The Epoch Times
Um coro crescente de pessoas importantes acha que é hora de pisar no freio, pelo menos temporariamente.
A carta, elaborada pelo Future of Life Institute, pede a proibição do avanço da IA superinteligente até que haja demanda pública e a ciência trace um caminho seguro para a tecnologia.
“Pedimos uma proibição ao desenvolvimento da superinteligência, que não deve ser suspensa antes que haja um amplo consenso científico de que isso será feito de forma segura e controlável, e uma forte adesão pública”, diz o breve comunicado, divulgado em 22 de outubro.
O Future of Life Institute passou a última década alertando sobre os riscos existenciais representados pela IA avançada. Sua petição atraiu milhares de assinaturas e o apoio de centenas de figuras de destaque alinhadas à missão do grupo, incluindo os pioneiros da IA Yoshua Bengio e Geoffrey Hinton.
Bengio afirmou que os sistemas de IA poderão superar a maioria dos indivíduos em diversas tarefas cognitivas nos próximos anos. Embora tragam avanços, também podem “apresentar riscos significativos”, escreveu Bengio em nota pessoal divulgada junto com a carta.
“Para avançar com segurança em direção à superinteligência, precisamos determinar cientificamente como projetar sistemas de IA que sejam fundamentalmente incapazes de causar danos às pessoas, seja por desalinhamento ou uso malicioso”, escreveu ele.
“Também precisamos garantir que o público tenha uma voz muito mais forte nas decisões que moldarão nosso futuro coletivo.”
A carta alerta para ameaças crescentes ao mundo, incluindo a perda de liberdade, liberdades civis e “obsolescência econômica humana e desapoderamento”.
Entre os outros signatários estão a personalidade da mídia conservadora Glenn Beck, o fundador do Virgin Group, Sir Richard Branson, o cofundador da Apple, Steve Wozniak, a ex-conselheira de segurança nacional Susan Rice, e o comentarista político Steve Bannon.
A carta expressa consternação com o rápido desenvolvimento e implantação da IA em uma ampla gama de indústrias, ideologias políticas e seitas religiosas.
“O futuro da IA deve servir à humanidade, não substituí-la”, disse o príncipe Harry, um dos muitos signatários ao lado de sua esposa, Meghan, em nota pessoal divulgada junto com a carta. “O verdadeiro teste do progresso não será a rapidez com que nos movemos, mas a sabedoria com que conduzimos.”
Stuart Russell, um pioneiro da IA e professor de ciência da computação na Universidade da Califórnia-Berkeley, disse que a declaração não é uma proibição ou moratória “no sentido usual”. Em vez disso, ele escreveu, é uma proposta para instalar as salvaguardas necessárias para uma tecnologia que “tem uma chance significativa de causar a extinção humana”.
“É pedir muito?”, escreveu Russell.
Em uma postagem de blog de 2015 , o CEO da OpenAI, Sam Altman, escreveu que a ascensão da “inteligência de máquina sobre-humana (SMI) é provavelmente a maior ameaça à existência contínua da humanidade”.
Elon Musk, CEO da Tesla Motors e da SpaceX, disse ao apresentador de podcast Joe Rogan no início deste ano que há “apenas 20% de chance de aniquilação”.
“A probabilidade de um bom resultado é de cerca de 80%”, disse o empreendedor bilionário.
Não são apenas especialistas e pessoas famosas que expressam cautela.
O Future of Life Institute citou uma pesquisa nacional recente com 2.000 adultos que encontrou apenas 5% de apoio ao “status quo do desenvolvimento rápido e desregulado”. Quase dois terços (64%) acham que a IA sobre-humana não deve ser criada até que seja comprovadamente segura e controlável ou “nunca deve ser desenvolvida”.
IA na rua e no trabalho
Nos últimos três anos, Wall Street esteve imersa na ascensão da IA, com muitos observadores do mercado comparando-a à bolha das pontocom de 25 anos atrás.
Outros dizem que é muito diferente da exuberância do final da década de 1990, quando os investidores investiram bilhões de dólares em empresas com “ponto com” no nome.
“No geral, há algumas semelhanças (aumento da concentração de mercado em ações de tecnologia; investimento agressivo de capital acima das receitas)”, disse John Belton, gestor de portfólio da Gabelli Funds, em nota enviada por e-mail ao The Epoch Times.
“Mas acho que é simplificar demais as coisas dizer que estamos em uma ‘bolha’ (quase certamente não em uma bolha de avaliação; mas é um argumento a ser feito de que há alguma espuma recente nos fluxos de lucros).”
Independentemente de a bolha da IA ser real ou não, as empresas estão avançando com a IA, e os trabalhadores dos EUA estão preocupados.
De acordo com dados de junho da FactSet Insights, durante o segundo trimestre, mais de 40% das empresas do S&P 500 comentaram sobre “IA” durante as teleconferências de resultados. Este é o quinto trimestre consecutivo em que mais de 200 empresas do S&P 500 o fizeram.
Uma pesquisa da Reuters-Ipsos realizada no verão passado descobriu que 71% dos entrevistados estavam preocupados com a possibilidade de a IA “deixar muitas pessoas permanentemente desempregadas”.
Embora a IA ainda não tenha provocado uma substituição generalizada de empregos, o membro do Conselho de Governadores do Federal Reserve, Christopher Waller, disse na semana passada que mais empresas estão se preparando para a nova tecnologia em suas operações diárias.
“Os varejistas, em particular, estão cortando empregos em call centers e ocupações relacionadas à TI”, disse Waller em um evento da DC Fintech Week em 15 de outubro. “Até agora, a maioria diz que isso está sendo resolvido por meio de rotatividade, mas vários varejistas afirmam que há potencial para redução de pessoal no próximo ano.”
Até mesmo funcionários que trabalham na área de IA estão enfrentando cortes de empregos.
A Meta anunciou em 22 de outubro que está eliminando cerca de 600 cargos em seus Laboratórios de Superinteligência, o que afetará a Pesquisa de Inteligência Artificial do Facebook e outros produtos e infraestrutura de IA e relacionados à IA.
