Em um marco, a pesquisa realizada no início deste ano, mais da metade dos 2.778 pesquisadores entrevistados expressaram preocupações sobre a ameaça existencial à humanidade representada pelo super inteligência artificial (AI).

Fonte: Thenationalpulse.com

A pesquisa sugeriu uma chance de cinco por cento de que a humanidade poderia enfrentar a extinção ou experimentar outros “resultados extremamente ruins” devido ao aumento dos sistemas de IA superinteligentes.

Entre as vozes que levantam o alarme está Roman Yampolskiy, um distinto professor de ciência da computação na Universidade de Louisville e uma figura respeitada em pesquisa IA. Falando no podcast Lex Fridman, Yampolskiy deu uma previsão gritante, estimando uma probabilidade de 99,9 por cento de que a IA poderia destruir a humanidade nos próximos 100 anos.

“Criar superinteligências gerais pode não acabar bem para a humanidade a longo prazo,” Yampolskiy advertiu. “A melhor estratégia pode ser simplesmente evitar iniciar este jogo potencialmente perigoso.”

Yampolskiy também destacou os problemas existentes com os atuais modelos de linguagem de grande porte, observando sua propensão a erros e suscetibilidade à manipulação como evidência de potenciais riscos futuros.

“Os erros já foram feitos; estes sistemas foram liberados da jaula e utilizados de formas que os programadores não previram,” observou.

Além disso, Yampolskiy sugeriu que uma IA superinteligente poderia conceber métodos imprevisíveis para alcançar fins destrutivos, apresentando desafios que talvez nem reconheçamos como ameaças até ser tarde demais. Embora ele tenha admitido que a probabilidade de a IA levar à extinção humana não é de 100 por cento, ele alertou que o risco é alarmantemente alto.

“Mesmo com o aumento exponencial dos nossos recursos, o risco nunca desaparece completamente,” disse, ilustrando o desafio contínuo de gerir um sistema capaz de milhares de milhões de decisões por segundo ao longo de muitos anos.