A Inteligência Artificial pode se tornar mais inteligente que as pessoas e eventualmente assumir o controle de tudo, de acordo com o cientista judeu khazar Yoshua Bengio. O rápido desenvolvimento da inteligência artificial (IA) pode representar sérios riscos para a humanidade, pois se torna mais difícil de a controlar, alertou o renomado cientista da computação canadense.

Fonte: Rússia Today

Professor da Universidade de Montreal e chefe do Instituto de Algoritmos de Aprendizagem de Montreal, Bengio disse à CNBC na quinta-feira que as máquinas poderão em breve ter a maioria das habilidades cognitivas dos humanos.

O cientista estava se referindo à inteligência geral artificial (AGI), um tipo de tecnologia de IA que visa igualar ou se tornar melhor que o intelecto humano. “A inteligência dá poder. Então, quem vai controlar esse poder?”, disse Bengio.

“Se criarmos entidades que são mais inteligentes do que nós e têm seus próprios objetivos, o que isso significa para a humanidade? Estamos em perigo?”, ele perguntou.

Yoshua Bengio é um cientista da computação canadense, conhecido por seu trabalho sobre redes neurais artificiais e aprendizagem profunda. Recebeu o Prêmio Turing de 2018, juntamente com Geoffrey Hinton e Yann LeCun, por seu trabalho sobre aprendizagem profunda. É professor do Department of Computer Science and Operations Research da Universidade de Montreal e diretor científico do Montreal Institute for Learning Algorithms (MILA).

O cientista da computação citou um medo comum de que as atuais máquinas de IA atualmente treinadas e em desenvolvimento “levariam a sistemas que se voltariam contra os humanos”. 

Ele ressaltou que um número limitado de organizações e governos poderia bancar a construção de máquinas de IA poderosas e caras. Isso levaria a uma concentração de poder econômico, político e militar, eventualmente ameaçando a estabilidade geopolítica mundial, ele alertou.

“Há pessoas que podem querer abusar desse poder, e há pessoas que podem ficar felizes em ver a humanidade substituída por máquinas”, disse ele, pedindo uma regulamentação mais rigorosa.

De acordo com o cientista da computação, as empresas que desenvolvem IA e competem entre si pelo domínio global da tecnologia estão liderando “uma corrida perigosa” e devem ser responsabilizadas por suas ações.

Bengio é mais conhecido por seu trabalho pioneiro em aprendizado profundo, que lhe rendeu o Prêmio AM Turing de 2018, conhecido como “o Prêmio Nobel da Computação”, com os cientistas Geoffrey Hinton e Yann LeCun. Em 2019, ele recebeu o Prêmio Killam e, em 2022, tornou-se o cientista da computação com o maior impacto do mundo, medido pelo índice h.

Nos últimos anos, figuras importantes do setor de tecnologia têm levantado preocupações sobre os perigos potenciais representados pela adoção não regulamentada da tecnologia de IA.

Hinton, que é visto como um pioneiro da IA, alertou que o mundo pode enfrentar grandes desastres antes que o uso de armas de IA seja regulamentado de maneira adequada.

Bengio estava entre as principais figuras da indústria, incluindo o CEO da Tesla, Elon Musk, e o cofundador da Apple, Steve Wozniak, que coassinaram uma carta no ano passado pedindo uma regulamentação agressiva do setor de IA. Em junho, ele endossou outra carta aberta sobre os “riscos sérios” do uso da tecnologia. A carta foi assinada por funcionários da Open AI, a criadora do chatbot de IA viral ChatGPT.