Entre ou
Cadastre-se

Compartilhe
Receba nosso conteúdo

‘Criador’ da IA, Geoffrey Hinton, adverte sobre os perigos da Inteligência Artificial ao sair do Google

Um homem amplamente visto como o padrinho da inteligência artificial (IA) deixou o seu emprego, entregando sua demissão ao Google, alertando sobre os crescentes perigos dos desenvolvimentos no campo da Inteligência Artificial-IA. Geoffrey Hinton, 75, anunciou sua demissão do Google em um comunicado ao New York Times, dizendo que agora se arrependia de seu trabalho no desenvolvimento da IA.

‘Criador’ da IA, Geoffrey Hinton, adverte sobre os perigos da Inteligência Artificial ao sair do Google

Fonte: BBC News – Por Zoe Kleinman e Chris Vallance

Ele disse à BBC que alguns dos perigos dos chatbots de IA são “bastante assustadores”.

“Neste momento, eles não são mais inteligentes do que nós, pelo que sei. Mas acho que logo poderão ser.”

Hinton também aceitou que sua idade influenciou sua decisão de deixar a gigante da tecnologia, dizendo à BBC: “Tenho 75 anos, então é hora de me aposentar”.

A pesquisa pioneira do Dr. Hinton sobre redes neurais e aprendizado profundo abriu o caminho para os atuais sistemas de IA como o ChatGPT da OpenAI.

Na inteligência artificial, as redes neurais são sistemas semelhantes ao cérebro humano na forma como aprendem e processam informações. Eles permitem que as IAs aprendam com a experiência, como uma pessoa faria. Isso é chamado de aprendizado profundo. O psicólogo cognitivo e cientista da computação anglo-canadense disse à BBC que os chatbots podem em breve ultrapassar o nível de informação que o cérebro humano contém.

“Neste momento, o que estamos vendo é coisas como o GPT-4 eclipsa uma pessoa na quantidade de conhecimento geral que ela tem e a eclipsa de longe. Em termos de raciocínio, não é tão bom, mas já faz raciocínio simples”, disse ele.

“E, dada a taxa de progresso, esperamos que as coisas acelerem rapidamente. Portanto, precisamos nos preocupar com isso.”

No artigo do New York Times, o Dr. Hinton se referiu a “maus atores” [os psicopatas de sempre] que tentariam usar IA para “coisas ruins”. Quando questionado pela BBC para elaborar sobre isso, ele respondeu:

“Este é apenas um cenário de pior caso, uma espécie de cenário de pesadelo. Você pode imaginar, por exemplo, algum mau ator como [o presidente russo Vladimir] Putin decidir dar aos robôs a capacidade de criar seus próprios sub-objetivos”. O cientista alertou que isso eventualmente pode “criar sub-objetivos como ‘preciso obter mais energia'”.

Ele acrescentou:

“Cheguei à conclusão de que o tipo de inteligência que estamos desenvolvendo é muito diferente da inteligência que temos. Somos sistemas biológicos e estes são sistemas digitais. E a grande diferença é que com os sistemas digitais, você tem muitas cópias do mesmo conjunto de pesos, o mesmo modelo de mundo. E todas essas cópias podem aprender separadamente, mas compartilham seu conhecimento instantaneamente. Portanto, é como se você tivesse 10.000 pessoas e sempre que uma pessoa aprendesse algo, todas automaticamente soubessem a mesma coisa. E é assim que esses chatbots podem saber muito mais do que qualquer pessoa.”

Matt Clifford, presidente da Agência de Pesquisa e Invenção Avançada do Reino Unido, falando a título pessoal, disse à BBC que o anúncio do Dr. Hinton “sublinha a taxa em que as capacidades de IA estão se acelerando”.

“Há uma enorme vantagem dessa tecnologia, mas é essencial que o mundo invista forte e urgentemente em segurança e controle de IA”, disse ele. O Dr. Hinton se junta a um número crescente de especialistas que expressaram preocupações sobre a IA – tanto a velocidade em que está se desenvolvendo quanto para a direção em que está indo.

‘Precisamos dar um passo atrás’

Em março, uma carta aberta – co-assinada por dezenas de pessoas no campo da IA , incluindo o bilionário da tecnologia Elon Musk – pedia uma pausa em todos os desenvolvimentos mais avançados do que a versão atual do chatbot ChatGPT para que medidas de segurança robustas pudessem ser projetadas e implementadas.

Yoshua Bengio, outro suposto padrinho da IA, que junto com o Dr. Hinton e Yann LeCun ganhou o Prêmio Turing de 2018 por seu trabalho em aprendizado profundo, também assinou a carta. Bengio escreveu que foi por causa da “aceleração inesperada” nos sistemas de IA que “precisamos dar um passo atrás”.

Mas Hinton disse à BBC que “no curto prazo” ele achava que a IA traria muito mais benefícios do que riscos, “então não acho que devemos parar de desenvolver essas coisas”, acrescentou. Ele também disse que a competição internacional significaria que uma pausa seria difícil. “Mesmo que todos nos Estados Unidos parassem de desenvolvê-lo, a China teria apenas uma grande vantagem”, disse ele.

Hinton também disse que era um especialista em ciência, não em política, e que era responsabilidade dos governos garantir que a IA fosse desenvolvida “com muita reflexão sobre como impedir que ela se tornasse desonesta”.

‘Abordagem responsável’

Hinton enfatizou que não queria criticar o Google e que o gigante da tecnologia foi “muito responsável”. “Na verdade, quero dizer algumas coisas boas sobre o Google. E elas terão mais credibilidade se eu não trabalhar para o Google.”

Em um comunicado, o cientista-chefe do Google, Jeff Dean, disse: “Continuamos comprometidos com uma abordagem responsável da IA. Estamos aprendendo continuamente a entender os riscos emergentes enquanto também inovamos com ousadia”.

É importante lembrar que os chatbots de IA são apenas um aspecto da inteligência artificial, mesmo que sejam os mais populares no momento.

A IA está por trás dos algoritmos que determinam quais plataformas de streaming de vídeo decidem que você deve assistir a seguir. Ele pode ser usado no recrutamento para filtrar os pedidos de emprego, pelas seguradoras para calcular os prêmios, pode diagnosticar condições médicas (embora os médicos humanos ainda tenham a palavra final).

O que estamos vendo agora é o surgimento da AGI – inteligência artificial geral – que pode ser treinada para fazer várias coisas dentro de uma missão. Assim, por exemplo, o ChatGPT só pode oferecer respostas de texto para uma consulta, mas as possibilidades dentro disso, como estamos vendo, são infinitas.

Mas o ritmo da aceleração da IA ??surpreendeu até mesmo seus criadores. Ele evoluiu dramaticamente desde que o Dr. Hinton construiu uma rede neural de análise de imagem pioneira em 2012. Até o chefe do Google, Sundar Pichai, disse em uma entrevista recente que nem ele entendia totalmente tudo o que seu chatbot de IA, chamado de Bard, fazia.

Não se enganem, estamos em um trem veloz agora, e a preocupação é que um dia ele comece a construir seus próprios trilhos.


E os dez chifres que viste são dez reis, que ainda não receberam o reino, mas receberão poder como reis por uma hora, juntamente com a BESTA. Estes têm um mesmo intento, e entregarão o seu poder e autoridade à besta. Estes combaterão contra o Cordeiro, e o Cordeiro os vencerá, porque é o Senhor dos senhores e o Rei dos reis; Vencerão os que estão com Ele, Chamados, e Eleitos, e Fiéis. E disse-me: As águas que viste, onde se assenta a prostituta [ROMA], são povos, e multidões, e nações, e línguas“. – Apocalipse 17:12-15

O atributo alt desta imagem está vazio. O nome do arquivo é nabucodonoor-estatua-daniel.png

A estátua do sonho de Nabucodonosor, um símbolo daquilo que a humanidade construiria na Terra. Os dias de insanidade da atualidade estão contados, muito em breve, a “Grande Prostituta”, a cidade de Roma será varrida da face da Terra, dando início a derrota completa dos servidores das trevas e o fim de seus planos nefastos para o controle do planeta. Em 2023 o Brasil terá um papel decisivo na Guerra entre a Luz e as trevas.


“Precisamos URGENTEMENTE do seu apoio para continuar nosso trabalho baseado em pesquisa independente e investigativa sobre as ameaças do Estado [Deep State] Profundo, et caterva, que a humanidade enfrenta. Sua contribuição, por menor que seja, nos ajuda a nos mantermos à tona. Considere apoiar o nosso trabalho. Disponibilizamos o mecanismo Pay Pal, nossa conta na Caixa Econômica Federal  AGENCIA: 1803 – CONTA: 000780744759-2, Operação 1288, pelo PIX-CPF 211.365.990-53 (Caixa)”. para remessas do exterior via IBAN código: BR23 0036 0305 0180 3780 7447 592P 1


Mais informação adicional:

Permitida a reprodução, desde que mantido no formato original e mencione as fontes.

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *