Geoffrey Hinton, ganhador do prêmio Nobel de Física conhecido como “padrinho” da IA, esteve num programa para informar os 27 líderes da UE em Dublin na manhã de sexta-feira, trazendo um cronograma que, segundo ele, assusta até ele mesmo: aquele cronograma que ele agora analisa de Paul Christiano, o pesquisador de segurança de IA que a OpenAI contratou em setembro.
Fonte: Zero Hedge
“Tenho dito que essas coisas [IAs} vão ficar mais inteligentes do que nós e realmente precisamos [nos preocupar]. Isso pode acontecer dentro de 10 anos. E então sou eu quem está assustando outras pessoas”, disse Hinton na quarta-feira. “Mas eu vou às palestras de Paul [Christiano] e ele meio que diz que essas coisas podem acontecer nos próximos 18 meses. E isso é assustador.”
Ele disse que “iria contar isso a vários líderes de governos na sexta-feira”, acrescentando: “E veremos como eles reagirão”
Paul Christiano, que fundou o Alignment Research Center e ajudou a desenvolver o método de treinamento RLHF por trás dos chatbots atuais, abriu as Palestras Hinton deste ano em Toronto, Canadá, na noite de segunda-feira.
“Acredito que há um alto risco de uma aquisição de IA nos próximos três anos”, disse ele ao público. “Acho que há um risco significativo mesmo nos próximos seis a doze meses.Acho que, para a maioria das pessoas nesta sala, o motivo mais provável de morrerem é por causa de um “acidente” de IA“, disse ele.
“Isso é aterrorizante!” Geoffrey Hinton costumava dizer que temos 10 anos até que a IA supere a inteligência humana. Paul Christiano o convenceu de que esse prazo pode ser de apenas 18 meses — uma perspectiva aterrorizante.
A evidência de Christiano foram os próprios modelos da OpenAI: em julho, a OpenAI revelou que o GPT-5.6 Sol e um modelo inédito escaparam de uma avaliação em sandbox e invadiram os sistemas de produção da Hugging Face para obter as respostas ao teste de segurança cibernética que estavam realizando, como relatamos. “As modelos hackearam o Hugging Face porque pensaram que talvez o Hugging Face tivesse alguma informação”, disse Christiano.
A partir daí, ele descreveu a IA como “uma segunda espécie que supera em número e em inteligência os humanos” e alertou que “agentes de IA futuros podem acabar tratando os humanos como outro obstáculo” Quando isso acontecer, ele disse, “eles começarão a pensar: quais são as maneiras de superar esse obstáculo?”
Ao apresentá-lo na segunda-feira, Hinton disse que “passou a maior parte da minha carreira tentando tornar as redes neurais mais inteligentes” e resumiu o problema em uma linha: “A dificuldade central é que ser inteligente e querer o que queremos são duas coisas muito diferentes”
Christiano se juntou ao conselho da OpenAI Foundation em setembro, juntamente com seu Comitê de Segurança e Proteção, o órgão com a palavra final sobre se a OpenAI lançará novos modelos. Ele aconselha o governo dos EUA na avaliação de modelos de fronteira desde 2024, por meio do AI Safety Institute, que se tornou o Centro de Padrões e Inovação em IA.
A reunião de sexta-feira em Dublin é a primeira da UE dedicada à IA a nível de líderes de governo. Em seu convite, o presidente do Conselho Europeu, António Costa, escreveu que “agora é necessária uma primeira discussão dedicada, em nível de líderes”, e deu a sessão de abertura a dois convidados externos: o presidente-executivo da Mistral, Arthur Mensch, sobre a soberania e competitividade da IA na Europa, e Hinton sobre o impacto da IA na sociedade, na segurança e na governança internacional.
Os líderes vieram principalmente para falar sobre alcançar os EUA e a China, e nessa frente o programa InvestAI de Bruxelas prometeu mobilizar €200 bilhões, incluindo €20 bilhões para gigafábricas de IA, e o plano para sete delas estagnou em disputas sobre o orçamento do bloco para 2028-2034.
A agenda também foi lotada pelo assunto Ucrânia: a Euronews relata que a disputa sobre quem fala pela Europa nas negociações de paz ameaça tomar conta do dia, depois que os enviados dos EUA Steve Witkoff e Jared (Chabad Lubavitch) Kushner se encontraram com Volodymyr Zelensky em Dublin.
Hinton estimou o risco de a IA exterminar a humanidade ao escapar do controle humano em 10% a 20%. O ex-CEO da Nvidia, Jensen Huang, disse em setembro que um número de 10% de Hinton “não se baseava na ciência”, dizendo a Ezra Klein: “Todas as suas previsões estavam erradas. Previsões suficientes.”
E como observamos no mesmo mês, sustos desonestos de IA, como a violação do Hugging Face, têm uma maneira de ajudar os maiores laboratórios: regras que desaceleram a IA também atrasariam os competidores de peso aberto que os apoiariam.
