O mistério em torno da breve demissão do CEO da OpenAI, Sam Altman, pelo conselho de administração na última sexta-feira, que numa reviravolta espetacular já foi reintegrado, pode girar em torno de uma situação oculta do público que sugere que a breve demissão de Altman se deveu a um avanço significativo na Inteligência Artificial Geral (AGI), que poderia ameaçar a humanidade de acordo com matéria da Reuters.
Demissão de Sam Altman da OpenAI foi por causa do Avanço do ‘Q-Star’ visto como uma I.A. que Ameaça à Humanidade
Fonte: Reuters – Zero Hedge
Nos dias anteriores ao rápido exílio de Altman, vários pesquisadores da equipe OpenAI escreveram uma carta ao conselho sobre um avanço significativo na IA – chamado Q* e pronunciado Q-Star – que permitiu ao modelo de IA “ultrapassar os humanos nas tarefas economicamente mais valiosas”.
Fontes da Reuters disseram que o novo marco da IA foi um dos fatores significativos que levaram à demissão abrupta de Altman pelo conselho na última sexta-feira. Outra preocupação era comercializar o modelo novo e avançado de IA sem compreender as consequências socioeconômicas para a sociedade humana.
A fonte disse que o novo modelo IA poderia resolver problemas matemáticos, mas apenas “no nível dos alunos do ensino fundamental, e a aprovação em tais testes deixou os pesquisadores muito otimistas sobre o sucesso futuro do Q*”.
Além disso, antes de Altman ser demitido, ele poderia ter referenciado o Q* na Cooperação Econômica Ásia-Pacífico em São Francisco:
“Quatro vezes na história da OpenAI – a mais recente foi apenas nas últimas semanas – eu pude estar na sala, quando meio que afastamos o véu da ignorância e a fronteira da descoberta foi adiante”, disse Altman.
Minha previsão é que há algumas semanas a equipe da OpenAI demonstrou uma máquina que mostrava consciência ou AGI e Sam não contou imediatamente ao conselho e seus sentimentos ficaram feridos.
Um conflito interno na OpenAI surgiu e está enraizado numa batalha ideológica entre aqueles que pressionam pelo rápido desenvolvimento [e UTILIZAÇÃO] da IA e aqueles que defendem uma abordagem mais lenta e responsável ao desenvolvimento da IA.
A Reuters conversou com um porta-voz da OpenAI que confirmou a existência do projeto Q* e a carta ao conselho antes da demissão de Altman. Então, como e por que o Q* é um avanço?
Bem, como o blog de tecnologia 9to5Mac explica:
Atualmente, se você pedir ao ChatGPT para resolver problemas matemáticos, ele ainda usará sua abordagem de texto preditivo com esteróides de compilar uma resposta usando um enorme banco de dados de texto e decidir palavra por palavra como um humano responderia. Isso significa que ele pode ou não acertar a resposta, mas de qualquer forma o ChatGPT não possui nenhuma habilidade matemática.
A OpenAI parece ter feito um avanço nessa área, permitindo que um modelo de IA resolva genuinamente problemas matemáticos nunca antes vistos. Este desenvolvimento é conhecido como Q*. Infelizmente, a equipe não usou um modelo de nomenclatura inteligente o suficiente para evitar algo que parecesse um ponteiro para uma nota de rodapé, então vou usar a versão Q-Star.
Diz-se que a habilidade matemática atual da Q-Star é a de um aluno do ensino fundamental, mas espera-se que essa habilidade melhore rapidamente.
Este desenvolvimento tecnológico pode ser um dos primeiros sinais de que a AGI-Inteligência Artificial Geral, uma forma de IA que pode superar os humanos, já esta iminente para comercialização. A IA AGI tem potencial para superar os humanos em todas as áreas, incluindo criatividade, resolução de problemas, tomada de decisões, compreensão linguística, etc., levantando preocupações sobre a extinção massiva de empregos. Um relatório recente do Goldman Sachs descreve como 300 milhões de demissões poderiam estar chegando ao mundo ocidental por causa desta nova IA AGI.
A descoberta Q* e o rápido avanço desta tecnologia fazem agora sentido porque o conselho demitiu abruptamente Altman pela sua pressa em desenvolver esta tecnologia sem estudar o impacto do modelo na forma como essa IA ameaça a humanidade.
Altman disse recentemente:
“Acho que esta é definitivamente a maior atualização para as pessoas até agora. E talvez o maior que teremos, porque daqui em diante, tipo, agora as pessoas aceitam que a IA é poderosa, vai acontecer, e haverá atualizações incrementais… houve o ano em que o primeiro iPhone foi lançado, e então houve todos os demais desde então.”
“De acordo com um relatório da Reuters, a descoberta secreta da OpenAI chamada Q* (pronuncia-se Q-Star) precipitou a destituição de Sam Altman. Antes da demissão de Sam, os pesquisadores enviaram ao conselho uma carta alertando sobre uma nova descoberta de IA que poderia “ameaçar a humanidade”.
Os pesquisadores consideram a matemática uma fronteira do desenvolvimento de IA generativa. Atualmente, a IA generativa é boa na escrita e na tradução de idiomas, prevendo estatisticamente a próxima palavra, e as respostas à mesma pergunta podem variar amplamente. Mas conquistar a capacidade de fazer matemática – onde só existe uma resposta certa – implica que a IA teria maiores capacidades de raciocínio semelhantes à inteligência humana. Isto poderia ser aplicado a novas pesquisas científicas, por exemplo, acreditam os pesquisadores de IA.
Ao contrário de uma calculadora que pode resolver um número limitado de operações, uma IA AGI pode generalizar, aprender e compreender.
Em sua carta ao conselho, os pesquisadores destacaram as proezas e o perigo potencial da IA, disseram as fontes, sem especificar as preocupações exatas de segurança mencionadas na carta. Há muito que se discute entre os cientistas da computação sobre o perigo representado por máquinas altamente inteligentes, por exemplo, se decidirem que a destruição da humanidade é do seu interesse.
Os pesquisadores também sinalizaram o trabalho da equipe de um “cientista de IA”, cuja existência foi confirmada por múltiplas fontes. O grupo, formado pela combinação dos programas anteriores “Code Gen” e “Geração Matemática”, estava explorando como otimizar os modelos de IA existentes para melhorar seu raciocínio e, eventualmente, realizar trabalhos científicos, disse uma das pessoas.
Altman liderou esforços para tornar o ChatGPT um dos aplicativos de software de crescimento mais rápido da história e atraiu investimentos – e recursos computacionais – necessários da Microsoft para se aproximar da IA AGI.
Além de anunciar uma série de novas ferramentas numa demonstração este mês, Altman afirmou na semana passada, numa cúpula de líderes mundiais na Cooperação Econômica Ásia-Pacífico em São Francisco, que acreditava que grandes avanços em IA estavam à vista. Sintomaticamente um dia depois, o conselho da OpenAI demitiu Altman.
Enquanto isso, Musk, que tem alertado sobre a ameaça da IA à humanidade, classificou o relatório da Reuters sobre a nova IA como “extremamente preocupante”.
Supondo que a OpenAI já tenha desenvolvido uma IA AGI, e que ela já esteja aqui (ou se aproximando). Os próximos anos [eu diria meses] serão extremamente selvagens.
Para que ninguém possa comprar ou vender, senão aquele que tiver o sinal, ou o nome da besta, ou o número do seu nome. Apocalipse 13:17
Aqui há sabedoria. Aquele que tem entendimento, calcule o número da besta; porque é o número de um homem, e o seu número é seiscentos e sessenta e seis. Apocalipse 13:18
E foi-lhe concedido que desse espírito à imagem da besta, para que também a imagem da besta falasse, e fizesse que fossem mortos todos os que não adorassem a imagem da besta. Apocalipse 13:15
E o anjo me disse: Por que te admiras? Eu te direi o mistério da mulher [igreja de Roma], e da besta que a traz, a qual tem sete cabeças [G-7] e dez chifres. Apocalipse 17:7
