O CEO da Anthropic, empresa líder em inteligência artificial, Dario Amodei, fez um alerta preocupante de que a humanidade está prestes a receber um “poder quase inimaginável” através do desenvolvimento da IA, para o qual está perigosamente despreparada.

Fonte: Rússia Today

O CEO da Anthropic Dario Amodei (ex OpenAI), instou a humanidade a enfrentar os riscos existenciais antes que seja tarde demais.

Em um ensaio de quase 20.000 palavras intitulado “A Adolescência da Tecnologia”, Amodei esboça um futuro onde sistemas de IA muito mais capazes do que qualquer laureado com o Prêmio Nobel ou estadista estarão à disposição de todos nos próximos anos. Um fator crítico e acelerador, revela Amodei, é que o desenvolvimento da IA ​​está criando um ciclo de feedback que se reforça mutuamente.

“Como a própria IA agora escreve grande parte do código na Anthropic, ela já está acelerando substancialmente nosso progresso na construção da próxima geração de sistemas de IA”, escreve ele, alertando que a empresa está perto de “um ponto em que a geração atual de IA constrói a próxima IA de forma autônoma”.

Ele argumenta que, sem uma ação decisiva e cuidadosa, a tecnologia da IA pode levar a riscos catastróficos, que vão desde o deslocamento em massa de empregos até a extinção da humanidade. Outros perigos existenciais incluem o potencial para uma “ditadura totalitária global” possibilitada pela vigilância, propaganda e armas autônomas baseadas em inteligência artificial.

Amodei também detalha os “riscos da autonomia”, onde os sistemas de IA poderiam “ficar descontrolados e dominar a humanidade” –  observando que esse perigo nem sequer exigiria um exército de robôs físicos saído de um filme de ficção científica. O ensaio observa, de forma arrepiante, que “muitas ações humanas já são realizadas em nome de pessoas que o agente nunca conheceu pessoalmente”.

Dentre as ameaças mais urgentes, Amodei destaca o potencial da IA ​​para reduzir drasticamente as barreiras à criação de armas biológicas e outras armas de destruição em massa.

“Um indivíduo solitário e perturbado pode perpetrar um massacre em uma escola, mas provavelmente não consegue construir uma arma nuclear ou disseminar um vírus mortal”, escreve ele. Uma inteligência artificial poderosa, no entanto, transformaria “todos em virologistas com doutorado, capazes de serem guiados passo a passo no processo de criação, síntese e liberação de uma arma biológica”.

Na pior das hipóteses, ele alerta que uma inteligência artificial poderosa poderia, teoricamente, orientar a criação de um patógeno sintético capaz de “destruir toda a vida na Terra”.

Como um dos principais líderes do setor, cuja empresa é uma das principais concorrentes da OpenAI, Amodei defende uma regulamentação “cirúrgica”, começando por leis de transparência, para criar as salvaguardas necessárias.

“A humanidade precisa despertar”,  alertou ele, afirmando que os próximos anos serão um teste crucial para a maturidade da civilização. Com a própria tecnologia impulsionando sua evolução vertiginosa, ele clama por uma resposta coletiva para afastar o “prêmio brilhante” da IA ​​da potencial ruína.