O ex-CEO do Google, Eric Schmidt, disse que a inteligência artificial autônoma (IA) está chegando e que pode representar uma ameaça existencial para a humanidade. “ Em breve, seremos capazes de ter computadores funcionando por conta própria, decidindo o que querem fazer ”, disse Schmidt, que há muito tempo vem alertando sobre os perigos e os benefícios que a IA representa para a humanidade, durante uma aparição em 15 de dezembro no programa “This Week” da ABC.

Fonte: De autoria de Joseph Lord – The Epoch Times

“Esse é um ponto perigoso: quando o sistema pode se autoaprimorar, precisamos pensar seriamente em desconectá-lo ”, disse Schmidt.

Schmidt está longe de ser o primeiro líder de tecnologia a levantar essas preocupações.

A ascensão de produtos de IA para o consumidor como o ChatGPT da OpenAI não teve precedentes nos últimos dois anos, com grandes melhorias no modelo baseado em linguagem. Outros modelos de IA se tornaram cada vez mais adeptos à criação de arte visual, fotografias e vídeos completos que são quase indistinguíveis da realidade em muitos casos.

Para alguns, a tecnologia lembra a série “O Exterminador do Futuro”, que se concentra em um futuro distópico onde a IA toma conta do planeta, fazendo guerra à humanidade e levando a resultados apocalípticos.

Apesar de todos os medos que o ChatGPT e plataformas similares levantaram, os serviços de IA para o consumidor disponíveis hoje ainda se enquadram em uma categoria que os especialistas considerariam “IA burra”. Essas IAs são treinadas em um conjunto massivo de dados, mas não têm consciência, sensibilidade ou capacidade de se comportar de forma autônoma.

Schmidt e outros especialistas não estão particularmente preocupados com esses sistemas.

Em vez disso, eles estão preocupados com uma IA mais avançada, conhecida no mundo da tecnologia como “inteligência geral artificial” (AGI), descrevendo sistemas de IA muito mais complexos que poderiam ter autoconsciência e, por extensão, poderiam desenvolver motivos conscientes independentes e potencialmente perigosos para os interesses humanos.

Schmidt disse que ainda não existem tais sistemas hoje, e que estamos caminhando rapidamente para um novo tipo intermediário de IA: uma que não tenha a consciência que definiria uma IAG e ainda seja capaz de agir de forma autônoma em campos como pesquisa e armamento.

“Faço isso há 50 anos. Nunca vi inovação nessa escala atual”, disse Schmidt sobre os rápidos desenvolvimentos na complexidade da IA. Schmidt disse que uma IA mais desenvolvida traria muitos benefícios para a humanidade — e poderia ter tantas “coisas ruins como armas e ataques cibernéticos”.

O Desafio

O desafio, disse Schmidt, é multifacetado. Em um nível central, ele repetiu um sentimento comum entre os líderes de tecnologia: se sistemas autônomos semelhantes à IAG forem inevitáveis, será necessária uma cooperação massiva entre interesses corporativos e governos internacionais para evitar consequências potencialmente devastadoras

É mais fácil falar do que fazer. A IA fornece aos concorrentes dos EUA, como China, Rússia e Irã, uma vantagem potencial sobre os Estados Unidos que seria difícil de obter de outra forma.

Também no setor de tecnologia, há atualmente uma competição massiva entre grandes corporações — Google, Microsoft e outras — para superar os rivais, uma situação que aumenta os riscos inerentes de protocolos de segurança inadequados para lidar com uma IA desonesta, disse Schmidt.

“A competição é tão feroz que há uma preocupação de que uma das empresas decida omitir as etapas [de segurança] e, então, de alguma forma, lance algo que realmente cause algum dano“, disse Schmidt. Tais danos só se tornariam evidentes após consumado o fato, disse ele.

O desafio é maior no cenário internacional, onde nações adversárias provavelmente verão a nova tecnologia como revolucionária para seus esforços de desafiar a hegemonia global dos EUA e expandir sua própria influência.

“Os chineses são inteligentes e entendem o poder de um novo tipo de inteligência para seu poderio industrial, seu poderio militar e seu sistema de vigilância”, disse Schmidt.

Isso é um pouco complicado para os líderes americanos na área, que se veem forçados a equilibrar preocupações existenciais com a humanidade com a possibilidade de os Estados Unidos ficarem para trás em relação aos seus adversários, o que pode ser catastrófico para a estabilidade global.

Na pior das hipóteses, esses sistemas poderiam ser usados ​​para projetar armas biológicas e nucleares debilitantes, principalmente por grupos terroristas como o ISIS.

Por essa razão, disse Schmidt, é absolutamente crucial que os Estados Unidos continuem a inovar na área e, em última análise, mantenham o domínio tecnológico sobre a China e outros estados e grupos adversários.

Líderes da indústria exigem regulamentação

A regulamentação do campo continua insuficiente, disse Schmidt. Mas ele espera que o foco dos governos em melhorar as salvaguardas em torno da tecnologia acelere dramaticamente nos próximos anos.

Questionado pelo âncora George Stephanopoulos se os governos estavam fazendo o suficiente para regulamentar o assunto, Schmidt respondeu: “Ainda não, mas farão, porque terão que fazer”.

Apesar de algum interesse inicial no campo — audiências, propostas legislativas e outras iniciativas — surgindo durante o atual 118º Congresso, esta sessão parece estar a caminho de terminar sem nenhuma legislação importante relacionada à IA.

O presidente eleito Donald Trump, por sua vez, alertou sobre os enormes riscos representados pela IA, dizendo durante uma aparição no podcast “Impaulsive” de Logan Paul que é “algo realmente poderoso”. Ele também falou da necessidade de manter a competitividade com os adversários.

“Isso traz consigo dificuldades, mas temos que estar na vanguarda”, disse Trump. “Vai acontecer, e se vai acontecer, temos que assumir a liderança sobre a China. A China é a principal ameaça.”

A visão de Schmidt sobre os benefícios e os desafios da tecnologia está alinhada com outras reações do setor. Em junho de 2024, funcionários da OpenAI e do Google assinaram uma carta  alertando sobre os “riscos sérios” representados pela IA e pedindo maior supervisão governamental do setor.

Elon Musk apresentou alertas semelhantes, dizendo que o Google está tentando criar um “Deus digital” por meio de seu programa DeepMind AI.

Em agosto, essas preocupações se intensificaram depois que foi descoberto que uma IA tomou uma ação autônoma para evitar ser desligada, levantando temores de que a humanidade já esteja perdendo o controle sobre sua criação, já que os governos permanecem [intencionalmente] inativos.

---