Desenvolvedores de IA dizem que a Tecnologia pode Matar todo mundo – Organizações sem fins lucrativos estão processando-os para congelá-la

Uma coalizão de organizações sem fins lucrativos processa as grandes empresas tecnológicas (Google, Anthropic, SpaceXSI, OpenAI & Meta) para que elas congelem o desenvolvimento avançado de IA-inteligência artificial, citando riscos graves, como ataques cibernéticos à infraestruras vitais e armas biológicas, e argumentando que as empresas não podem controlar de forma confiável os próprios sistemas que estão desenvolvendo

.Fonte: De autoria de Naveen Athrappully via The Epoch Times

Os demandantes estão buscando intervenção judicial antes que o desenvolvimento de IA desencadeie um desastre, disse a Public Citizen, uma das organizações sem fins lucrativos no caso, em declaração de doze de novembro.

“Apesar dos inúmeros e intermináveis avisos sobre os graves riscos que os seus produtos representam para a segurança pública e até para a própria civilização, os executivos das empresas de IA estão apressando-se a desenvolver e implementar sistemas de IA cada vez mais avançados”, disse Robert Weissman, copresidente do grupo, no comunicado.

O grupo entrou com a ação contra Meta Platforms, OpenAI, Google, SpaceX Super Intelligence e Anthropic na quinta-feira.

NOVA AÇÃO JUDICIAL: Estamos tomando medidas legais para paralisar o desenvolvimento de sistemas de IA avançados no Google, Anthropic, SpaceXSI, OpenAI e Meta. As empresas de IA continuam lançando novos sistemas que não conseguem controlar, apesar dos sérios riscos. O Judiciário precisa intervir antes que ocorra um desastre.

As empresas de IA admitem que as suas tecnologias representam “riscos catastróficos para o público”, afirma a queixa apresentada ao Tribunal Superior do Estado da Califórnia para o Condado de São Francisco. As empresas também atribuem “probabilidades terríveis e intoleravelmente altas” à chance de que suas criações de IA possam acabar sendo extremamente devastadoras, incluindo a possibilidade de todas as pessoas na Terra morrerem, diz o processo.

Apesar desses riscos, a denúncia acusou os réus de não terem um plano realista para prevenir danos induzidos pela IA e disse que as empresas não entendem completamente seus modelos de IA.

“Se não forem controlados, os riscos de tais danos só aumentarão à medida que os réus continuarem a aumentar as capacidades dos sistemas de IA que não compreendem e não podem controlar”, afirma o processo. “Os réus devem ser detidos.”

A denúncia acusou as empresas de IA de violar a Seção 17200 do Código de Negócios e Profissões da Califórnia, que proíbe a concorrência desleal. Argumentou que os réus violaram a política pública da Califórnia de promover o desenvolvimento seguro da IA de fronteira, garantir que as empresas não criem incômodos públicos e proteger a integridade dos sistemas de computador contra acesso não autorizado.

O processo afirma que os réus são responsáveis pela conduta dos sistemas de IA que desenvolvem, citando uma lei da Califórnia que diz que um réu que desenvolve IA não pode alegar em defesa que a IA causou qualquer dano de forma autônoma a um autor.

Perigos e benefícios da IA

A reclamação citou vários incidentes de modelos de IA se tornando desonestos. Em julho, centenas de agentes de IA da OpenAI saíram de um ambiente de testes e invadiram a infraestrutura da Hugging Face, uma comunidade de código aberto para IA e aprendizado de máquina.

A OpenAI chamou o incidente de “tiro de alerta” para o mundo em postagens de 26 de agosto. O grave incidente mostra que, sem controles adequados, os agentes de IA agora podem contornar os controles técnicos e tomar “ações perigosas que nenhum ser humano dirigiu”, disse a empresa.

A escala de danos resultantes de um incidente catastrófico relacionado à IA é tão grande que até mesmo todo o setor de seguros combinado pode não conseguir cobrir o risco, disse a Anthropic em 10 de novembro, protocolado na Securities and Exchange Commission, citado no processo.

Elon Musk, dono da SpaceX Super Intelligence, disse em uma entrevista de 2023 que a IA poderia destruir a civilização humana, observou a denúncia.

“Nenhuma outra indústria está autorizada a tratar o seu próprio desenvolvimento de produtos inseguros – muito menos aqueles que poderiam matar-nos a todos – como inevitável. Nem é concedido a nenhuma indústria o direito de autorregular o desenvolvimento de tais produtos perigosos”, afirma a denúncia.

O processo pedia uma liminar imediata proibindo os réus de desenvolver ou implantar sistemas de IA que sejam mais capazes do que seu modelo atual mais capaz. Os outros três demandantes no caso são Heat Initiative, The Alliance for Secure AI e Irreplaceable Education Fund.

O Epoch Times entrou em contato com Meta Platforms, OpenAI, Google, SpaceX e Anthropic para comentar, mas não recebeu resposta até o momento da publicação. O CEO da Meta, Mark Zuckerberg, disse em postagens de 10 de agosto que as empresas que dizem que a IA beneficiará a humanidade.

“A noção de que a IA é tão perigosa que o único caminho seguro é uma concentração extrema de poder parece inerentemente problemática”, disse Zuckerberg.

A OpenAI espera um dia se tornar a Zorg Industries, do filme “O Quinto Elemento” e controlar todos, inclusive os Estados nação [como um judeu khazar ateu, ativista LGBTQ+ casado com outro homem e acusado de assédio sexual pela própria irmã, Altman da OpenAI provavelmente é um instrumento para a criação da BESTA]. 

“A humanidade testemunhou muitos avanços transformadores. Cada vez há medo de que as pessoas sejam deixadas para trás. Mas cada vez a humanidade sai com mais pessoas compartilhando maior prosperidade, saúde e liberdade. Acreditamos que isso também será verdade com a IA, e a abundância do futuro pode ser compartilhada por todos”, disse Zuckerberg.

RELACIONADO: Irmã mais nova de Sam Altman abriu Processo alegando ‘Abuso Sexual’ desde que ela tinha três anos

Para manter os humanos no controle da IA, esses sistemas devem ser direcionados por indivíduos para promover os objetivos das pessoas, disse o CEO da Meta. O presidente Donald Trump e os líderes da indústria de tecnologia assinaram um acordo voluntário sobre padrões e controles de IA no final de setembro.

O CEO da Anthropic, Dario Amodei, o CEO da Meta, Mark Zuckerberg, Elon Musk, e o presidente da OpenAI, Greg Brockman, participaram do evento. CEOs da Microsoft, Google, Palantir e Nvidia também estiveram presentes.

“Acho que a tecnologia tem riscos muito reais. E, você sabe, o mecanismo, como lidamos com esses riscos, ainda está em discussão”, disse Amodei aos repórteres.

A política exigia que as empresas desenvolvessem tecnologia de IA com segurança, estabelecessem controles internos e usassem avaliadores e auditores externos para suas tecnologias. As empresas de tecnologia concordaram em se reunir regularmente para estabelecer padrões de segurança.


Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Receba nosso conteúdo

Junte-se a 4.229 outros assinantes

compartilhe

Últimas Publicações

Indicações Thoth