Uma empresa não poderia divulgar um risco de catástrofe para a humanidade causado pelo seu “produto” ao mesmo tempo que vende as suas ações ao mesmo público que pode ser imensamente prejudicado, antes que qualquer autoridade pública tenha o poder de avaliar esse risco ou de interromper a implantação do produto que ameaça seus próprios acionistas. Isto é no mínimo muito bizarro.
Fonte: Scheerpost – por Jeffrey Sachs
A Anthropic, fabricante dos modelos de IA Claude, está preparando o que pode ser a maior oferta pública inicial da história, arrecadando mais de US$ 100 bilhões através de um IPO (“initial public offering”– oferta pública inicial de ações), de acordo com o The New York Times, com uma avaliação próxima a US$ 2 trilhões.
De acordo com a Reuters, que analisou o rascunho do prospecto (o documento ainda não foi tornado público), a empresa informa aos potenciais investidores que a IA avançada pode representar “riscos catastróficos ou existenciais para a humanidade” e que os seus próprios modelos podem “resistir à paralisação”, “ocultar ou manipular informações” ou se comportar de maneiras “semelhantes a chantagem”…
O presidente-executivo da empresa, Dario Amodei, estimou a chance de que “as coisas vão muito, muito mal” no desenvolvimento da IA em impressionantes 25%. No mês passado, ele escreveu que “precisamos diminuir o ritmo de melhoria das capacidades dos modelos de IA.”[antes de perder o controle sobre o que esta sendo desenvolvido]
Levo esses avisos a sério, e o Congresso também deveria fazê-lo em nome do povo americano. A oferta deve ser adiada até que o Congresso promulgue um sistema público de licenciamento, avaliação de segurança independente, responsabilidade e recursos financeiros para IA de fronteira. O mesmo se aplica à OpenAI e a todos os outros desenvolvedores de modelos de IA de fronteira.
Sou a favor da inteligência artificial, cujo potencial para a ciência, a saúde e o desenvolvimento sustentável é enorme. O que devemos nos opor é à IA não regulamentada e militarizada. Uma empresa não deve divulgar um risco de catástrofe à humanidade e depois vender as suas ações ao público antes que qualquer autoridade pública tenha o poder de avaliar esse risco ou de interromper a implantação. Na verdade, proceder rapidamente diante de avisos tão terríveis é mais do que loucura [é insanidade e ganância].
Responsabilidade e Autorregulamentação
O problema vai até os fundamentos do direito societário. A responsabilidade limitada, a regra de que um acionista não pode perder mais do que o valor investido, é um privilégio concedido pelo Estado.
Justifica-se com base na premissa de que os danos que uma empresa pode impor a terceiros são assegurados, regulamentados ou compensados de outra forma. Quando uma fábrica de produtos químicos explode, a lei tem ferramentas para compensar as vítimas: seguro de responsabilidade civil, fianças, requisitos de capital e fundos de compensação.
Cada uma dessas ferramentas pressupõe que o dano pode ser pago depois do fato. Um dano catastrófico ou existencial não pode ser recompensado. O único instrumento que funciona é a regulamentação antes do fato ser provocado: licenciamento, testes independentes antes da implantação e a autoridade legal para interromper uma atividade antes que ela se torne muito perigosa. Para os desenvolvedores da IA de fronteira nos Estados Unidos, nada disso existe.
O que existe é autorregulamentação, que hoje equivale a nenhuma regulamentação. Em setembro. 29, seis empresas de IA e chips assinaram um “Compromisso Conjunto sobre Responsabilidades de IA de Fronteira” voluntário e não vinculativo na Casa Branca.
Isso seria risível se não fosse tão potencialmente desastroso. Uma tecnologia cujos próprios fabricantes descrevem os seus riscos em termos terríveis deve ser regida por instituições públicas com procedimentos definidos, monitorização independente e responsabilidade executória, e não pelo autojulgamento de um punhado de executivos empresariais. {a maioria ATEUS e sionistas, alguns ativistas LGBTQ+ casados com outros homens [Thiel, da Palantir, Sam Altman da OpenAI, este último também sendo processado por assédio sexual e estupros pela própria irmã desde que ela tinha apenas três anos, estes são alguns dos “cérebros” por trás da Besta da IA que esta sendo desenvolvida]}.
Uma oferta pública apressada tornaria o problema muito mais difícil de resolver. A Anthropic teria comprometido pelo menos US$ 518 bilhões em infraestrutura de computação na próxima década, com cerca de 80% deles descritos como não canceláveis. Com orientação trimestral aos acionistas públicos, esses compromissos criam um poderoso incentivo contra qualquer pausa, mesmo que seja recomendada pelos próprios pesquisadores de segurança da empresa.
O próprio prospecto descreve uma “cadência contínua e sobreposta” de lançamentos de produtos como “inerente à permanência na IA de fronteira” Quando essas ações estiverem nos fundos de pensão e índices de dezenas de milhões de famílias americanas, qualquer proposta para desacelerar o desenvolvimento da fronteira será combatida não apenas pelas empresas, mas por um vasto grupo de investidores.
As extensas divulgações de riscos não resolvem este problema. Eles podem ou não proteger a empresa de ações judiciais movidas por seus próprios acionistas, que terão sido avisados. Eles não fazem nada pelo público, que assume o risco catastrófico sem nunca ter sido questionado.
Instituições Reguladoras
A resposta usual é que se os desenvolvedores americanos mais preocupados com a segurança desacelerarem o desenvolvimento da IA , as empresas “menos cuidadosas”, ou a China, seguirão em frente. Este é um problema padrão de ação coletiva, e tais problemas são resolvidos através de acordos apoiados pela lei, monitorização e aplicação, e não por todos que correm mais rapidamente para a auto destruição. Não estamos vivendo no estado de natureza de Hobbes. Temos as Nações Unidas, o direito dos tratados, a Comissão de Valores Mobiliários e o Congresso.
Durante a Guerra Fria, os adversários negociaram o Tratado de Não Proliferação Nuclear com inspeção internacional. A Frontier AI ainda oferece um ponto natural de verificação: os chips mais avançados vêm de apenas um punhado de fábricas, e o treinamento de fronteira requer enormes data centers com gigantesco consumo de eletricidade.
Washington não ofereceu a Pequim um acordo verificável sobre Frontier AI. De fato, após sua cúpula com o presidente Xi Jinping em setembro, o presidente Donald Trump rejeitou a cooperação com a China em IA, concordando apenas com um canal para comunicação sobre incidentes de IA. “Quando estamos liderando,” ele disse, “você não abre espaço um para o outro.”
Quem pode agir para desacelerar o rolo compressor e evitar uma potencial catástrofe? Pela lei atual, a SEC pode atrasar uma oferta, mas não pode bloqueá-la alegando que o negócio é perigoso. No entanto, ela deve se recusar a acelerar a eficácia da declaração de registro até que a empresa divulgue os riscos de seus produtos, quem arcaria com o custo das catástrofes descritas, qual seguro existe e se seus contratos de computação permitiriam uma pausa de segurança sem penalidade.
A autoridade decisiva cabe ao Congresso e há amplos precedentes. O Congresso exigiu aprovação regulatória para títulos emitidos por ferrovias, por holdings de serviços públicos e por concessionárias de energia elétrica, para os quais a aprovação federal ou estadual ainda é necessária hoje. Quando a energia nuclear foi aberta à indústria privada em 1954, ela era permitida apenas sob licença federal.
O Congresso cessante deve realizar audiências antes que quaisquer ações sejam precificadas e deve promulgar uma moratória sobre as ofertas públicas dos desenvolvedores de Frontier AI até que o próximo Congresso aja. O novo Congresso, que está programado para se reunir em três de janeiro, deve, nos primeiros 100 dias, promulgar um estatuto que condicione qualquer oferta pública de um desenvolvedor de IA de fronteira a uma licença federal.
A licença deve exigir uma avaliação independente antes da implantação, uma autoridade executória para pausar o treinamento ou a implantação que nenhum contrato take-or-pay possa anular e fundos de seguro e compensação dimensionados para danos plausíveis.
O Congresso também deve considerar a medida extraordinária de tornar a administração e os membros do conselho pessoalmente responsáveis, nos termos do direito civil e penal, no caso de uma falha catastrófica. Tal medida seria inadequada numa indústria comum. Isso é justificado aqui porque a própria indústria alerta sobre riscos catastróficos de seu produto enquanto avança em uma velocidade vertiginosa.
Executivos e diretores que certificam um modelo como seguro sem o devido cuidado, ou que anulam as conclusões de segurança, devem enfrentar responsabilidades que nem a empresa nem suas seguradoras podem cobrir por eles. O requisito de licenciamento deverá aplicar-se igualmente ao trabalho de Frontier AI de empresas que já são públicas, como a Alphabet, Palantir, a Microsoft e a Meta.
Esta proposta não se dirige a nenhuma empresa e não deve tornar-se uma alavanca para qualquer administração extrair favores, incluindo o acesso militar irrestrito aos modelos de IA. O atraso que proponho duraria alguns meses, a menos que as divulgações apontem para a necessidade de uma suspensão por tempo indeterminado. O licenciamento não destruiu as indústrias farmacêutica, aeronáutica ou nuclear; tornou-as indústrias mais seguras.
Os líderes da indústria de IA disseram-nos, nas suas próprias palavras, que os riscos são tão elevados quanto possível. Eles próprios deveriam parar com a sua corrida louca e o Congresso deveria acreditar na palavra das empresas e agir com urgência.
Jeffrey D. Sachs é um economista norte-americano liberal, conhecido pelo seu trabalho como conselheiro econômico de diversos governos, da Bolívia e alguns dos países que faziam a transição de uma economia planificada no fim da Guerra Fria para o regime capitalista como a Polônia, Estônia e a Eslovênia e na Rússia após o fim União Soviética. Diretor do Centro de Desenvolvimento Sustentável da Universidade de Columbia, onde dirigiu o Earth Institute de 2002 a 2016. Ele também é presidente da Rede de Soluções para o Desenvolvimento Sustentável e comissário da Comissão para o Desenvolvimento de Banda Larga, todos da ONU. Ele foi conselheiro de três secretários-gerais das Nações Unidas e atualmente atua como defensor dos ODS sob o comando do secretário-geral da ONU Antonio Guterres. Sachs é o autor, mais recentemente, de A New Foreign Policy: Beyond American Exceptionalism (2020). Outros livros incluem: Building the New American Economy: Smart, Fair, and Sustainable (2017) e The Age of Sustainable Development (2015) com Ban Ki-moon.
