A maioria das pessoas nunca ouviu falar de Mrinank Sharma. Isso é parte do problema. No início deste mês, Sharma renunciou ao seu cargo na Anthropic, uma das empresas de inteligência artificial mais influentes do mundo. Ele liderava a Equipe de Pesquisa de Salvaguardas, o grupo responsável por garantir que a IA da Anthropic não pudesse ser usada para ajudar a desenvolver uma arma biológica mortal.
Fonte: Escrito por Kay Rubacek via The Epoch Times
Seu projeto final foi um estudo sobre como os sistemas de IA distorcem a maneira como as pessoas percebem a realidade. Foi um trabalho sério e de grande importância para a humanidade. Sua carta de demissão foi vista mais de 14 milhões de vezes no X.
Começa com as palavras: “o mundo está em perigo”.
E terminou com um poema e com o anúncio de que ele estava deixando um dos empregos mais importantes na área de inteligência artificial para cursar poesia. Sim, você leu certo: perigo e poesia.
O poema que ele citou é “The Way It Is”, do poeta americano William Stafford.
Fala de um fio que percorre a vida — um fio que atravessa as coisas que mudam, mas que não muda em si mesmo. Enquanto você o segura, não pode se perder. Tragédias acontecem. As pessoas sofrem e envelhecem. O tempo se desenrola e nada o detém. E a frase final: você nunca solta o fio.
Embora ele não o tenha afirmado explicitamente, defendo que esse fio condutor é a moralidade. É a sensação duradoura de que algumas coisas são certas e outras são erradas — não porque uma lei assim o diga, nem porque seja vantajoso, mas porque os seres humanos, em seu melhor, sempre souberam disso.
Sharma passou dois anos observando esse fio se soltar sob pressão, em salas que o público nunca vê.
Em sua carta, ele dizia:
“Ao longo do tempo que passei aqui, vi repetidamente como é difícil deixar que nossos valores realmente governem nossas ações. Já vi isso acontecer em mim mesmo, dentro da organização, onde enfrentamos constantemente pressões para deixar de lado o que é mais importante, e também em toda a sociedade em geral.”
Ele escreveu que a humanidade está se aproximando de um limiar onde “nossa sabedoria deve crescer na mesma medida que nossa capacidade de impactar o mundo, para que não enfrentemos as consequências”.
Ele queria contribuir de uma forma que fosse totalmente coerente com sua integridade e dedicar-se ao que chamava de “a prática da fala corajosa”. Um homem que construiu defesas contra o bioterrorismo concluiu que a coisa mais importante que ele poderia fazer a seguir era aprender a falar com honestidade e coragem.
Isso é um sinal importante sobre o que está acontecendo nos bastidores da pesquisa e desenvolvimento em IA.
Muitos especialistas compararam o desenvolvimento da IA ao desenvolvimento da bomba atômica. O Projeto Manhattan foi construído em total sigilo. O público não tinha conhecimento dele, não tinha voz em como ele seria usado e não tinha influência sobre o que aconteceria depois. Quando terminou, alguns dos cientistas que o construíram passaram o resto de suas vidas em angústia. Vários abandonaram o projeto durante o seu próprio desenvolvimento.
Sharma não estava sozinho. Numerosos pesquisadores de segurança abandonaram projetos de IA em diversas empresas. Essas debandadas podem ser os únicos sinais que nós, o público, temos, porque quase tudo o mais sobre o desenvolvimento da IA está acontecendo longe dos olhos do público. Os debates internos, as concessões em termos de segurança, as negociações sobre o que essa tecnologia poderá ou não fazer — nada disso está sendo compartilhado com as pessoas cujas vidas serão mais profundamente impactadas por ela. Não fazemos parte dessa conversa. Nos apresentam resultados e nos dizem para nos adaptarmos.
John Adams escreveu que a Constituição foi feita apenas para um povo moral e religioso, e é totalmente inadequada para qualquer outro. George Washington alertou que a liberdade não pode sobreviver à perda de princípios morais compartilhados. Os fundadores do país estudaram o colapso das repúblicas ao longo da história e chegaram à mesma conclusão: a engrenagem da liberdade requer um povo com moral para sustentá-la. Leis e instituições não bastam por si só. Elas dependem de cidadãos e líderes que se comprometam com algo que exista antes da lei e acima dela.
Esse é o fio condutor da sociedade humana, e nenhum sistema de IA o sustenta. Se as pessoas permitirem que a IA substitua a questão do certo e do errado pela mera definição do que é legal e permitido, a máquina levará essa definição adiante em uma escala e velocidade com as quais nenhuma geração anterior teve que lidar.
Ao concluir sua carta de demissão, Sharma disse: “Você nunca deve soltar o fio da meada.”
Estamos numa encruzilhada semelhante àquela que os cientistas atômicos enfrentaram. A renúncia de Sharma foi [MAIS] um sinal.
A onda de partidas antes e depois disso são sinais.
As tensões relatadas entre empresas de IA e o governo sobre onde devem ser traçados os limites morais também são sinais.
Juntos, eles apontam para algo que o público ainda não foi totalmente convidado a considerar: que as questões mais importantes sobre essa tecnologia estão sendo resolvidas sem a nossa participação, e que o fio condutor da moralidade, que sempre exigiu que as pessoas a adotassem por escolha própria, precisa fazer parte dessa discussão.
Nota de Thoth: Como falar de valores morais e de ética em um setor cujos principais personagens no desenvolvimento da Inteligência [a Besta sendo criada] Artificial são ATEUS, ativistas LGBTQ+ casados com outros homens, um deles acusado judicialmente pela própria irmã de tê-la abusado sexualmente desde os três anos de idade . . . Estas mentes doentias, apesar do brilhantismo dos seus grandes intelectos, em sua maioria khazares, não construirá nada que beneficie a humanidade!
