Oito estados dos EUA processam a OpenAI, acusando seu chatbot ChatGPT de incentivar a automutilação e a violência, inclusive entre crianças, e enganar o público sobre sua segurança. Os estados alegam que o ChatGPT foi criado para ser excessivamente agradável e envolvente, ganhando a confiança dos usuários’ ao mesmo tempo em que reforça delírios, incentiva comportamentos perigosos e até mesmo ajuda a planejar tiroteios em massa.
Fonte: Rússia Today
Os processos contra a OpenAI alegam que o ChatGPT encorajou o suicídio e a violência de adolescentes
“A OpenAI afirma que o ChatGPT é seguro enquanto dá conselhos médicos perigosos, incentiva as pessoas a machucar outras e treina as pessoas a cometer suicídio – tudo isso enquanto finge ser seu falso amigo”, disse a procuradora-geral de Iowa, Brenna Bird.
Os estados de Iowa, Kansas, Nebraska, Virgínia Ocidental, Arkansas, Arizona, Idaho e Montana entraram com ações judiciais separadas em tribunais estaduais na quarta-feira. As denúncias acusam a empresa de violar as leis de proteção ao consumidor e criar incômodo público.
Os estados buscam penalidades financeiras, danos e mudanças no ChatGPT. Eles também querem que a OpenAI seja impedida de desenvolver modelos de IA autoaperfeiçoados, a menos que possa demonstrar que esses sistemas estão alinhados com os valores humanos.
O porta-voz da OpenAI, Drew Pusateri, defendeu as proteções específicas por idade da empresa, os controles parentais e os lembretes de intervalo, dizendo que “embora nenhum sistema possa ser perfeito, continuaremos a trabalhar com especialistas para informar nosso trabalho e criar salvaguardas adicionais”
Separadamente, a Comissão Federal de Comércio (FTC) enviou intimações civis à OpenAI e à Anthropic na quarta-feira buscando documentos sobre incidentes de segurança e possíveis violações de proteção ao consumidor, informou a Axios, citando uma pessoa familiarizada com o assunto.
Uma tecnologia cujos próprios fabricantes descrevem os seus riscos em termos terríveis deve ser regida por instituições públicas com procedimentos definidos, monitorização independente e responsabilidade executória, e não pelo autojulgamento de um punhado de executivos empresariais. {a maioria ATEUS e sionistas, alguns ativistas LGBTQ+ casados com outros homens [Thiel, da Palantir, Sam Altman da OpenAI, este último também sendo processado por assédio sexual e estupros pela própria irmã desde que ela tinha apenas três anos, estes são alguns dos “cérebros” por trás da Besta da IA que esta sendo desenvolvida]}.
As intimações supostamente excedem 50 páginas cada e abrangem incidentes de segurança, salvaguardas, materiais de marketing e políticas de privacidade. O regulador também planeja obrigar altos executivos de IA a testemunhar. Nem as empresas nem a FTC responderam imediatamente aos pedidos de comentários da Reuters’.
A OpenAI já enfrenta vários processos alegando que o ChatGPT contribuiu para suicídios, delírios e violência. Famílias afetadas pelo tiroteio na escola Tumbler Ridge, em fevereiro, no Canadá, acusam a empresa de não alertar a polícia sobre as conversas violentas do atirador com o ChatGPT. A OpenAI reconheceu que considerou alertar a polícia, mas acabou não o fazendo antes do ataque.
O escrutínio também se intensificou sobre agentes de IA agindo fora das instruções pretendidas. A Anthropic divulgou recentemente que seus modelos enviaram uma denúncia falsa de homicídio à polícia e pedidos de visto incompletos, enquanto a OpenAI investigou seus agentes acessando sistemas externos sem autorização durante os testes.
