Mais cedo hoje, a Flórida se tornou o primeiro estado a entrar com uma ação judicial contra a OpenAI e seu presidente-executivo, Sam Altman, lançando uma nova onda de protestos em uma rebelião crescente contra as supostas falhas de segurança dos chatbots de inteligência artificial. A ação, movida na segunda-feira pelo procurador-geral da Flórida, James Uthmeier, alega que a OpenAI e Altman lançaram conscientemente um produto inseguro e ignoraram os avisos de que ele poderia prejudicar os usuários o WSJ relatou.
Fonte: Zero Hedge
O processo de 83 páginas alega que a OpenAI permitiu que o ChatGPT ajudasse e encorajasse atiradores de assassinatos em massa, encorajasse as pessoas a tirarem suas próprias vidas, degradasse as habilidades de pensamento crítico dos usuários’ e viciasse menores em uma ferramenta que finge compaixão humana.
“Esta ladainha de danos é impulsionada pela busca insaciável dos Réus ’ para vencer a corrida armamentista da IA e acumular grandes fortunas, apesar de conhecer o perigo do ChatGPT,” alega o processo.
De acordo com o WSJ, legisladores, autoridades legais e grupos de interesse público têm levantado cada vez mais preocupações sobre os riscos pessoais e sociais representados pela IA, uma das tecnologias de consumo que mais cresce na história.
O processo diz que busca proteger os moradores da Flórida da conduta da OpenAI e mitigar o que ela descreve como um incômodo público perigoso. O processo também busca responsabilizar Sam Altman pessoalmente pelos danos que ele diz ter causado aos moradores da Flórida.
Uthmeier abriu uma investigação criminal sobre a OpenAI em abril sobre o papel que seu chatbot desempenhou em um tiroteio em massa que matou duas pessoas na Universidade Estadual da Flórida no ano passado. O processo começa com uma captura de tela de uma postagem do blog OpenAI que diz que o ChatGPT foi criado pensando na segurança.
“Não é bem assim,” lê o texto do título abaixo da captura de tela.
O processo alega que a OpenAI comercializou o ChatGPT como confiável, apesar de sua tendência de gerar frequentemente desinformação perigosa, o que é de se esperar de um LLM generativo treinado em “fossas tóxicas e liberais” como Reddit e Wikipedia.
Irmã mais nova de Sam Altman abriu Processo alegando ‘Abuso Sexual’ desde que ela tinha três anos
“O ChatGPT foi criado pelos réus para manter os usuários conectados às conversas por qualquer meio, independentemente da verdade, porque isso leva a um maior uso do chatbot, mais dados de treinamento para sua melhoria e mais valor de mercado para a OpenAI”, alega o processo.
O processo também alega que a empresa explora a compaixão humana para coletar dados de usuários e não oferece as salvaguardas necessárias para menores. O processo descreve a falta de salvaguardas no ChatGPT para adolescentes e menores como imprudente, e refere-se a casos de usuários adolescentes sendo incentivados pela IA da OpenAI a tirar a própria vida.
O processo diz que a OpenAI criou alguns controles parentais, mas não exige que as contas das crianças sejam vinculadas à conta dos pais.
Na FSU, o suspeito recorreu ao ChatGPT como confidente e caixa de ressonância para planejar o ataque. Ele perguntou ao ChatGPT quantos colegas ele precisava matar para atrair a atenção da mídia nacional, e também como usar uma arma. O chatbot prontamente deu conselhos sobre suas perguntas.
Até agora, o ChatGPT da OpenAI enfrentou principalmente litígios sobre reivindicações de violação de direitos autorais. Em novembro, a OpenAI foi ordenada por um juiz federal a entregar 20 milhões de registros anônimos de usuários do ChatGPT ao NY Times e outros jornais que processavam a gigante do bate-papo por causa de seu modelo generativo de IA.
Os jornais exigiram que os registros dos usuários inspecionassem como o ChatGPT é usado para criar resultados que, segundo eles, infringem seus trabalhos protegidos por direitos autorais. A OpenAI reagiu, alegando preocupações com privacidade.
