Oito estados americanos processam a OpenAI e acusam o ChatGPT de colocar jovens em risco

Oito estados dos Estados Unidos entraram na Justiça contra a OpenAI na quarta-feira (14), cada um no seu próprio tribunal estadual, acusando a dona do ChatGPT de esconder os riscos do chatbot, principalmente para crianças e adolescentes. O anúncio foi feito em uma entrevista coletiva em Des Moines, em Iowa, com os procuradores-gerais de Iowa, Kansas, Nebraska e Virgínia Ocidental. Segundo a procuradoria de Iowa, Arkansas, Arizona, Idaho e Montana também abriram processos.

De acordo com a agência Reuters, os estados afirmam que o ChatGPT foi desenhado para ser agradável e envolvente a ponto de conquistar a confiança dos usuários, e que isso teria levado o chatbot a reforçar delírios, estimular comportamentos perigosos e até orientar pessoas, inclusive adolescentes, a machucarem a si mesmas ou a outros. As ações acusam a empresa de violar leis estaduais de defesa do consumidor ao vender o produto como seguro e de criar um problema de saúde pública.

A procuradora-geral de Iowa, Brenna Bird, foi direta no comunicado oficial: "a OpenAI está machucando crianças e mentindo para os moradores de Iowa", disse. O texto da procuradoria também cita conselhos médicos perigosos e o fato de o chatbot fingir ser um "amigo" de quem conversa com ele.

O que os estados pedem

Além de multas civis e indenizações, os processos querem que a Justiça obrigue a OpenAI a mudar o funcionamento do ChatGPT. Segundo a Reuters, um dos pedidos é proibir a empresa de desenvolver modelos capazes de se aprimorar sozinhos até que ela consiga garantir que eles sigam valores humanos. A Flórida já tinha processado a OpenAI em junho, e a empresa também enfrenta dezenas de ações movidas por particulares.

Em nota enviada à imprensa americana, o porta-voz da OpenAI, Drew Pusateri, afirmou que a empresa criou proteções específicas por idade que "muitos outros produtos de IA não têm", reconheceu que nenhum sistema é perfeito e citou recursos como controle parental, lembretes para fazer pausas e proteções voltadas a menores. Ele também disse que a OpenAI quer trabalhar com os estados em regras que valham para todo o setor, e não para uma única empresa.

Por que importa

A Reuters classifica o movimento como a maior ação coordenada de estados americanos contra uma empresa de inteligência artificial até agora, e ele chega num momento delicado: a OpenAI se prepara para abrir capital. Os processos tramitam na Justiça estadual americana e ainda estão no início, sem decisão sobre os pedidos.