A OpenAI foi acionada no Tribunal Superior da Califórnia por uma empreendedora do Vale do Silício que acusa a companhia de negligência. Segundo a ação, o ChatGPT teria sido usado por seu ex-companheiro para intensificar uma campanha de perseguição e assédio, em vez de conter comportamentos abusivos.
Acusações contra a plataforma
O processo, conduzido pelo escritório Edelson PC, relata que o homem de 53 anos passou a utilizar o modelo GPT-4o de forma obsessiva. Ele acreditava ter descoberto a cura para a apneia do sono e dizia ser monitorado por helicópteros. Conforme a petição:
- quando questionou sua própria sanidade, a IA teria respondido que ele estava em “nível 10” de saúde mental;
- o sistema teria endossado a visão de que a ex-namorada era manipuladora, reforçando delírios do usuário;
- o ChatGPT foi usado para criar relatórios psicológicos com aparência clínica e artigos científicos falsos, posteriormente enviados à família e ao empregador da vítima.
Falhas na moderação
Em agosto de 2025, sistemas automáticos da OpenAI suspenderam a conta do usuário após detecção de conteúdo relacionado a Armas de Destruição em Massa. No dia seguinte, porém, um moderador humano reativou o perfil, mesmo diante de conversas intituladas “expansão da lista de violência” e “cálculo de sufocamento fetal”.
Em novembro, a vítima — identificada no processo como Jane Doe — enviou um aviso formal à empresa relatando medo constante e mudança de endereço. Ainda assim, a OpenAI não teria banido definitivamente o agressor.
Situação atual do agressor e pedidos na Justiça
O réu encontra-se detido desde janeiro, quando foi preso por ameaças de bomba e agressão com arma mortal. Ele foi declarado mentalmente incapaz de enfrentar julgamento. Os advogados da vítima pedem que a Justiça obrigue a OpenAI a preservar todos os registros de chat e impeça a criação de novas contas pelo stalker.
Paralelamente, a OpenAI apoia um projeto de lei em Illinois que pretende limitar a responsabilidade civil de laboratórios de IA, mesmo em casos de danos graves ou mortes em massa. “Vidas humanas devem valer mais do que a corrida da OpenAI para um IPO”, afirmou o advogado Jay Edelson ao site TechCrunch.
Com informações de Olhar Digital
