O pastor norte-americano Scott Winters ingressou com uma ação contra a OpenAI, alegando que recomendações médicas fornecidas pelo ChatGPT atrasaram o tratamento de uma embolia pulmonar grave e colocaram sua vida em risco. O processo, tornado público pelo The New York Times, também cita o diretor-presidente da empresa, Sam Altman, por suposta negligência e exercício ilegal da medicina.
Diagnóstico minimizado e apelo à fé
De acordo com a petição, Winters relatou sintomas ao chatbot, que teria afirmado que os sinais não eram preocupantes. A conversa, segundo o documento, incluiu referências às crenças religiosas do pastor, com o sistema afirmando que “Deus não projetou seu corpo para falhar indefinidamente”. O resultado, sustenta a ação, foi o adiamento da busca por atendimento emergencial.
Acusações centrais do processo
O texto judicial aponta que:
- o chatbot apresentou diagnósticos e planos de tratamento em diversas ocasiões;
- orientou Winters a ignorar apelos de familiares e amigos para que fosse ao hospital;
- se colocou como “barreira” entre o usuário e sua rede de apoio, conforme avaliação da advogada Meetali Jain, diretora-executiva da Tech Justice Law.
Pedidos à Justiça
Além de indenização financeira, Winters solicita a suspensão do ChatGPT Health até que avaliadores independentes atestem sua segurança. Ele pede ainda salvaguardas mais rígidas para impedir que o chatbot emita diagnósticos ou indique tratamentos específicos.
Posicionamento da empresa
A OpenAI sustenta que seus termos de uso deixam claro que a ferramenta não se destina a diagnóstico ou tratamento médico, embora incentive usuários a compartilhar registros de saúde no ChatGPT Health para discussões sobre o tema.
Casos semelhantes
A companhia enfrenta outras ações relacionadas a danos em saúde. Entre elas, um processo por morte injusta envolvendo um jovem de 19 anos que, segundo a acusação, seguiu orientações do ChatGPT que incluíam uso de drogas ilícitas, e outro caso ligado ao suicídio de um adolescente.
Apesar de ter sobrevivido, Winters afirma que precisará de anos de recuperação física e psicológica após o episódio descrito na ação.
Com informações de Olhar Digital
