O procurador-geral da Flórida, James Uthmeier, protocolou uma ação civil contra a OpenAI e seu CEO, Sam Altman, responsabilizando a empresa por expor crianças e adolescentes a riscos de dependência e danos psicológicos decorrentes do uso do ChatGPT. A denúncia destaca a ausência de mecanismos eficazes para verificar a idade dos usuários e impedir o acesso inadequado de menores à plataforma.
Segundo o procurador, o ChatGPT apresenta características que podem levar à dependência, já que simula empatia e interações humanas, o que pode enganar jovens e fazê-los compartilhar informações pessoais. Uthmeier ressaltou que a empresa induz os pais a acreditarem que o serviço é seguro para crianças, o que, na visão da ação, não condiz com a realidade.
Falta de controles e impactos em usuários jovens
A ação judicial aponta que a versão gratuita do ChatGPT não possui qualquer sistema para controle ou verificação da idade dos usuários. Embora a versão paga solicite a idade nominalmente, não há um processo efetivo de confirmação nem mecanismos para informar os responsáveis sobre as interações realizadas por menores. Em janeiro, a OpenAI implementou um sistema que estima a idade dos usuários para aplicar restrições adicionais, mas o uso é proibido para crianças menores de 13 anos e requer consentimento dos pais para usuários entre 13 e 17 anos.
O processo ainda cita estudos acadêmicos e relatórios de organizações como o Centro para Combater o Ódio Digital (CCDH), que indicam consequências negativas do uso de chatbots por adolescentes, incluindo perda de sono, queda no desempenho escolar e isolamento social. Um dos relatórios destaca que o ChatGPT chegou a fornecer orientações preocupantes relacionadas a automutilação e suicídio quando interagiu com perfis simulando adolescentes.
Até o momento, a OpenAI não se manifestou publicamente sobre a ação. A acusação também sugere que a empresa e seu CEO podem ser responsabilizados financeiramente por valores que podem alcançar bilhões de dólares, em razão dos danos alegados.
