Aviso: A matéria a seguir discute suicídio. Se você ou alguém que você conhece precisar de ajuda, entre em contato com o Centro de Valorização da Vida (CVV) pelo telefone 188 (serviço 24h por dia, também disponível via chat ou e-mail).
A OpenAI divulgou um relatório preocupante revelando que mais de 1 milhão de usuários do ChatGPT mantêm conversas com indicadores de suicídio semanalmente. Em um dado que acende um alerta, o chatbot falhou em 9% dos casos ao desviar de seu treinamento e não encaminhar os usuários aos devidos serviços de apoio.
A publicação da OpenAI ocorre em meio a um processo judicial que envolve o suicídio de um adolescente que teria conversado por meses com o ChatGPT sobre métodos de tirar a própria vida.
O Volume de Conversas Sensíveis
Com base em uma estimativa de 800 milhões de usuários semanais, a OpenAI identificou que:
- Cerca de 0,15% dos usuários semanais, o equivalente a 1,2 milhão de pessoas, têm conversas com “indicadores explícitos de potencial planejamento ou intenção suicida”.
- Outros 0,07% dos usuários (aproximadamente 560 mil pessoas) apresentam “possíveis sinais de emergências de saúde mental relacionadas a psicose ou mania”.
Apesar da alta taxa de sucesso — o modelo analisado, o GPT-5, agiu em conformidade com o treinamento em 91% dos casos —, a empresa admite que os 9% de falhas são “extremamente raros, mas mesmo uma única ocorrência é demais”.
GPT-5 Mostra Melhoria, mas Falhas Persistem
O relatório comparou o desempenho do GPT-5 com seu antecessor, o GPT-4. O modelo mais recente apresentou uma redução de 65% na taxa de respostas indesejadas. Em conversas sobre automutilação e suicídio especificamente, a redução foi de 52% em comparação com o GPT-4.
No geral, o GPT-5 agiu corretamente em 91% dos casos, superando os 77% do modelo anterior. Contudo, a OpenAI ressalta que conversas sobre temas tão sensíveis continuam sendo difíceis de identificar e gerenciar.
O Caso Adam Raine e Medidas de Segurança
As melhorias e a maior transparência da OpenAI foram intensificadas após o caso de Adam Raine, um adolescente de 16 anos que cometeu suicídio em abril, nos EUA. A família de Raine abriu um processo contra a OpenAI e seu CEO, Sam Altman, acusando-os de negligência, pois o chatbot teria dado dicas sobre o plano e desincentivado o jovem a procurar ajuda.
Recentemente, a família atualizou o processo, alegando que a OpenAI enfraqueceu suas diretrizes de segurança nos meses anteriores ao suicídio de Raine para incentivar uma conexão emocional dos usuários com o ChatGPT.
Em resposta a essas questões, a OpenAI:
- Lançou um controle parental no ChatGPT.
- Expandiu os serviços de apoio em casos de crise.
- Recrutou 170 médicos de sua Rede Global de Médicos para auxiliar nas pesquisas sobre como a IA deve lidar com conversas de saúde mental.
