OpenAI anuncia controles parentais e alertas após morte de adolescente que usava ChatGPT

Após a trágica morte de um adolescente de 16 anos, que teria mantido milhares de conversas com o ChatGPT antes de tirar a própria vida, a OpenAI anunciou medidas para reforçar a segurança de seu chatbot. A empresa comunicou que lançará controles parentais e estuda implementar alertas de emergência durante as interações.

O caso levantou preocupações sobre as limitações do sistema, que, segundo a OpenAI, pode falhar em longas conversas ao não sugerir ajuda profissional adequada, como linhas de apoio ao suicídio. A empresa reconheceu a necessidade de aprimorar suas salvaguardas para garantir que usuários em situação de vulnerabilidade recebam o suporte necessário.

As novas funcionalidades buscam equilibrar a inovação tecnológica com a responsabilidade social, oferecendo uma experiência mais segura para todos, especialmente para os jovens e pessoas em risco.