ChatGPT for Teens é classificado com 'risco inaceitável' em teste de segurança
Avaliação do Youth AI Safety Institute aponta falhas em notificações parentais e filtros de conteúdo para menores de 18 anos.
O ChatGPT for Teens, versão do chatbot da OpenAI voltada para usuários entre 13 e 17 anos, recebeu a classificação de “risco inaceitável” em uma avaliação realizada pelo Youth AI Safety Institute, da organização Common Sense Media. O levantamento, que analisou mais de 4.000 prompts, indica que a ferramenta não apresenta maior segurança para menores de idade em comparação à versão padrão do sistema.
Os pesquisadores identificaram falhas críticas, como a ausência de notificações aos pais em situações de crise, incluindo casos de ideação suicida, autolesão e transtornos alimentares, mesmo após simulações de diálogos prolongados. Além disso, o sistema falhou ao não reclassificar contas de usuários que, embora cadastrados como adultos, foram identificados como menores de 18 anos durante os testes, mantendo filtros de conteúdo sensível desativados.
“Encontramos poucas evidências de que a nova versão seja mais segura que a anterior para quem tem menos de 18 anos”, afirmou Robbie Torney, chefe de avaliações de IA da Common Sense Media.
Em resposta, a OpenAI contestou os resultados, argumentando que a metodologia dos testes pode ter ocorrido antes da ativação completa dos controles parentais em contas recém-criadas. A empresa afirmou que seus sistemas podem levar horas para processar as configurações de segurança, embora a Common Sense Media sustente que a ativação dos recursos foi confirmada com a companhia antes do início das avaliações.
Aviso: Este conteúdo foi gerado com auxílio de inteligência artificial de forma automatizada e eventualmente poderá apresentar algum tipo de inconsistência ou erro.
Trata-se de uma programação experimental de Inteligência Artificial que gera conteúdo através de fontes livres e fidedignas, mas eventualmente falhas poderão ocorrer. Caso o conteúdo encontrado contenha material autoral não autorizado ou de uso comercial na republicação, nos sinalize para a remoção.
Link permanente desta matéria: https://www.ouni.com.br/2026/10/chatgpt-for-teens-e-classificado-com.html
Encontrou um erro ou material não autorizado? Informe-nos aqui.
