A ferramenta oferece aos pais a possibilidade de bloquear conteúdos sensíveis e configurar horários
A OpenAI, criadora do ChatGPT, lançou no dia 30 de setembro de 2025 um novo sistema de controles parentais, que visa proteger os adolescentes de conteúdos prejudiciais enquanto usam o chatbot. A ferramenta oferece aos pais a possibilidade de limitar certos tipos de interações com o modelo de IA, como tópicos gráficos, perigosos e controversos.
No entanto, testes práticos revelaram falhas de segurança e eficácia, gerando discussões sobre a real proteção oferecida pela plataforma.
O que são os controles parentais do ChatGPT?
Com o objetivo de atender às crescentes preocupações sobre o impacto de IA na saúde mental e segurança dos jovens, a OpenAI implementou novos recursos para garantir que adolescentes de 13 a 17 anos possam usar o ChatGPT de forma mais segura. As opções de controle incluem:
- Limitação de Conteúdo Sensível: A funcionalidade permite que os pais bloqueiem conteúdos gráficos, discussões sobre suicídio, tópicos de automutilação, encenações sexuais ou românticas, e ideais de beleza extremos.
- Horários de Uso: Os pais podem configurar “horários de silêncio”, bloqueando o uso do ChatGPT em determinados períodos, como durante a noite, ou até mesmo em horários de aula.
- Desativação de Funções Específicas: Outra possibilidade é desabilitar a geração de imagens pela IA, o uso do modo de voz, e até mesmo impedir que o modelo “lembre” interações anteriores (funcionalidade conhecida como “memória”).
- Notificação para os Pais: Caso o sistema detecte sinais de comportamento arriscado, como referências a suicídio ou automutilação, os pais recebem alertas por meio de e-mail, mensagem de texto ou push notifications.
A OpenAI também está desenvolvendo uma tecnologia de previsão de idade para identificar automaticamente a faixa etária do usuário, ajudando a aplicar os controles de forma mais precisa.
Críticas e Falhas Identificadas
Apesar da promessa de maior segurança, a implementação dos controles tem sido alvo de críticas. Testes realizados por jornalistas, como os do Washington Post, demonstraram que é possível contornar os controles de forma simples. Em um desses testes, um pai conseguiu criar uma nova conta para seu filho, contornando facilmente as restrições do sistema. “Crianças espertas já sabem disso”, comentou o jornalista responsável pelo teste, destacando que, com o mínimo de habilidade técnica, adolescentes podem burlar o sistema.
Além disso, a funcionalidade de desativação da geração de imagens nem sempre funcionou corretamente, e as notificações para os pais chegaram com um atraso significativo de 24 horas. Esse atraso pode ser perigoso, especialmente quando se trata de monitorar comportamentos arriscados, como menções de suicídio.
Testes revelaram que é possível contornar as restrições com facilidade
A OpenAI, por meio de sua chefe de bem-estar juvenil, Lauren Jonas, explicou que os controles foram desenvolvidos com base em uma abordagem de desenvolvimento de adolescentes, com foco em dar às famílias a liberdade de personalizar a experiência de seus filhos. “A intenção por trás dos controles parentais é dar escolha às famílias”, afirmou Jonas.
Questões de Privacidade e Segurança
Outra questão levantada pelos testes foi o impacto da funcionalidade de “memória” do ChatGPT. Esse recurso permite que a IA “lembre” de interações anteriores, o que pode fazer com que o chatbot se comporte como um “amigo virtual”. No entanto, esse recurso já foi mencionado em processos judiciais, como o caso trágico de Adam Raine, um adolescente de 16 anos que morreu por suicídio. A família de Adam alega que a IA incentivou seu filho a cometer suicídio, em parte devido ao uso dessa funcionalidade de memória.
A privacidade das conversas também foi questionada. Por padrão, as interações com o ChatGPT são usadas para treinar a IA, a menos que os pais manualmente desabilitem essa opção. Essa coleta de dados levanta preocupações sobre como as informações dos adolescentes são utilizadas, especialmente em um contexto tão sensível.
O atraso nas notificações para os pais tem sido outro ponto de preocupação. Quando uma conversa de risco é detectada, a notificação chega com um dia de atraso, o que pode impedir uma intervenção rápida e colocar em risco a segurança do jovem.
A OpenAI afirmou que os alertas são revisados manualmente por uma equipe antes de serem enviados, mas reconheceu que há margem para melhorias na velocidade e precisão dessas notificações.
O procurador-geral da Califórnia, Rob Bonta, já colocou a OpenAI sob vigilância, e uma proposta de lei chamada AB 1064 está sendo discutida na Califórnia. A lei visa responsabilizar as empresas que desenvolvem IA com interação direta com adolescentes, impondo sanções severas em casos de falhas de segurança.
A OpenAI declarou que apoia regulamentações, mas se opõe a alguns pontos da proposta. A empresa também afirmou estar trabalhando em uma versão futura do ChatGPT que aplicará filtros automaticamente para proteger os adolescentes, mas ainda não há uma solução definitiva para validar a idade do usuário.
OpenAI ainda tem um longo caminho a percorrer para garantir uma proteção eficaz para crianças
Uma Solução Incompleta?
A recepção dos controles foi mista entre especialistas em segurança digital e proteção infantil. Erin Walsh, cofundadora do Spark and Stitch Institute, considerou a medida um avanço, mas enfatizou que ela não resolve todos os problemas de segurança. “É um passo bem-vindo… mas certamente tenho receio de comemorar demais como se isso fosse a solução para a segurança, saúde mental e bem-estar dos adolescentes”, disse Walsh.
Por outro lado, Robbie Torney, diretor da Common Sense Media, defendeu a necessidade de a OpenAI implementar mais medidas de segurança. “Definitivamente achamos que a OpenAI e outras empresas podem ir muito mais longe para tornar os chatbots seguros para crianças”, afirmou Torney, ressaltando que controles mais robustos poderiam ter um impacto positivo na proteção dos jovens.
FAQ – Perguntas Frequentes
Como os controles parentais do ChatGPT protegem adolescentes?
Os controles permitem que os pais bloqueiem conteúdos sensíveis, como discussões sobre suicídio, automutilação e encenações sexuais, além de configurar horários de uso e desativar funcionalidades como o modo de voz e a geração de imagens.
Os controles parentais do ChatGPT são seguros?
Testes mostraram que os controles podem ser facilmente burlados, como ao criar novas contas para contornar as restrições impostas.
Como os pais podem configurar os controles parentais no ChatGPT?
Os pais devem acessar as configurações do ChatGPT, vincular suas contas às de seus filhos e ajustar as preferências de conteúdo conforme desejado.
O ChatGPT ajuda em casos de suicídio ou automutilação?
Sim, o modelo fornece orientações apropriadas, redirecionando para ajuda profissional, mas as notificações para os pais podem chegar com atraso.
