Se a IA entrou no cotidiano dos nossos filhos, precisamos entrar nessa conversa também….
A OpenAI acaba de anunciar um novo recurso de controle parental no ChatGPT para permitir que pais monitorem o uso da IA por seus filhos adolescentes.
A empresa afirma que essa é uma etapa inicial dentro de um esforço mais amplo para oferecer uma experiência segura e apropriada para menores.
Esse movimento vem depois de muitas discussões sobre o papel da IA no cotidiano dos adolescentes, e, principalmente, sobre os riscos quando a tecnologia substitui o diálogo humano em momentos delicados.
Com contas vinculadas entre pais e adolescentes, o controle parental permitirá:
👉🏻 Alertas de conteúdo sensível: se o sistema identificar conversas sobre automutilação, suicídio ou outros temas de risco, poderá notificar os pais via e-mail, SMS ou notificação no app.
👉🏻 Moderação humana: mensagens sinalizadas serão revisadas por moderadores humanos antes do envio de alertas.
👉🏻 Acionamento de autoridades: em situações de ameaça iminente à vida, quando não for possível contatar os pais, a OpenAI poderá alertar autoridades locais.
👉🏻 Os pais poderão bloquear o uso em horários definidos (ex: à noite, durante a escola), assim como, desativar funcionalidades específicas como modo de voz, geração de imagens ou o recurso de memória (reter informações das conversas anteriores).
👉🏻 Restrições de conteúdo sensível por padrão para contas de menores.
👉🏻 Opção para que as conversas do adolescente não sejam usadas no treinamento dos modelos de IA da OpenAI (cobrindo esse gap do cumprimento da legislação sobre tratamento de dados de menores) .
👉🏻 Convite mútuo para vinculação: os pais enviam um convite e o adolescente deve aceitá-lo para que a conta fique sob supervisão.
👉🏻 Predição de idade futura: a OpenAI disse que trabalha num mecanismo parecido com o utilizado pelo YouTube para estimar automaticamente a idade do usuário e aplicar filtros de segurança quando for detectado como menor de 18 anos.
Os controles não são perfeitos nem infalíveis, e sem dúvida, funcionam melhor quando combinados com diálogo familiar e supervisão ativa. Contudo, é um avanço importante para equilibrar inovação e responsabilidade.
Mas precisamos sempre reforçar que tecnologia não substitui supervisão humana.
Como mãe, profissional de tecnologia e educadora, eu vejo com bons olhos essa iniciativa, mas também deixo uma provocação:
o desafio não é apenas técnico, mas cultural.
Precisamos falar de tecnologia e inteligência artificial em casa! Se não criarmos uma relação consciente, nenhum filtro será suficiente. Esse é um convite para que pais e filhos dialoguem sobre IA: seus potenciais, limites e perigos.
E vale lembrar: muitos pais ainda não têm letramento digital, e nós, como sociedade, temos a responsabilidade de apoiá-los nessa jornada, para que possam orientar seus filhos com segurança no uso da tecnologia.