Em anúncios consecutivos, a Meta fez mudanças significativas destinadas a capacitar os pais e proteger os adolescentes no Instagram e nos seus serviços de IA.
Na semana passada, Meta anunciou que o Instagram colocaria automaticamente todos os usuários menores de 18 anos em contas de adolescentes, o que equivale aproximadamente a uma classificação de filme PG-13 no conteúdo padrão. Esta semana, a empresa introduziu novos controles parentais para seus recursos de IA.
Conta juvenil
As contas de adolescentes do Instagram visam reduzir a exposição a material adulto, como violência gráfica, conteúdo sexual explícito, linguagem forte e acrobacias picantes, e dar aos pais mais controle sobre o que seus filhos adolescentes veem.
A Meta, empresa controladora do Instagram, reconhece que “os adolescentes podem tentar contornar essas restrições”, por isso está usando tecnologia de previsão de idade para impor proteção, mesmo que os usuários informem incorretamente sua idade. O sistema de IA procura pistas comportamentais e contextuais de que alguém que afirma ter 18 anos pode na verdade ser mais jovem. Não é perfeito, mas é muito mais confiável do que confiar em aniversários autodeclarados.
O que os adolescentes vão assistir
De acordo com o novo sistema, qualquer pessoa com menos de 18 anos será automaticamente colocada no modo “13+”. Os adolescentes não podem desativá-lo sozinhos. O consentimento dos pais é necessário para relaxar as configurações. Os filtros do Instagram filtram conteúdo fora das regras para menores de 13 anos, incluindo palavrões fortes, imagens de uso de drogas ou acrobacias perigosas. As contas que publicam repetidamente conteúdo adulto ficarão ocultas ou serão mais difíceis de encontrar, e os resultados da pesquisa bloquearão palavras sensíveis ou gráficas, mesmo que escritas incorretamente.
Uma alternativa drástica
Para famílias com restrições estritas, o Instagram está adicionando um modo de conteúdo limitado que filtra mais postagens, comentários e interações de IA. Os pais já podem definir limites de tempo diários – apenas 15 minutos – e ver se seus filhos adolescentes estão conversando com os personagens de IA.
Os adolescentes não podem seguir ou deixar de seguir contas que compartilhem repetidamente material inapropriado, e quaisquer conexões existentes serão desconectadas, comentários, mensagens e visibilidade do feed serão bloqueados.
Proteção de IA
Além da nova proteção de contas de adolescentes, a Meta está adicionando ferramentas de controle parental para ajudar as famílias a direcionar como os adolescentes usam “personagens” virtuais de IA que geralmente têm uma personalidade única. Em breve, os pais poderão interromper bate-papos individuais entre seus filhos adolescentes e os personagens de IA do Meta. O assistente de IA habitual da empresa ainda estará disponível para perguntas e suporte de aprendizagem, mas com proteções adequadas à idade.
Para famílias que não desejam bloqueá-lo totalmente, os pais podem restringir personagens específicos de IA, dando-lhes controle sobre quais personalidades seus filhos podem interagir. Recursos de IA, como chatbots e geradores de imagens, também estão sendo ajustados para permanecer dentro dos parâmetros PG-13.
Os pais também obterão informações sobre o que seus filhos adolescentes estão discutindo com a IA – temas comuns em vez de transcrições para incentivar conversas sobre como seus filhos adolescentes usam essas tecnologias.
Tragédia e Proteção
Não tenho conhecimento de quaisquer resultados trágicos da IA da Meta, mas foram movidas ações judiciais alegando que os chatbots de outras empresas desempenharam um papel no suicídio de adolescentes. Na Flórida, a família de um menino de 14 anos que morreu por suicídio afirma que o personagem AI chatbot incentivava a automutilação. Na Califórnia, os pais de Adam Raine, de 16 anos, alegaram que o ChatGPT da OpenAI lhe deu instruções detalhadas sobre suicídio e reforço emocional, levando à sua morte em abril de 2025.
A OpenAI está agora desenvolvendo sistemas para identificar se um usuário do ChatGPT é adulto ou menor de 18 anos, para que os usuários mais jovens obtenham automaticamente uma experiência adequada à idade. Se a idade não for especificada, o sistema assume o modo adolescente por padrão. A empresa também está introduzindo controles parentais que permitem aos pais de adolescentes (com 13 anos ou mais) vincular contas, desativar quais recursos estão disponíveis, como memória ou histórico de bate-papo, receber alertas se seu filho adolescente estiver em perigo e definir horários de “apagão” quando o ChatGPT não estiver em uso.
Character.AI agora oferece uma versão mais restritiva de sua plataforma para adolescentes, alimentada por um modelo de linguagem dedicado projetado para filtrar conteúdo sensível ou sugestivo e bloquear avisos que violam regras antes que cheguem ao chatbot. Os adolescentes têm acesso a um pequeno conjunto de personagens, que ficam ocultos ou removidos com temas adultos. A empresa adicionou recentemente um recurso “Parental Insights” que fornece resumos semanais das atividades de um adolescente, como o tempo gasto no aplicativo e com quais bots eles interagem mais, mas para proteger a privacidade e a agência dos adolescentes, não oferece transcrições de bate-papo ou controle total dos pais.
Risco psicológico
Embora os chatbots de IA possam proporcionar conforto ou espaços seguros para praticar conversas, os investigadores estão a descobrir que o uso frequente também pode acarretar riscos psicológicos. Estudos realizados pela Universidade de Cambridge, pelo Comissário de Segurança Eletrónica da Austrália e por equipas de investigação revistas por pares sugerem que alguns jovens formam fortes ligações com “amigos” da IA, o que pode levar a mais solidão e menos interação no mundo real.
Um estudo conjunto recente da OpenAI e do MIT Media Lab sobre o impacto emocional do ChatGPT, juntamente com um estudo separado sobre adolescentes, destacou os riscos do uso de chatbots emocionais. Estudos longitudinais com quase mil participantes mostraram que, embora o envolvimento emocional com o ChatGPT fosse raro em geral, um pequeno subconjunto de usuários frequentes mostrou tendências relacionadas: o aumento do uso diário foi associado ao aumento da solidão, da dependência emocional e do uso problemático. Um estudo separado confirmou esta vulnerabilidade, mostrando que os adolescentes com menos ligações sociais são mais propensos a recorrer aos bots em busca de companhia.
meus pensamentos
Como é frequentemente o caso com questões de segurança online, é importante não confundir gravidade com prevalência. A investigação mostra que, embora a maioria dos jovens tenha interações positivas com chatbots de IA, alguns podem experimentar comportamentos problemáticos ou resultados negativos. É por isso que uma abordagem única para a segurança online não é eficaz. Os pais devem permanecer próximos dos seus filhos, compreender as tecnologias que utilizam e tomar decisões com base nas experiências dos seus próprios filhos, em vez de notícias que destaquem incidentes graves, mas raros.
Divulgação: Larry Magid é CEO Conecte-se com segurançaUma organização sem fins lucrativos de segurança na Internet que presta consultoria e recebeu apoio financeiro da Meta, Character.AI e OpenAI
