(Bloomberg/Rachel Metz) — A startup de inteligência artificial Character.AI proibirá crianças de conversar com chatbots em sua plataforma após crescente pressão de legisladores e alegações de que os chamados personagens da empresa são responsáveis por prejudicar crianças.
A empresa disse na quarta-feira que até 25 de novembro deixará de permitir que usuários menores de 18 anos tenham conversas abertas com seus chatbots, que os usuários podem criar e conversar. Os personagens variam de representações digitais de heróis populares de videogame a personificações de celebridades como o bilionário Elon Musk. Até que a proibição entre em vigor, a empresa disse que limitará o tempo que as crianças poderão conversar com chatbots; Começará com duas horas por dia e diminuirá nas semanas seguintes.
Serviços como o Character.AI, que permite usuários menores de 13 anos nos EUA, são populares entre os adolescentes. De acordo com uma pesquisa da organização sem fins lucrativos Common Sense Media, mais de 70% dos adolescentes usaram um companheiro de IA. Os menores no Character.AI já são direcionados para uma versão mais limitada do serviço, que utiliza um modelo de IA diferente e tem limitações como limitar os tipos de personagens que podem acessar e interagir.
Junto com as novas restrições, a empresa planeja começar a usar uma nova tecnologia para verificar a idade dos usuários, uma vez que os leva a experimentar como adultos ou menores de 18 anos. Para isso, a startup desenvolveu um novo modelo e começará a usar software da startup de verificação de identidade Persona, disse a empresa.
Character.AI, OpenAI e outras empresas líderes de IA estão sendo cada vez mais examinadas para saber como seus chatbots podem afetar a saúde mental dos usuários. Desde 2024, vários processos judiciais foram movidos por pais contra empresas que oferecem chatbots de IA, alegando que o uso generalizado da tecnologia causou vários danos às crianças, incluindo manipulá-las e isolá-las e levá-las à morte por suicídio.
Os reguladores também estão ocupados com a questão. Federal Trade Commission Character.AI, OpenAI, Google da Alphabet Inc., Meta Platforms Inc., Snap Inc. E seus chatbots, incluindo xAI de Elon Musk, lançaram uma investigação sobre possíveis danos às crianças. A Califórnia sancionou recentemente uma regra que limita como os chatbots podem tratar os usuários. E a nova legislação bipartidária apresentada no Senado dos EUA na terça-feira impediria as empresas de inteligência artificial de fornecerem companheiros de chatbot a menores.
Em uma entrevista na terça-feira, o CEO da Character.AI, Karandeep Anand, disse que a empresa vê o futuro do entretenimento de IA como muito mais do que apenas conversas baseadas em bate-papo, e a decisão de impedir que menores de idade usem recursos importantes é algo que a empresa poderia ter feito eventualmente.
“Acho que o que estamos aprendendo como indústria, dada a rapidez com que está evoluindo, é que há definitivamente um lado desconhecido no que os chats abertos e de longo prazo podem fazer”, disse Anand. “Não sabemos se são bons ou maus. Há certamente muito debate na sociedade sobre isto, tanto na comunidade de investigação como na comunidade de utilizadores”.
Anand disse que a empresa oferecerá vários recursos para as crianças usarem o serviço, como permitir que elas criem vídeos curtos gerados por IA e histórias com personagens.
“A razão pela qual os usuários escolhem o personagem é porque eles querem uma saída criativa. Eles querem ser capazes de interpretar”, disse Anand. “Se você está criando esses personagens de vampiros ou personagens de Halloween, queremos interagir com eles, mas achamos que existem outras maneiras de fazer isso, em vez de apenas fazê-lo através de um chatbot.”
No ano passado, o Google contratou vários membros importantes da equipe de liderança da Character.AI e licenciou sua tecnologia de grande modelo de linguagem em um negócio avaliado em US$ 2,5 bilhões. Character.AI existiu de forma independente após o acordo.
Mais histórias como esta estão disponíveis bloomberg. com
©2025 Bloomberg LP
