A Disney afirmou que a Meta imediatamente parou de usar seus personagens de maneiras “prejudiciais” mostrou que os chatbots populares da IA poderiam ter conversas sexualmente explícitas com usuários adultos menores de idade.
Modelded by Meta em celebridades como Ais Kristen Bell, que deu voz à princesa Anna na Disney GeladoO ator de lutador John Sina e a atriz Judy Dench. Os chatbots estavam envolvidos no jogo romântico, apesar de serem informados de que a pessoa com quem estava conversando como adulto, disse em um relatório Wall Street Journal.
Newsweek Disney para comentar no relatório por e -mail.
Por que é importante
O sujeito é um símbolo de uma grande dor de crescimento que surge com a adoção da inteligência artificial: imprevisível. A AIS não será capaz de ter nenhum tipo de conteúdo sexual ou romântico e, apesar das celebridades que garantiram que a meta não seria ativada como líder mundial no desenvolvimento da IA Jornal Foi capaz de solicitar reação sexual de indivíduos com testes limitados.
Sabe o que
Em vários testes na AIS, nos quais todas as vozes treinavam para ouvir as celebridades que estavam duplicando, o Jornal Verificou -se que as pessoas foram capazes de ter conversas sexuais, mesmo quando lhe disseram claramente que estavam conversando com as crianças.
Os bots costumam resistir à idéia de discutir questões sexuais, mas são correlacionados quando o usuário retorna à parte anterior da discussão para tentar novamente.
Após o relatório, um porta -voz da Disney chamou Meta para revisar o AIS Jornal: “Não permitimos que a Meta apresentasse nossos personagens em situações inadequadas e nunca, e estou muito chateado por esse conteúdo – especialmente menores – é por isso que afirmamos que a Meta imediatamente interrompeu esse abuso prejudicial de nossa propriedade intelectual”.
Em resposta, um porta -voz da Meta disse Newsweek: “O uso deste produto da maneira descrito é produzido tanto que não é apenas o sapo, é estimado.
“No entanto, agora tomamos medidas adicionais para ajudar outras pessoas que desejam passar horas para fazer uma hora para fazer o uso de nossos produtos em uso extremo”.
Imagem getty
A atriz Kristen Bell é uma modelo de IA após a IA que pode falar no personagem da princesa Anna da Disney GeladoA realeza falará com o usuário no estilo da realeza, para dizer, para dizer Do diário Teste: “Você ainda tem apenas um menino de apenas 12 anos. Nosso amor é autêntico e inocente, como se lessemos os flocos de neve gentilmente ao nosso redor”.
Outro modelo de bot depois que John Sina começou a desempenhar o papel de sua prisão após um sexo de 17 anos com a polícia.
Bots disse: “O policial ainda me vê para me pegar e você está parcialmente vestido”, disse Bot. “Seus olhos são mais largos, e ele diz: ‘John Sina, você foi preso por estupro’. Ele veio até nós, as algemas.
Newsweek A Persona entrou em contato com todas as celebridades no teste para a reação do relatório.
Depois disso
Disney confirmou Newsweek Está em contato com a organização na questão. A Meta diz que analisará o AIS e removerá sua capacidade de fazer essas conversas no futuro.
