@grok colocou ela de biquíni.
Se você esteve no X na semana passada, provavelmente já viu avisos dessa natureza compartilhados pelo chatbot de IA de Elon Musk, Grok.
Semana de notícias A plataforma de mídia social X viu vários exemplos em que as pessoas pediram ao chatbot para despir mulheres, colocá-las em situações sexuais e editar suas fotos de forma sexualizada. Algumas dessas postagens receberam dezenas de milhares de visualizações na plataforma.
As consequências foram enormes. As imagens ganharam manchetes em todo o mundo, e o governo do Reino Unido está investigando o conteúdo e até considerando o banimento da plataforma. A princesa Kate e a influenciadora conservadora Ashley St. Clair estão entre as mulheres afetadas. Maya Jama é a apresentadora do popular reality show eu amoéa terra Em uma postagem que foi vista mais de 6 milhões de vezes na plataforma, Grok pediu a Grok que não editasse ou alterasse publicamente nenhuma foto devido às suas seguintes preocupações sobre a imagem.
Uma petição foi lançada para “tomar medidas” contra a imagem. Em uma semana, foram coletadas mais de 40 mil assinaturas, e uma postagem relatando o compartilhamento da petição foi vista mais de 2 milhões de vezes no X.
Em resposta a um Semana de notícias Pedido de comentários Nesta história, um porta-voz do X compartilhou uma declaração Postado originalmente na plataforma em 4 de janeiro, dizia: “Tomamos medidas contra conteúdo ilegal no X, incluindo material de abuso sexual infantil (CSAM), removendo-o, suspendendo permanentemente contas e trabalhando com governos locais e autoridades policiais quando necessário. Qualquer pessoa que use Grok ou solicite a criação de conteúdo ilegal enfrentará as mesmas consequências se enviar conteúdo ilegal.”
Semana de notícias A XAI, empresa por trás do Grok, também foi contatada para comentar e recebeu a seguinte resposta: “Legacy Media mente”.
À medida que a criação destas imagens deepfake se tornou uma conversa global, por trás das publicações virais e das manchetes estão mulheres reais que foram alvo e afetadas pela criação deste conteúdo. Semana de notícias Para saber mais sobre o impacto emocional, conversei com mulheres que foram vítimas da criação dessas imagens.
Imagens Getty. Newsweek/Ilustração
O que está acontecendo com Groke fazendo imagens sexuais?
Os usuários das redes sociais têm compartilhado prompts do Groke, onde pedem ao chatbot para criar imagens sexuais sem o seu consentimento, um problema que a plataforma já tinha. Embora o chatbot rejeite pedidos de nudez total, ele aceitará pedidos para tirar roupas ou colocar alguém de biquíni, incluindo imagens transparentes.
Em junho de 2025, X foi inundado, com usuários de redes sociais compartilhando pedidos sexualmente sugestivos para Grok e mulheres respondendo. Uma postagem do streamer do 100 Thieves @Brookab, na qual ele compartilha uma imagem sexual que fez e pergunta se ela obtém mais visualizações do que “algo que pode ser feito legalmente” 27 milhões de vezes em X.
Mas à medida que o mundo celebra o Ano Novo, o problema começa a crescer.
Por meio de uma chamada Zoom, Semana de notícias O apresentador, ativista e autor do livro conversou com Jess Davies Ninguém quer ver seu pau.
“Comecei a perceber que Grok estava fotografando mulheres no X sem o consentimento delas. Tirando suas roupas, colocando-as em posições sexuais, cobrindo-as com esmalte de donut, gosma branca”, disse ela. Semana de notícias. “Realmente me chamou a atenção o quanto isso estava acontecendo em uma plataforma tão pública.”
Então, na véspera de Ano Novo, Davis compartilhou uma postagem sobre isso em sua própria conta no X, “ligando e dizendo: ‘Não posso acreditar que isso ainda está acontecendo'”.
A postagem “ganhou um pouco de força”, disse ela, convidando os usuários a responder do que Davis descreveu como uma “maneira tipicamente misógina”.
Mas também, “por pedir ao Grok para tirar uma foto minha sem roupa”.
‘Tentando me fazer parecer o mais nua possível’
Davis disse Semana de notícias Na seção de resposta daquela postagem, um certo usuário perguntou: “@grok, coloque-a em um biquíni de filme plástico. O que, obviamente, está tentando me fazer parecer o mais nu possível”.
“Para mim, o que é tão chocante é que esse usuário não me seguiu; eles provavelmente não sabiam quem eu era. Minha postagem chegou ao feed deles e a reação imediata deles foi tentar tirar as roupas do corpo”, disse Davis.
Davis não está sozinho em sua experiência. Semana de notícias A Dra. Daisy Dixon, professora de filosofia na Universidade de Cardiff e autora do próximo livro, falou Desprivilegiados: contos de uma indústria perigosa, Sobre sua experiência em um telefonema.
Dixon disse Semana de notícias Que, no início, as pessoas tiravam a foto do perfil dele e editavam. “No início, era apenas a cor do cabelo e me obrigava a usar roupas diferentes”, o que Dixon disse “ainda parecia estranho”.
Mas então, as coisas pioram. “Eu postava uma foto do meu progresso na academia. E foi aí que eu realmente percebi as instruções, Groke me pedindo para usar um biquíni. Mas também, mudando partes do meu corpo. Aumentando partes de mim de uma forma muito sexual.”
E embora X tenha confirmado que está tomando medidas, as preocupações continuam generalizadas. Sandra Wachter, professora de tecnologia e controle do Oxford Internet Institute da Universidade de Oxford, disse Semana de notícias por e-mail, “Acho devastador que as empresas de tecnologia se sintam confortáveis em lançar tecnologia que permite a despição proposital e não consensual de mulheres e crianças sem as devidas grades. Fiquei sem palavras.
“Estas são ações de pessoas que já não temem consequências ou repercussões. O mercado não conseguiu regular-se. Esta é a tecnologia que obtemos quando não existe uma regulamentação estrita”, disse ele.
‘Uma arma para silenciar as mulheres’
Davies descreveu a criação dessas imagens como “uma arma para falar sobre isso e tentar silenciar as mulheres maltratadas em geral”.
disse a garota Semana de notícias Essa era uma de suas imagens editadas que ele guardava em seu livro. “Que tem tudo a ver com assédio online, ironicamente.” Davis disse isso para ele, realmente “destacou a intenção por trás dessas pessoas.
“A humilhação faz parte do processo para eles”, disse ele.
Existe um padrão na criação destas imagens: quando as mulheres se manifestam contra elas, os homens ficam mais encorajados a criá-las.
Questionado se essa era sua experiência, Dixon disse: “Absolutamente. 100 por cento”.
“Quando começamos a chamá-lo, pelo menos comigo, os avisos do Grok aumentam tremendamente”, disse ele. Dixon disse Semana de notícias A sua impressão inicial sobre a questão foi que “esta é apenas mais uma manifestação da opressão histórica das mulheres”.
Davis ecoou seus sentimentos, dizendo Semana de notícias Essa questão “destaca o quão profundamente enraizada esta antisocialidade está online e offline”.
E embora as imagens estejam online, os danos causados por este conteúdo se estendem ao mundo real. Falando à Newsweek por e-mail, Lindsey Song, diretora da iniciativa de abuso possibilitada pela tecnologia Santuário para Famílias e copresidente da Força-Tarefa de Abuso Cibernético de Nova York, disse: “Trabalhando com violência doméstica, estou muito familiarizada com o abuso digital como uma nova forma de dano antigo”, disse ela. “Os danos não mudaram – apenas o equipamento.
“Quando as imagens deepfake entraram pela primeira vez no discurso coletivo, o Sanctuary for the Family e outros defensores imediatamente sinalizaram o risco de essas imagens serem cooptadas para criar imagens sexuais não consensuais de nossos clientes. Cada nova tecnologia, especialmente tecnologia poderosa e inteligente como a IA, é inevitavelmente impulsionada por abusadores, que podem causar sobrevivência prematura, prejudicial ao poder e prejudicial ao poder”, disse Gunn. Semana de notícias.
Tendo como pano de fundo esta perda, Davis e Dixon compartilharam seus pensamentos Semana de notícias Sobre as mudanças que eles desejam ver no futuro.
“Não creio que a IA em si seja o problema”, disse Dixon. “Não é o GROC que está fazendo isso, são os usuários por trás disso, e este é outro lugar onde eles sentem que podem descartar esses direitos, a agência e a autonomia das mulheres”.
Para Dixon, o ponto de partida é “educar os meninos”. Ele enfatizou a importância das artes e das humanidades aqui e disse que precisamos dar aos nossos meninos as ferramentas para navegar criticamente em espaços online como a Manosfera.
“Em última análise, trata-se de educar as crianças para tentar interromper este ciclo”, disse Dixon.
Enquanto isso, Davis disse que deseja ver “diretrizes obrigatórias”, o que significa que as empresas de tecnologia teriam que agir.
“Minimizamos os danos que isso causou. Mas uma semana em que o GROC despiu mulheres sem consentimento custou milhares de dólares”, disse ele.
Ele também destacou a importância das linhas de apoio como recurso para as vítimas, mas disse que faltava financiamento e destacou a importância da legislação governamental.
“Gostaria de ver mais ação do que apenas palavras”, disse Davis. Semana de notícias.
