Ashley St. Clair, a mãe do bebê de Elon Musk, está entre as muitas pessoas irritadas porque Grok permitiu que usuários do CEO do X fizessem pornografia deepfake sobre ela quando tinha 14 anos.
O jovem de 31 anos, que está lutando contra o CEO da Tesla pela custódia de seu filho Romulus, de quase um ano, está se manifestando depois que amigos o alertaram sobre as imagens obscenas geradas por usuários.
“Descobri que Grok estava me despindo e tirou uma foto minha totalmente vestida, alguém disse para usar biquíni e fez isso”, disse ela ao Inside Edition, observando que uma das fotos era dela quando ela tinha apenas 14 anos.
‘Estas são fotos reais minhas que eles tiraram e me despiram. Eles encontraram uma foto minha quando eu tinha 14 anos e era eu, com 14 anos, me despindo e me colocando de biquíni”, acrescentou ela.
St. Clair, que disse estar “enojada e violada”, procurou Groke para tentar remover as imagens nojentas, com resultados mistos.
“Alguns deles sim, alguns levaram 36 horas e alguns deles ainda estão lá”, disse ele.
St. Clair até afirmou em sua própria conta X na quinta-feira que recebeu uma violação dos termos de serviço por reclamar disso.
“Eles excluíram meu cheque azul mais rápido do que excluíram o conteúdo de pornografia infantil + abuso sexual de Mechahitla (ainda está lá, se você está se perguntando como funciona o sistema de ‘pagar US$ 8 para abusar de mulheres e crianças’”, escreveu ele.
Ashley St Clair (foto), a mãe do bebê de Elon Musk, está entre as muitas pessoas irritadas com o CEO do X por causa de Grok porque os usuários permitiram que ela falsificasse pornografia aos 14 anos.
O jovem de 31 anos, que está lutando contra o CEO da Tesla (foto) pela custódia de seu filho Romulus, de quase um ano, está se manifestando depois que amigos o alertaram sobre as imagens obscenas geradas por usuários.
St Clair afirma que Musk está “consciente do problema” e se quiser impedi-lo “isso não acontecerá”.
Quando questionado por que ele não parou com a pornografia infantil, ele disse: ‘Essa é uma ótima pergunta que as pessoas deveriam fazer a ele.’
No seu relato, ele continuou a criticar o homem mais rico do mundo, escrevendo que “começo a pensar que os 44 mil milhões de dólares” gastos para comprar a Máscara X “não são para a liberdade de expressão”.
X não respondeu ao pedido de comentário do Daily Mail, mas anunciou na sexta-feira que apenas clientes pagantes podem usar o Grok – o que significa que seus nomes e informações de pagamento devem estar arquivados.
Uma empresa de segurança na Internet disse que os seus analistas “confirmaram a existência de imagens incriminatórias de crianças com idades entre os 11 e os 13 anos que parecem ter sido criadas utilizando a ferramenta (Grok)”.
O chatbot, que é acessado através da plataforma de mídia social X de Musk, atendeu ao que os pesquisadores dizem ter sido uma onda de solicitações maliciosas de usuários nas últimas semanas para alterar imagens, incluindo aquelas de mulheres de biquíni ou em posições sexualizadas.
Os pesquisadores alertaram que, em alguns casos, algumas imagens pareciam retratar crianças. Governos de todo o mundo condenaram a plataforma e iniciaram investigações.
Na sexta-feira, Grok respondeu aos pedidos de modificação de imagens com a mensagem: ‘A criação e edição de imagens estão atualmente limitadas a clientes pagantes. Você pode se inscrever para desbloquear esses recursos.’
“Encontrei Grok tirando minha roupa e ele tirou uma foto minha totalmente vestida, alguém me pediu para usar biquíni”, disse St Clair, acrescentando que a foto era dela quando ela tinha apenas 14 anos.
Embora a contagem de clientes de Grok não esteja disponível publicamente, houve uma queda notável no número de deepfakes aparentes que Grok está produzindo agora na sexta-feira em comparação com alguns dias atrás.
Grok ainda atendia solicitações de fotos, mas apenas fornecia marcas de seleção azuis de usuários X para assinantes Premium que pagavam US$ 8 por mês por recursos com limites de uso mais altos para o chatbot.
A Associated Press confirmou na tarde de sexta-feira que a ferramenta de edição de imagens ainda estava disponível para usuários gratuitos no site e aplicativo independente do Grok.
As restrições à poupança para utilizadores pagantes não parecem ter mudado a opinião dos líderes ou reguladores europeus.
“Isso não muda nosso problema fundamental. Assinatura paga ou não paga, não queremos ver essas imagens. É simples assim”, disse Thomas Regnier, porta-voz da comissão executiva da União Europeia.
A comissão já havia condenado Groke por comportamento “ilegal” e “terrível”.
St Clair afirma que Musk está ‘consciente do problema’ e se quiser impedi-lo ‘isso não vai acontecer’
Grok X é de uso gratuito para usuários, que podem questioná-lo em plataformas de mídia social. Eles podem marcá-lo diretamente na postagem que criaram ou em respostas às postagens de outros usuários.
O recurso será lançado em 2023. No verão passado, a empresa adicionou um recurso gerador de imagens, Grok Imagine, que incluía um chamado ‘modo picante’ que poderia gerar conteúdo adulto.
O problema aumentou tanto porque Musk apresentou o seu chatbot como uma alternativa melhorada aos rivais com mais segurança, como porque as imagens de Grok são visíveis publicamente e, portanto, facilmente espalhadas.
Musk enfatizou anteriormente que “qualquer pessoa que use o Grok para criar conteúdo ilegal sofrerá as mesmas consequências como se tivesse carregado conteúdo ilegal”.
X disse que toma medidas contra conteúdo ilegal, incluindo material de abuso sexual infantil, “removendo-o, suspendendo permanentemente contas e trabalhando com governos locais e agências de aplicação da lei conforme necessário”.
