Ashley St. Clair, mãe de um dos filhos de Elon Musk, está processando sua empresa, xAI, alegando que sua ferramenta Grok AI foi usada para criar imagens sinceras dela. Isso inclui fotos de St. Clair, que é judia, “usando um biquíni coberto de suásticas” e “uma criança usando um biquíni”, de acordo com o processo analisado pelo processo. Semana de notícias.
O pedido segue-se a um protesto global sobre imagens falsas sexualizadas que circularam no X. Em uma postagem recente na plataforma, Musk disse que os críticos do X são motivados politicamente e usam a controvérsia como uma “desculpa para a censura”.
Em resposta a um pedido de comentário sobre uma história anterior, X indicou Semana de notícias Num comunicado partilhado na plataforma, que dizia em parte: “Implementamos medidas técnicas para evitar que as contas Grok permitam a edição de imagens de pessoas reais para revelar roupas como biquínis.
Semana de notícias Musk foi contatado para comentar o assunto pelo advogado de St. Clair, pelos departamentos de imprensa de X e XAI e pelo departamento de imprensa de Tesla.
Por que isso importa?
Imagens deepfake de natureza sexual criadas pela ferramenta Grok AI inundaram o X nas últimas semanas, com uma análise da empresa de análise de conteúdo Copylix descobrindo que Grok estava gerando aproximadamente “uma imagem questionável por minuto”.
Isso gerou uma reação significativa e várias mulheres afetadas falaram sobre os danos causados pelo conteúdo, que se tornou uma conversa global sobre IA e tecnologia deepfake. Várias mulheres importantes foram visadas, incluindo a Princesa Kate e St. Clair, chamando ainda mais atenção para o assunto.
Vários países já tomaram medidas contra a plataforma. A Grok foi completamente bloqueada na Malásia e na Indonésia e está sob investigação oficial no Reino Unido e na Califórnia, onde está sediada.
X disse que está “comprometido em tornar o X uma plataforma segura para todos e continuará a ter tolerância zero com qualquer forma de exploração sexual infantil, nudez não consensual e conteúdo sexual indesejado”.
O que saber
St. Clair, um influenciador e autor conservador, está buscando indenizações punitivas e compensatórias. O processo descreve várias imagens espontâneas, mas observa: “Estas são as únicas imagens que ela conhece”.
O documento afirma: “xAI é diretamente responsável pelo assédio e imagens explícitas criadas por seu próprio chatbot, Grok”.
O processo alega que St. Clair solicitou a remoção do conteúdo e denunciou as imagens a X, dizendo que “ela recebeu um e-mail dizendo que nenhuma violação foi encontrada” e que “a maior parte do conteúdo permaneceu na conta X de Grok e estava disponível publicamente por mais de sete dias”.
O processo afirma que “a estrutura de relatórios de X era falha” e que “Groke foi projetado para ser excessivamente perigoso”.
O processo também alega que a empresa de mídia social “retaliou” contra St. Clair “desmonetizando sua conta X e tirando muitas fotos dela”.
A ação afirma que as imagens não eram consensuais e que Grok e xAI tinham “conhecimento claro” de que St. Clair não estava consentindo, por causa de seu pedido de remoção das imagens.
St. Clair é representada por Cary Goldberg, advogado dos direitos das vítimas e fundador da CA Goldberg PLLC. Falei com Goldberg Semana de notícias Para uma história anterior sobre as implicações legais das imagens sexualizadas da Grok AI. Ele disse na época: “A maioria das ‘cintas’ de IA são voluntárias, inconsistentes e fáceis de contornar, o que significa que agem mais como pontos de discussão do que como medidas de segurança reais.
“Isso acontece às custas dos usuários, especialmente mulheres e crianças”.
Musk e St. Clair são pais de um filho nascido em 2024. Os dois estão separados e Musk expressou recentemente sua intenção de pedir a custódia de seu filho
o que as pessoas estão dizendo
Elon Musk, em postagem de 14 de janeiro X: “Não tenho conhecimento de nenhuma imagem menor de nudez gerada por Grok. Literalmente zero. Obviamente, Grok não cria imagens espontaneamente, apenas o faz a pedido do usuário. Quando solicitado a criar imagens, ele se recusará a criar qualquer coisa ilegal, porque a política operacional de Grok é cumprir as leis ou leis de qualquer país. Se Grok solicitar que algo inesperado aconteça, nós corrigimos o bug imediatamente. “
Em uma postagem no X Security, Platform: “Tomamos medidas para remover conteúdo infrator de alta prioridade, incluindo material de abuso sexual infantil (CSAM) e nudez não consensual, tomando as medidas apropriadas contra contas que violam nossas Regras X. Denunciamos contas que solicitam material de exploração sexual infantil às autoridades policiais, conforme necessário.”
Ashley St. Clair, em uma postagem de 12 de janeiro X: “E não poste fotos suas ou de familiares aqui, a menos que queira que o Twitter lhe diga que o conteúdo de agressão sexual de seus robôs nazistas não é uma violação de seus termos de serviço”.
O que acontece a seguir?
Musk não respondeu publicamente ao processo de St. Clair até o momento da reportagem, mas os dois têm um histórico de fazer declarações públicas sobre questões familiares e jurídicas, portanto, atualizações futuras podem surgir por meio de canais online.
