X de Elon Musk diz que a ferramenta de IA Grok não abrirá mais fotos de pessoas reais após uma reação contra a criação de deepfakes sexistas.
Diz-se que o chatbot impediu as pessoas de ‘se despirem’, já que Musk cedeu às críticas do governo e dos ativistas.
Um anúncio de X dizia: ‘Implementamos medidas técnicas para evitar que as contas Grok permitam a edição de imagens de pessoas reais para revelar roupas semelhantes a biquínis.
‘Esta limitação se aplica a todos os usuários, incluindo assinantes pagos.’
Isto ocorre em meio à indignação generalizada com uma tendência que tem visto grocs serem usados para remover roupas de mulheres e até de crianças sem o seu consentimento.
Muitas mulheres disseram que se sentiram violadas pela capacidade de estranhos produzirem imagens comprometedoras delas contra a sua vontade, para que todos vissem.
O governo do Reino Unido, juntamente com outros, pressionou as máscaras para travar a tendência doentia, desencadeando um debate urgente sobre as leis de segurança online e a IA.
Sir Keir Starmer chamou as imagens de sexo não consensual de ‘nojentas’ e ‘vergonhosas’ e o regulador de mídia Ofcom lançou uma investigação.
Grok, o chatbot AI conectado ao X, não pode mais criar imagens sexualizadas de pessoas reais sem o seu consentimento
Kasturi cedeu à pressão de governos e ativistas para limitar as capacidades de suas ferramentas de IA
Parte da atualização sobre Grok que foi postada no X na noite de quarta-feira
Na semana passada, a capacidade de criar imagens com Grok foi limitada aos usuários que pagavam uma assinatura mensal – mas mesmo eles não seriam mais capazes de fazer edições claras.
O anúncio da noite passada de que o principal promotor da Califórnia disse que o estado estava investigando a última disseminação de golpes de IA fechou o círculo.
Ontem, Grok começou a rejeitar tais pedidos e respondeu: ‘Infelizmente não posso produzir tais imagens.’
Starmer saudou esse desenvolvimento nas Perguntas do Primeiro Ministro, mas insistiu que não foi suficientemente longe.
Ele insistiu que a investigação do Ofcom, que tem o poder de impor bilhões de libras em multas, continuaria.
A secretária de tecnologia, Liz Kendall, disse esta semana que estava introduzindo regulamentações para tornar mais rigorosa a lei sobre a chamada “remoção digital”.
Outros países agiram de forma mais decisiva, com a Malásia e a Indonésia bloqueando totalmente Grok.
O governo federal dos EUA, entretanto, recusou-se a condenar a criação de Musk, e o secretário da Defesa, Pete Hegseth, disse que Groke se juntará ao motor generativo de IA do Google para trabalhar dentro da rede do Pentágono.
Sir Kiir, enfrentando parlamentares nas perguntas do primeiro-ministro na terça-feira, disse que mais ações eram necessárias
A ferramenta de mídia social começou a se recusar a atender às solicitações dos usuários depois que o primeiro-ministro exigiu que o bilionário da tecnologia dos EUA tomasse medidas para impedir a criação de deepfakes.
O Departamento de Estado dos EUA até ameaçou o Reino Unido de que “nada estaria fora de questão” se X fosse banido.
Após os comentários do primeiro-ministro nas PMQs, Musk escreveu no X que “não tinha conhecimento de quaisquer imagens de menores nus produzidas por Grok” – apesar do próprio chatbot admitir ter produzido imagens sexualizadas de crianças.
Musk continuou: “É claro que Grok não cria imagens automaticamente, apenas o faz a pedido do usuário”, disse ele.
‘Quando solicitado a criar uma imagem, ele se recusará a criar qualquer coisa ilegal, pois a política operacional da Grok é cumprir as leis de qualquer país ou estado.
‘Pode haver momentos em que a invasão de prompts grok por um oponente causa algo inesperado. Se isso acontecer, corrigiremos o bug imediatamente.’
Se X violar as leis de segurança online no Reino Unido, a Ofcom poderá pagar uma multa de até dez por cento de sua receita global ou £ 18 milhões.
Também tem o poder de bloquear o site na Justiça.
O ex-chefe da Meta, Sir Nick Clegg, pediu uma regulamentação mais rígida das empresas de tecnologia, chamando as mídias sociais de um “cálice tóxico” e a ascensão da IA online de um “desenvolvimento negativo”.
O antigo vice-primeiro-ministro alertou que o envolvimento com conteúdos “automatizados” parece ser “muito pior para a saúde mental dos jovens” do que interagir com outras pessoas.
