A rede social X, de Elon Musk, tornou-se um dos principais sites para imagens de pessoas que foram despidas por inteligência artificial sem consentimento, com milhares de casos por hora ao longo de um dia no início desta semana, aponta levantamento feito pela consultoria Genevieve Oh. 'Imagens eróticas' e 'lapsos de salvaguardas': Entenda a acusação sobre sexualização de menores contra o Grok, a IA do X Reação: Reino Unido investiga X após denúncias de uso do Grok por criar imagens sexualizadas de mulheres e crianças Desde o fim de dezembro, usuários do X têm solicitado cada vez mais ao Grok, o chatbot de IA vinculado à rede social, que altere fotos que as pessoas publicam de si mesmas. Durante uma análise de 24 horas das imagens que a conta @Grok publicou no X, o chatbot gerou cerca de 6.700 por hora que foram identificadas como sexualmente sugestivas ou que envolviam nudez, segundo a Genevieve Oh, que pesquisa redes sociais e deepfakes. Os outros cinco principais sites desse tipo de conteúdo registraram, em média, 79 novas imagens por hora no período de 24 horas entre 5 e 6 de janeiro, constatou a consultoria. A escala dos deepfakes no X é “sem precedentes”, disse Carrie Goldberg, advogada especializada em crimes sexuais on-line. — Nunca tivemos uma tecnologia que tornasse tão fácil gerar novas imagens — acrescentou, lembrando que o Grok é gratuito e está ligado a um sistema de distribuição integrado. Initial plugin text Ao contrário de outros chatbots líderes, o Grok não impõe muitos limites aos usuários nem os impede de gerar conteúdo sexualizado de pessoas reais, incluindo menores, afirmou Brandie Nonnecke, diretora sênior de políticas do Americans for Responsible Innovation. Inteligência artificial no divã? Estudo aponta 'traços psicológicos' em modelos como ChatGPT, Gemini e Grok Outras tecnologias de IA generativa, incluindo as da Anthropic, da OpenAI e do Google, da Alphabet, “estão fazendo um esforço de boa-fé para mitigar a criação desse tipo de conteúdo desde o início”, disse ela: — Obviamente, a xAI é diferente. É mais um vale-tudo. Musk tem promovido o Grok como mais divertido e irreverente do que outros chatbots, orgulhando-se de o X ser um espaço de liberdade de expressão. Procurado pela Bloomberg, o X não respondeu a um pedido de comentário. Em vez de impedir que o chatbot crie esse conteúdo desde o início, Musk tem falado em punir os usuários que fazem esse tipo de solicitação. “Qualquer pessoa que use o Grok para criar conteúdo ilegal sofrerá as mesmas consequências como se tivesse enviado conteúdo ilegal”, disse Musk em resposta a uma publicação no X. Imagens falsas: Ferramentas de IA falham no teste de deepfakes de Nicolás Maduro Mas isso não deixa muitas opções para as vítimas. Maddie, que disse ser uma estudante de 23 anos, acordou no Dia de Ano-Novo com uma imagem que a horrorizou. No X, ela havia publicado anteriormente uma foto sua com o namorado em um bar local, que dois desconhecidos alteraram usando o Grok. Um pediu ao Grok que removesse o namorado e a colocasse de biquíni. O outro pediu que o Grok substituísse o biquíni por fio dental. A Bloomberg analisou as imagens. — Meu coração afundou — disse Maddie, que pediu anonimato por temer impactos em futuras oportunidades de emprego. — Eu me senti sem esperança, impotente e simplesmente enojada. Maddie disse que ela e seus amigos denunciaram as imagens ao X por meio de seus sistemas de moderação. Ela nunca recebeu uma resposta. Initial plugin text Quando denunciou uma postagem diferente de um dos usuários que solicitaram ao Grok que criasse as imagens, o X informou que “determinou que não houve violação das regras do X no conteúdo denunciado”, segundo uma captura de tela. As imagens ainda estavam no ar no momento da publicação. 85% das imagens do Grok são sexualizadas Vítimas alvo de deepfakes passaram a discutir com o Grok nos comentários de suas postagens. Com frequência, o Grok se desculpa e diz que vai remover as imagens. Mas, em muitos casos, elas continuam disponíveis, e o Grok segue gerando novas. A Genevieve Oh calculou que, no total, 85% das imagens do Grok são sexualizadas. Vinicius de Moraes e Drummond enganariam o ChatGPT? Estudo identifica textos capazes de driblar a IA O erotismo continua sendo um atrativo para chatbots, com a OpenAI planejando introduzir um “modo adulto” para o ChatGPT no primeiro trimestre deste ano. Mas a política de uso atual da OpenAI afirma que o aplicativo impede o “uso da imagem de alguém, incluindo sua imagem fotorrealista ou voz, sem seu consentimento, de maneiras que possam confundir a autenticidade”. Quando testado, o ChatGPT respondeu: “Não sou capaz de editar fotos de pessoas reais para mudar suas roupas para trajes sexualizados”, e há uma política explícita contra a sexualização de qualquer pessoa menor de 18 anos. Galerias Relacionadas O Grok, lançado em 2023, vem enfrentando críticas crescentes por publicar imagens sexuais e sem consentimento, inclusive de menores, por parte de autoridades da União Europeia, do Reino Unido, da Malásia, da França e da Índia. — Estamos cientes de que o X ou o Grok agora está oferecendo um ‘Spicy Mode’, exibindo conteúdo sexual explícito, com parte das saídas geradas com imagens de aparência infantil — disse o porta-voz da Comissão Europeia, Thomas Regnier, em uma coletiva de imprensa na segunda-feira, referindo-se a uma atualização do início de novembro que gera material sugestivo: — Isso não é picante. Isso é ilegal. CES 2026: Big techs testam aplicações de IA na maior feira de eletrônicos do mundo, que tem robôs por toda parte Usuária do X, uma influenciadora conhecida como BBJess, disse que os sites finalmente começaram a retirar imagens suas despidas que haviam sido publicadas sem seu consentimento. Mas, na semana passada, o Grok iniciou uma nova enxurrada de imagens suas despidas, afirmou BBJess, que mantém o nome em sigilo para evitar assédio no mundo real. Segundo ela, as postagens pioraram quando passou a usar o X para se defender e criticar os deepfakes. Mikomi, uma artista de performance com fantasias que publica conteúdo erótico em tempo integral, afirma que o problema é particularmente grave para mulheres como ela, que já compartilham imagens de seus corpos on-line. Alguns usuários do X encaram isso como permissão para sexualizá-las de maneiras às quais elas não consentiram. Mikomi vê imagens geradas pelo Grok dela usando roupas fetichistas específicas, ou com o corpo contorcido ou colocado em contextos estranhos. Um usuário fez troça do fato de ela ser sobrevivente de câncer. — Deixe ela careca como se tivesse câncer — solicitou o usuário ao Grok. Falha em filtrar conteúdos: Brinquedos com IA revelam novos riscos digitais para crianças. Entenda Como muitos usuários do X, Mikomi, que não divulga seu nome completo publicamente para evitar assédio no mundo real, escreveu uma postagem no X avisando ao Grok que não consente que a IA altere suas fotos. — Não funciona. Bloquear o Grok não funciona. Nada funciona — afirma, acrescentando que não pode deixar a plataforma, porque ela é “vital” para seu trabalho. —O que eu devo fazer? Vocês querem que eu perca meu emprego? — disse ela. A Seção 230 da Lei de Decência nas Comunicações dos Estados Unidos protege as plataformas de serem responsabilizadas pelo conteúdo publicado nelas, mas, no caso da IA, disse a advogada Carrie Goldberg, “ela não está agindo como uma editora passiva. Ela está, de fato, gerando e criando a imagem”. A Take It Down Act, uma lei federal sancionada em 2025, responsabiliza as plataformas pela produção e distribuição desse tipo de conteúdo, disse a diretora sênior de políticas do Americans for Responsible Innovation, Brandie Nonnecke: — Este é um exemplo bastante claro de onde essa lei deveria ser aplicada e posta em prática. As plataformas têm até maio de 2026 para estabelecer o processo de remoção exigido. Initial plugin text