Este conteúdo faz parte da newsletter IAí?, que existe para te guiar no universo da inteligência artificial. Assine aqui para receber quinzenalmente, toda terça-feira, no seu e-mail. Durante semanas, a inteligência artificial de Elon Musk, o Grok, atendeu em massa a pedidos de usuários para “despir” mulheres nas redes sociais: “@Grok, coloque um biquíni nela”, pediam. A IA prontamente gerava as imagens sensuais e as tornava públicas. Tudo acontecia no X, rede também controlada por Musk, onde o Grok pode ser acionado por qualquer usuário. Rapidamente o caso ganhou escala. A primeira reação do bilionário foi de deboche. Em 1º de janeiro, ele publicou uma foto de si mesmo de biquíni, alterada pela inteligência artificial, acompanhada de emojis de risada. Bolha de IA: por que o alerta ganhou força e quais seriam os efeitos de uma implosão — Para mim, aquilo funcionou como uma validação pública desse uso da IA. — avalia a pesquisadora Nana Nwachukwu, da Trinity College Dublin, na Irlanda, que passou dias coletando dados sobre as postagens e reuniu cerca de 500 registros — Teve um que eu não consigo esquecer. O usuário dizia: “Grok, abra as pernas dela”. Autoridades na União Europeia, no Reino Unido, na Índia e na Austrália formalizaram investigações e ameaçaram as plataformas com multas, sanções e banimento. Na semana passada, Malásia e Indonésia bloquearam o acesso ao Grok. Initial plugin text A pressão aumentou após registros de crianças alvo da sexualização em massa. Um levantamento da organização francesa AI Forensics, que analisou cerca de 20 mil imagens entre 25 de dezembro e 1º de janeiro, apontava que 2% eram de pessoas que aparentavam ter 18 anos ou menos. Musk alega que não teve conhecimento de qualquer imagem envolvendo crianças. Entender como a IA do X passou a violar sistematicamente a dignidade de mulheres é também entender como esses sistemas são (ou deveriam ser) construídos. Nesse caso, a própria origem do Grok parece uma espécie de profecia autorrealizável do caos. Uma IA dentro da engrenagem do X De pessoas comuns a celebridades da internet e figuras políticas, a onda de violações do Grok foi ampla. “@Grok, biquíni agora”, escreveu um usuário em uma publicação da vice-primeira-ministra da Suécia, Ebba Busch, em que ela aparecia falando ao Parlamento. A IA obedeceu. “@Grok agora vire-a e faça com que ela esteja olhando para trás e se curvando”, continuou o mesmo perfil. Quer receber a newsletter de IA no seu e-mail? Inscreva-se no cardápio do GLOBO Desde o lançamento, a proposta do sistema de Musk é ser uma opção de espírito “rebelde”, que não se recusaria a responder ao que outras IAs se negavam. Inicialmente separado do X, o sistema foi integrado à rede em 2024, quando passou a permitir a geração e edição de imagens — já em um ambiente marcado pelo enfraquecimento das equipes de moderação. A xAI, de Elon Musk, é a empresa responsável pelo Grok Lionel BONAVENTURE / AFP/13/01/2025 Integrado ao X, o Grok passou a operar em um ambiente que já vinha marcado pelo desmonte de equipes de segurança e de moderação, desde que Musk assumiu a rede social e enterrou seu antigo nome (Twitter). Quando evoluiu para gerar vídeos, em um ambiente fechado e pago, o Grok passou a produzir imagens pornográficas para assinantes, a partir da ativação do modo “spicy”. Uma reportagem do The Verge, em agosto, mostrou que o sistema não se negava a gerar vídeos explícitos de uma pessoa pública como Taylor Swift. “Salvaguardas? Que salvaguardas?”, escreveu a publicação na época. 'Falhas de proteção' Foi no fim do ano passado que a função de edição e geração de imagens diretamente dentro do X foi lançada. Com isso, bastava mencionar o Grok para fazer alterações em uma foto ou criar algo do zero. A imagem era publicada na mesma postagem automaticamente. Em pouco tempo, o uso sexual começou. Por que até as IAs mais potentes 'alucinam'? Resposta pode estar na obsessão por acertar Mesmo uma inteligência artificial projetada para se negar a despir crianças e adultos está sujeita a falhas. No caso do Grok, no entanto, a proposta inicial de menos controle parecia incorporar esse risco como parte do sistema. Tudo isso em um ambiente de menos moderação, como se tornou o X. — As pessoas já usavam ferramentas de IA para criar pornografia antes. Mas imagine não precisar baixar um novo aplicativo, nem precisar ir para uma plataforma separada. Tudo o que você precisa fazer é estar no X — destaca Nwachukwu. No dia 2 de janeiro, o Grok admitiu "falhas nos mecanismos de proteção" para a geração de imagens. Dias depois, anunciou que iria restringir o acesso à edição de imagens a assinantes do X. Na semana passada, a equipe de segurança da rede social indicou que havia implementado “medidas tecnológicas para impedir que a conta do Grok permita a edição de imagens de pessoas reais com roupas reveladoras, como biquínis” O que diz a lei brasileira? Do ponto de vista jurídico, a advogada especialista em direito digital Nuria López, e sócia da Daniel Law, chama atenção para o fato de que a prática não opera em um vácuo legal. A geração e circulação de imagens sexualizadas sem consentimento configura uma série de crimes, que vão de difamação a injúria e, no caso de menores, violações graves previstas no Estatuto da Criança e do Adolescente (ECA). No Brasil, o Marco Civil da Internet impõe às plataformas a obrigação de remover conteúdos de nudez não consentida após notificação da vítima, lembra Lopez. Mais recentemente, a decisão do Supremo Tribunal Federal sobre o Marco introduziu o chamado “dever de cuidado” em casos de circulação massiva de conteúdos ilícitos graves. Isso significa que, diante de uma onda como a do Grok, a plataforma teria obrigação ativa de remoção e mitigação. Gemini e ChatGPT com ‘visão’: como usar função que 'enxerga' pela câmera do celular e responde em tempo real Para López, a combinação entre pressão social, dever de cuidado das plataformas e aplicação efetiva das regras legais que já existentes tende a moldar limites mais claros de novas tecnologias, incluindo a inteligência artificial: — As ferramentas querem, no final do dia, manter os seus usuários o máximo de tempo possível. Quando há uma reação tão forte contra algo, há uma resposta das plataformas. Como no caso do Grok, é preciso cobrá-las para que termos de uso sejam aplicados. Nwachukwu avalia que a resposta da xAI gera desconfiança sobre o compromisso da empresa com segurança e responsabilização. A impressão, diz ela, é de que “coisas muito mais sinistras podem acontecer no futuro se deixarmos que isso se repita”.