O procurador-geral da Califórnia anunciou nesta quarta-feira (14) o início de uma investigação contra a empresa xAI, de Elon Musk, devido à proliferação de imagens de caráter sexual de mulheres e menores de idade produzidas com sua ferramenta de inteligência artificial Grok. A investigação se soma às várias abertas contra a X em diferentes países após a disseminação de imagens pornográficas falsas criadas com o Grok. Ainda disponível para alguns: Grok desativa ferramenta que permite despir pessoas para usuários não pagantes Alerta: Grok, ferramenta de IA de Musk, gera 85 vezes mais imagens de pessoas sexualizadas por hora que outros sites "A xAI parece facilitar a produção em larga escala de montagens íntimas não consentidas (deepfakes), utilizadas para assediar mulheres e meninas na internet, principalmente por meio da rede social X", indica o procurador Rob Bonta em um comunicado. Em consequência, seu gabinete iniciará uma "investigação sobre a xAI para determinar se, e como, a xAI violou a lei", acrescentou. "Exorto a xAI a tomar medidas imediatas para que isso não volte a acontecer", afirmou o procurador. "Temos tolerância zero para a criação e disseminação, com IA, de imagens íntimas não consentidas ou de material pedopornográfico", disse Bonta. Um movimento internacional de indignação se intensificou nas últimas semanas contra o Grok e a possibilidade que oferece de modificar imagens, em particular as publicadas na rede X, também de propriedade de Musk. 'Imagens eróticas' e 'lapsos de salvaguardas': entenda a acusação sobre sexualização de menores contra o Grok, a IA do X Medidas legais: Rede X, de Musk, enfrenta ação judicial na Malásia por imagens sexuais geradas pelo Grok Alguns usuários aproveitaram essa função para publicar ou responder a mensagens que continham fotografias de mulheres, junto com a instrução "coloque-a de biquíni", a fim de gerar uma imagem falsa hiper-realista (deepfake). Desde 9 de janeiro, a função para criar imagens foi desativada para os usuários que não pagam a X, que afirma que tomará medidas para suprimir esses conteúdos ilegais e suspender as contas envolvidas. Na semana passada, uma análise de mais de 20 mil imagens geradas pelo Grok, realizada pela organização sem fins lucrativos AI Forensics, com sede em Paris, concluiu que mais da metade mostrava "indivíduos com vestimenta mínima", a maioria mulheres, e que 2% aparentavam ser menores de 18 anos. Iniciativa: Indonésia suspende temporariamente Grok, IA de Elon Musk, após escândalo com fotos pornográficas falsas Mais repercussão: Após Indonésia, Malásia suspende acesso ao Grok por gerar conteúdo pornográfico Mais reação: Reino Unido investiga X após denúncias de uso do Grok por criar imagens sexualizadas de mulheres e crianças