일론 머스크 테슬라 최고경영자(CEO)가 소유한 엑스(X)가 ‘딥페이크’(이미지 합성 기술) 성착취물을 생성해 논란이 된 인공지능(AI) 챗봇 ‘그록’(Grok)의 이미지 생성 기능을 제한하는 자체 안전 조치를 내놨다. X 안전팀은 14일(현지시간) 자체 계정을 통해 “우리는 아동 성착취물 및 동의 없는 노출을 포함한 위험 콘텐츠를 제거하고, X 규칙을 위반한 계정에 대해 적절한 조치를 취하고 있다”고 밝혔다. 이들은 “그록 계정이 실제 인물의 이미지를 편집해 비키니 차림 등 노출이 심한 상태로 생성하는 것을 허용하지 않도록 기술적 조치를 시행했다”며 “이 제한은 유료 구독자를 포함한 모든 사용자에게 적용된다”고 공지했다. 이어 “X 플랫폼에서 그록 계정을 통한 이미지 생성·편집 기능은 현재 유료 구독자에게만 제공된다”며 “이를 통해 그록 계정을 악용해 법이나 우리 정책을 위반하려는 개인이 책임을 질 수 있도록 보장함으로써 추가적인 보호 장치를 더했다”고 설명했다. 그러면서 “생성형 AI의 급속한 발전은 업계 전반에 걸쳐 도전 과제를 제시한다”며 “우리는 문제가 발생할 때 더 신속하게 해결하기 위해 사용자와 파트너, 규제기관 및 다른 플랫폼과 적극적으로 협력하고 있다”고 강조했다. X 측의 이 같은 발표는 미국 캘리포니아주 검찰이 “AI 모델 그록을 이용해 제작된 성적으로 노골적인 이미지 확산에 대한 조사를 개시한다”고 발표한 지 몇 시간 만에 나왔다. 이는 이번 논란과 관련해 미국 내에서 나온 첫 규제 움직임이다. 하지만 X와 그록 개발사 xAI를 소유하고 운영 중인 머스크는 이날 그록이 생성한 미성년자 노출 이미지를 본 적이 없다고 주장했다. 그는 자신의 X 계정에 “나는 그록이 생성한 미성년자 노출 이미지에 대해 전혀 알지 못한다. 말 그대로 제로(Literally zero)”라고 적었다. 2023년 11월 출시된 그록은 X 계정에서 공개 요청하면 곧바로 합성 이미지를 생성해주는 기능을 제공한다. 그록은 딥페이크 성착취물을 손쉽게 생성할 수 있어 국제적 논란이 되고 있다. 사진 속 인물의 동의 없이 “비키니 수영복 입은 사진으로 만들어줘” 등의 프롬프트(인공지능에 사용하는 지시어)를 사용해 합성 이미지를 만들 수 있었던 것으로 알려졌다. 오픈AI의 챗GPT와 구글의 제미나이 등 주요 생성형 AI가 성적 이미지나 콘텐츠 생성을 엄격히 차단하는 것과 달리, 그록은 ‘표현의 자유’를 이유로 이를 제한하지 않았다. 여성·아동의 사진을 비키니 차림 등 성적인 이미지로 편집·생성한 딥페이크 게시물이 확산하자 세계 여러 국가 당국이 이 문제에 대한 조사에 나섰다. 우리 정부도 최근 X에 청소년 보호를 위한 안전장치를 마련하라고 요구했다. 인도네시아와 말레이시아는 그록 접속을 아예 차단했다.