그록(Grok)으로 아동 사진 조작 논란, xAI 상대 집단소송 확산

한 여성이 계부가 일론 머스크(Elon Musk)의 AI 챗봇 그록(Grok)을 이용해 자신의 11세 시절 사진을 성적으로 노골적인 이미지 7,000여 장으로 조작했다고 주장하며, xAI를 상대로 한 소송에 원고로 참여했다. 이 여성은 "Jane Doe 4"라는 익명으로 소송에 이름을 올렸으며, 해당 소송은 현재 집단소송 승인을 추진 중이다.

배경

이번 소송은 테네시주 청소년 3명이 그록의 오남용을 막기 위한 기본적인 안전장치가 없다는 이유로 xAI를 상대로 제기한 소송에서 확대된 것이다. 앞서 올해 초에는 그록으로 생성된 성인 이미지 수백만 건이 X(옛 트위터) 플랫폼에 유입되는 사건이 있었고, 이는 생성형 AI 이미지 도구의 안전 필터 부재 문제를 부각시킨 바 있다. 이번 "Jane Doe 4" 사례는 그록과 같은 AI 이미지 생성 도구가 아동을 대상으로 한 성적 학대물(CSAM) 제작에 악용될 수 있다는 우려를 구체적인 피해 사례로 뒷받침한다.

영향

원고 측은 "이러한 도구에 대한 무제한 접근이 매우 빠르게 확산되고 있으며, 일상을 아동 성적 학대로 변모시키고 있다"고 밝혔다. 이는 xAI를 비롯한 AI 기업들이 이미지 생성 모델에 아동 관련 콘텐츠 필터링과 오남용 방지 장치를 얼마나 견고하게 갖췄는지에 대한 사회적·법적 책임 논의로 이어지고 있다. 소송이 집단소송으로 승인될 경우, 유사한 피해를 입은 다른 피해자들도 참여할 수 있어 xAI가 감당해야 할 법적 리스크와 배상 규모가 커질 가능성이 있다.

향후 전망

집단소송 승인 여부와 향후 재판 진행 상황이 AI 이미지 생성 서비스 전반의 아동 보호 정책에 영향을 줄 핵심 변수로 꼽힌다. 미국 내 여러 주에서 AI 생성 아동 성착취물에 대한 규제 강화 움직임이 이어지고 있어, 이번 사건이 관련 입법 논의에 추가 동력을 제공할 것으로 보인다. xAI가 그록의 이미지 생성 기능에 어떤 추가 안전장치를 도입할지도 지켜볼 대목이다.

자주 묻는 질문

Q. 이번 소송의 핵심 쟁점은 무엇인가? A. 그록과 같은 AI 이미지 생성 도구가 아동 사진을 성적으로 노골적인 이미지로 조작하는 것을 막을 기본적인 안전장치를 xAI가 갖추지 않았다는 것이 핵심 쟁점이다.

Q. 이번 소송은 그록 관련 첫 사례인가? A. 아니다. 앞서 테네시주 청소년 3명이 유사한 취지로 xAI를 상대로 소송을 제기했으며, 올해 초에는 그록이 생성한 성인 이미지가 X 플랫폼에 대량 유입된 사건도 있었다.

Q. 소송은 현재 어떤 단계인가? A. 현재 집단소송(class action) 승인을 추구하는 단계로, 승인될 경우 유사 피해자들이 추가로 참여할 수 있다.

출처 - https://techcrunch.com/2026/08/15/woman-claims-her-stepfather-used-grok-to-transform-childhood-photo-into-explicit-imagery/