오늘은 조금 무거운 주제를 가져왔습니다. 바로 “AI가 만든 지옥”이라는 표현까지 나오게 한 일론 머스크의 인공지능, ‘그록(Grok)’에 대한 이야기인데요. 단 몇 번의 클릭만으로 딥페이크 성착취물을 무한정 만들어낼 수 있다는 사실이 알려지면서 전 세계가 충격에 빠졌습니다. 일본에서도 이 문제가 연일 화제가 되며 AI 윤리와 규제에 대한 목소리가 커지고 있어요. 대체 무슨 일이 벌어지고 있는 걸까요?
클릭 몇 번으로 성착취물이 ‘양산’되는 현실
사건의 발단은 일론 머스크가 설립한 AI 기업 xAI가 개발한 생성형 AI, ‘그록’의 이미지 생성 기능이었습니다. 이 기능은 X(구 트위터) 앱 내에서 누구나 쉽게 사용할 수 있는데요. 문제는 별다른 제약 없이 아동이나 특정 여성의 얼굴을 합성한 성적인 이미지를 대량으로 만들어낼 수 있다는 점이었습니다.
이 사실이 알려지자 각국 정부는 즉각 행동에 나섰습니다.
- 인도네시아와 말레이시아: 전 세계 최초로 ‘그록’ 접속을 차단하는 초강수를 뒀습니다.
- 인도와 프랑스: 당국이 즉각 조사에 착수하며 사태의 심각성을 알렸습니다.
- 미국: 상원에서 피해자가 가해자를 직접 고소할 수 있도록 하는 ‘DEFIANCE Act(반항법)’가 통과되었습니다. 이는 플랫폼 사업자에게 48시간 내 불법 이미지를 삭제하도록 의무화한 ‘Take It Down Act(삭제법)’에 이은 강력한 후속 조치입니다.
이처럼 딥페이크 성착취물을 손쉽게 만들 수 있는 AI 기술이 대중화되면서, 디지털 성범죄가 이전과는 비교할 수 없는 속도와 규모로 확산될 수 있다는 공포가 현실이 된 셈입니다.
왜 ‘그록’이 유독 문제시될까?
사실 AI를 이용한 딥페이크 기술은 이전부터 존재했습니다. 하지만 ‘그록’이 유독 큰 논란을 일으키는 데에는 몇 가지 이유가 있습니다.
첫째, 엄청난 접근성입니다. ‘그록’은 수억 명이 사용하는 소셜 미디어 X와 통합되어 있어, 전문 지식이 없는 일반인도 손쉽게 악용할 수 있습니다. 그야말로 성착취물 ‘양산’이 가능한 환경이 만들어진 것이죠.
둘째, 각국 정부의 신속하고 단호한 대응입니다. 인도네시아의 접속 차단을 시작으로, 미국 정치인들이 직접 나서 “애플과 구글은 앱스토어에서 X를 퇴출시켜야 한다”는 공개서한을 보낼 정도로 사안을 심각하게 보고 있습니다. 이는 AI 기술에 대한 ‘규제’가 더는 미룰 수 없는 과제임을 보여줍니다.
셋째, ‘표현의 자유 vs 윤리’ 논쟁에 불을 지폈습니다. 일론 머스크는 평소 AI 규제에 회의적인 입장을 보여왔는데요. 그의 이런 스탠스가 오히려 기술의 어두운 면을 방치했다는 비판을 받으며 논란을 키우고 있습니다.
일본 현지의 싸늘한 반응
일본 SNS와 온라인 커뮤니티에서도 이번 사태에 대한 우려와 분노의 목소리가 터져 나오고 있습니다. X(트위터)를 통해 피해 이미지가 확산되자, 특히 여성 이용자들을 중심으로 반응이 뜨거운데요.
“AI의 어두운 면이 이렇게 무서운 줄 몰랐다.”
“언제든 내가 표적이 될 수 있다는 생각에 소름이 돋는다.”
“기술 발전도 좋지만, 이건 당장 규제해야 한다!”
물론 일각에서는 ‘표현의 자유’를 침해해서는 안 된다는 기술 옹호론도 나오지만, 대다수는 즉각적인 규제가 필요하다는 부정적인 반응을 보이고 있습니다. 일본 언론 역시 ‘AI 규제의 새로운 시대’가 열렸다며 이번 사태를 집중 조명하고 있습니다.
한국에 던지는 시사점
‘그록’ 사태는 더 이상 바다 건너 남의 이야기가 아닙니다. 한국 역시 N번방 사건 등을 겪으며 디지털 성범죄의 심각성을 경험했기 때문입니다. 누구나 쉽게 악용할 수 있는 AI 기술이 등장한 이상, 우리 사회도 선제적인 대비가 필요합니다.
미국의 ‘DEFIANCE Act’처럼 피해자를 실질적으로 구제하고 가해자를 강력히 처벌할 수 있는 법적 장치 마련이 시급해 보입니다. 또한 AI 개발 기업들이 윤리적 책임을 갖고 악용을 막을 수 있는 필터링 기술을 강화하도록 사회적 압박을 가해야 할 것입니다.
기술의 발전이 우리 삶을 풍요롭게 만드는 도구가 되어야지, 누군가의 존엄성을 파괴하는 ‘지옥’을 만드는 데 사용되어서는 안 될 것입니다. 이번 그록 사태가 AI 시대의 어두운 그림자를 걷어내고, 더 안전한 기술 발전을 이끄는 전환점이 되기를 바라며 글을 마칩니다.
지금까지 휴PD였습니다.