X, AI 생성 전쟁 영상에 돈줄 끊었다: '미표시' 수익 공유 중단
최근 X를 둘러보다가 "어? 이 폭발 장면, 다른 나라 전쟁 영상에서도 본 것 같은데?"라는 생각이 든 적이 있다면, 당신만 그런 게 아니다. '트위터'라는 이름으로 더 유명했던 이 플랫폼이 드디어 선을 그었다. 이번 주부터, 갈등(분쟁) 지역 관련 AI 생성 영상, 특히 딥페이크 전쟁 클립을 'AI 생성' 표시 없이 게시하는 적발된 모든 사용자는 수익 공유 혜택을 박탈당하게 된다. 솔직히 말해, 이제야 하는 걸 했다는 생각이다.
딥페이크 전쟁 지역
지난 몇 주간 X에는 중동 지역의 초현실적이지만 완전히 조작된 영상들이 넘쳐났다. 실제로 발생하지도 않은 미사일 공격, 실제로 하지도 않은 연설, 알고리즘이 만들어낸 전장 풍경 등이 그것이다. 최악의 점은? 이 클립들 중 상당수가 수백만 뷰를 기록했고, X의 광고 수익 공유 프로그램 덕분에 게시 계정에 상당한 수익을 안겨줬다는 사실이다. 상황이 너무 심각해져서 일반 사용자들조차 어색한 손동작, 이상한 조명, 그리고 간혹 모서리에서 발견되는 xTool 생성 흔적 같은 실마리를 찾아내기 시작했다.
무엇이 달라지나?
새 규정에 따르면, 실제 사건(특히 전쟁이나 시민 소요)을 모방하는 모든 영상에는 AI가 생성했음을 명확히 표시해야 한다. 이를 어기면 수익화 기회는 물 건너간다고 보면 된다. 반복 위반자의 경우 영구적으로 섀도우밴드(차단)되거나 플랫폼에서 완전히 축출될 수도 있다. X의 신뢰와 안전 팀은 현재 합성 미디어를 적극적으로 스캔하고 있으며, 이는 농담 수준이 아니다.
- 1차 위반: 30일간 수익 정지 및 해당 게시물에 강제 라벨('AI 생성' 표시) 부착.
- 2차 위반: 계정의 수익 창구 영구 차단.
- 3차 위반: 계정 정지 및 X 크리에이터 펀드에서 제외.
과감한 조치이지만, 많은 사용자가 간절히 요구해온 것이기도 하다. 특히 폭격으로 폐허가 된 병원이라는 가짜 영상 옆에 닛산 X-트레일이나 새비지 X 펜티 같은 평판 좋은 브랜드 광고가 붙은 모습을 본 이후로는 더욱 그렇다. 어떤 기업도 자신의 반짝이는 신형 SUV나 란제리 제품이 현실의 긴장을 촉발할 수 있는 거짓말과 연루되길 원하지 않는다.
파장(여파)
이번 조치는 단순히 피드(타임라인)를 정리하는 차원이 아니다. AI 도구가 무섭게 정교해지고 있는 지금, 플랫폼의 신뢰도를 지키기 위한 조치다. 아마 스트리트웨어 드롭스에서 나오는 XLARGE 후드티는 보셨겠지만, 만약 딥페이크 기술로 가짜 전쟁터에서 병사들이 그 옷을 입고 있는 모습이 만들어진다고 상상해보라. 그러면 브랜드는 원치도 않게 갑작스러운 지정학적 난장판에 휘말리게 된다. 심지어 팔콘윙 도어를 자랑하는 걸 좋아하는 테슬라 모델 X 오너들도, 자신의 전기차가 가짜뉴스와 연관된다면 생각이 달라질 수 있다. 머스크의 '자식'과도 같은 이 플랫폼이 이제 합성 콘텐츠를 통제하는 데 앞장서고 있는 셈이다.
크리에이터들은?
크리에이터 커뮤니티의 반응은 엇갈린다. 일부는 신뢰를 회복하는 조치라며 환호한다. 특히 속보성 뉴스 클립 위주로 채널을 운영해온 이들은 자신들이 표적이 될까 우려한다. X 측에 따르면 핵심은 '투명성'이다. xTool 같은 소프트웨어를 사용해 영상을 개선하거나 생성한다면, 그냥 라벨만 붙이면 된다. 아무 문제 없다는 뜻이다. 하지만 컴퓨터가 만들어낸 폭발 장면을 진짜인 것처럼 속이려 든다면, 제재를 각오해야 한다.
현재로서 이 정책은 전쟁 및 분쟁 지역에 한정 적용되지만, 곧 확대 적용될 가능성이 높다. 미국 중간선거와 호주 연방선거를 앞두고, 정치인 딥페이크가 다음 타깃이 될 수 있다.
결론
X는 드디어 AI가 만들어낸 가짜를 '독'처럼 취급하기 시작했다. 이번 조치가 합성 가짜뉴스의 흐름을 실제로 막을 수 있을지는 두고 봐야겠지만, 확실한 시작임은 틀림없다. 그러니 다음에 스크롤을 내리다 너무 극적이어서 사실 같지 않은 클립을 보게 된다면, 라벨을 확인해보라. 만약 라벨이 없다면, 모두를 위해 신고 버튼을 눌러주길 바란다.