최근 유튜브를 비롯한 SNS에 인공지능(AI)이 자동으로 생성한 짧은 영상 콘텐츠가 급증하며, 플랫폼이 ‘디지털 찌꺼기(AI 슬롭)’로 채워지고 있다는 우려가 커지고 있다. 흥미를 자극하는 듯하지만 정보의 질은 낮고, 때론 허위 정보와 광고로까지 이어지는 이 콘텐츠들로 인해 사회적 혼란이 가중되고 있다.
미국의 유튜브 분석 매체 튜브필터에 따르면, 지난 5월 말 기준으로 전 세계에서 구독자가 가장 빠르게 늘어난 유튜브 채널 50곳 중 8곳이 AI가 만든 짧은 영상을 주로 게시하는 채널인 것으로 나타났다. 특히 인도와 파키스탄의 국기 색을 입힌 캐릭터들이 싸우는 등 국적 감정을 자극하는 영상이 다수 확인되며, 이른바 ‘AI 슬롭’이 인기 요소로 자리 잡는 양상이다.
이러한 트렌드의 배경에는 미드저니, 구글의 VEO, 오픈AI의 소라(Sora) 등 AI 영상 제작 도구의 대중화가 있다. 유튜브도 크리에이터들이 AI 도구를 활용해 창작의 폭을 넓힐 수 있다며 AI 콘텐츠를 장려하고 있어, 생성형 AI 영상의 확산을 더욱 가속하고 있다.
하지만 이에 따른 부작용도 적지 않다. 스탠퍼드대 연구진은 페이스북에서 AI 이미지 콘텐츠를 50개 이상 올린 페이지 125개를 분석한 결과, 다수가 클릭 유도형 광고 페이지로 연결되는 등 스팸성 콘텐츠로 악용되고 있었다고 밝혔다. 실제 인물의 얼굴이나 목소리를 AI로 재현해 혼란을 일으키는 사례도 이어지고 있다. 최근에는 교황 레오 14세의 모습을 본뜬 AI 영상 수십 건이 유튜브에 게시되어, 이 중 일부는 삭제 조치됐다.
이처럼 AI 영상의 신뢰성 문제가 부각되면서, 광고주들은 자신들의 브랜드가 저품질 또는 유해 콘텐츠에 연계되는 것을 우려하고 있다. 이에 따라 새로운 대응 방안도 등장했다. KT 계열 광고회사 나스미디어는 유튜브 콘텐츠 맥락을 AI로 분석해 광고 노출을 차단하는 ‘세이프 콘텍스트 비디오(SCV)’ 서비스를 출시했다. 해당 서비스는 유해 콘텐츠로 분류된 영상에는 광고가 자동으로 걸리지 않도록 해, 브랜드 보호 기능을 제공한다.
가짜 뉴스와 스팸 영상의 홍수 속에서, AI 영상 기술의 순기능과 역기능 사이 균형을 잡는 것이 플랫폼과 사회 모두에 중요한 과제가 되고 있다.
김지원 기자 info@dowaseum.org
[저작권자 ⓒ디지털트렌드코리아 무단 전재-재배포 금지]
최근 유튜브를 비롯한 SNS에 인공지능(AI)이 자동으로 생성한 짧은 영상 콘텐츠가 급증하며, 플랫폼이 ‘디지털 찌꺼기(AI 슬롭)’로 채워지고 있다는 우려가 커지고 있다. 흥미를 자극하는 듯하지만 정보의 질은 낮고, 때론 허위 정보와 광고로까지 이어지는 이 콘텐츠들로 인해 사회적 혼란이 가중되고 있다.
미국의 유튜브 분석 매체 튜브필터에 따르면, 지난 5월 말 기준으로 전 세계에서 구독자가 가장 빠르게 늘어난 유튜브 채널 50곳 중 8곳이 AI가 만든 짧은 영상을 주로 게시하는 채널인 것으로 나타났다. 특히 인도와 파키스탄의 국기 색을 입힌 캐릭터들이 싸우는 등 국적 감정을 자극하는 영상이 다수 확인되며, 이른바 ‘AI 슬롭’이 인기 요소로 자리 잡는 양상이다.
이러한 트렌드의 배경에는 미드저니, 구글의 VEO, 오픈AI의 소라(Sora) 등 AI 영상 제작 도구의 대중화가 있다. 유튜브도 크리에이터들이 AI 도구를 활용해 창작의 폭을 넓힐 수 있다며 AI 콘텐츠를 장려하고 있어, 생성형 AI 영상의 확산을 더욱 가속하고 있다.
하지만 이에 따른 부작용도 적지 않다. 스탠퍼드대 연구진은 페이스북에서 AI 이미지 콘텐츠를 50개 이상 올린 페이지 125개를 분석한 결과, 다수가 클릭 유도형 광고 페이지로 연결되는 등 스팸성 콘텐츠로 악용되고 있었다고 밝혔다. 실제 인물의 얼굴이나 목소리를 AI로 재현해 혼란을 일으키는 사례도 이어지고 있다. 최근에는 교황 레오 14세의 모습을 본뜬 AI 영상 수십 건이 유튜브에 게시되어, 이 중 일부는 삭제 조치됐다.
이처럼 AI 영상의 신뢰성 문제가 부각되면서, 광고주들은 자신들의 브랜드가 저품질 또는 유해 콘텐츠에 연계되는 것을 우려하고 있다. 이에 따라 새로운 대응 방안도 등장했다. KT 계열 광고회사 나스미디어는 유튜브 콘텐츠 맥락을 AI로 분석해 광고 노출을 차단하는 ‘세이프 콘텍스트 비디오(SCV)’ 서비스를 출시했다. 해당 서비스는 유해 콘텐츠로 분류된 영상에는 광고가 자동으로 걸리지 않도록 해, 브랜드 보호 기능을 제공한다.
가짜 뉴스와 스팸 영상의 홍수 속에서, AI 영상 기술의 순기능과 역기능 사이 균형을 잡는 것이 플랫폼과 사회 모두에 중요한 과제가 되고 있다.
김지원 기자 info@dowaseum.org
[저작권자 ⓒ디지털트렌드코리아 무단 전재-재배포 금지]