인공지능 합성 영상, 무엇이 문제인가?

현재 인류는 인공지능을 활용해 사람의 얼굴과 목소리를 사실적으로 조작한 영상을 만들어낼 수 있게 됐다. 이렇게 조작된 영상을 ‘딥페이크(Deepfake)’라 한다. 영화 산업에서는 CG(Computer Graphics)효과 대신 사용되는 등 콘텐츠 생산에 활용되기도 하지만, 인권 침해 및 가짜 뉴스의 확산과 같은 사회적 문제를 초래하기도 했다. 개인의 얼굴 또는 목소리를 무단으로 도용하는 경우, 피해자는 막대한 심리적·사회적 피해에 시달리게 된다. 또한, 정치인이나 유명 인사의 발언을 조작해 가짜 뉴스를 확산시킬 여지가 있다.

실화인지 합성인지, 구별할 방법이 있는가?

이와 관련해 유튜브는 지난달 18일 자사 블로그를 통해 새로운 레이블링 시스템을 도입하겠다고 밝혔다. 시청자를 대상으로 투명성을 강화하고 창작자와 시청자 간 신뢰도를 높이기 위한 목적으로, 실제와 다른 정보를 제공해 시청자에게 혼란을 줄 수 있는 영상 콘텐츠에는 합성된 장면이라는 꼬리표가 붙게 된다.

단순한 합성 또는 연출된 영상뿐 아니라 인공지능을 활용한 영상도 예외 없이 적용된다. 따라서 앞으로 창작자는 자신이 제작한 콘텐츠 내용 중 실제 상황으로 오인할 수 있는 장면이 포함돼 있다면 영상 업로드 전에 ‘변형 혹은 합성된 콘텐츠(Altered or syntheic content) 레이블이 추가될 수 있음’이라는 설정에 체크해야 한다. 실제 인물의 발언을 조작한 영상이나, 실제로 일어나지 않은 일이 실화처럼 보이는 영상 등이 해당한다. 단, 누가 봐도 합성으로 인식할 수 있는 콘텐츠는 레이블링하지 않아도 된다. 예를 들어, 마법이나 유니콘처럼 비현실적 요소가 등장하거나 직접 그린 애니메이션 영상, 시청자의 이해를 돕기 위한 자막, 배경 흐림과 같은 특수 효과 등은 별도의 레이블링이 필요하지 않다.

신서영 기자 lisa0903@g.shingu.ac.kr