딥페이크 영상, 처벌될까?

IT기술, 그중에서 AI기술이 고도로 발달함에 따라 딥페이크 영상도 많이 만들어지고 있습니다. 그에 따라 딥페이크 영상으로 인한 피해가 발생하고 사회적인 문제까지 되고 있습니다. 딥페이크 영상이란 무엇인지 알아보겠습니다. 이어서, 딥페이크 영상에 대해 어떤 처벌이 이뤄지는 지도 설명드리겠습니다.
 

딥페이크 영상

1. 딥페이크 영상이란?

가. 딥페이크 영상의 뜻

딥페이크(deepfake)는 인공지능의 심층 학습을 뜻하는 “딥러닝(Deep learning)”과 “가짜(Fake)”를 결합하여 만든 단어입니다.
 
딥페이크 영상은 사람의 얼굴‧신체를 대상으로 한 촬영물‧영상물 등을 인공지능(AI) 기술을 이용하여 영화의 컴퓨터그래픽(CG)처럼 편집‧합성한 영상으로서, 대상자 얼굴과 음란물을 정교하게 합성한 경우가 주로 문제 됩니다.
 

나. 딥페이크 영상이 문제 된 사례

(1) 미국 테일러 스위프트

2024년 1월 세계적인 팝스타 테일러 스위프트의 얼굴에 음란물을 합성한 딥페이크가 온라인으로 삽시간에 퍼지면서 미국 사회가 발칵 뒤집혔습니다 미국 언론에 따르면, 엑스(X·옛 트위터) 등을 통해 확산한 이 영상은 삭제되기 전까지 약 19시간 만에 4,700만 회가 조회됐다고 합니다. 백악관 대변인까지 나서 "매우 우려스럽다"는 반응을 낼 정도이고, 스위프트 딥페이크 사건을 계기로 AI를 이용한 가짜 이미지 생성에 강한 규제가 필요하다는 미국 내 목소리가 더욱 커지고 있습니다.
 
딥페이크를 이용한 음란 영상물은 미국만의 문제가 아닙니다. 방송통신심의위원회에 따르면 성적 허위 영상물에 대한 시정 요구는 2020년 473건에서 지난해 6000건 이상으로 급증했다고 합니다.
 

 
 

(2) 한국 윤석열 대통령

한국에서도 2023년 지방선거를 앞두고 국민의힘 지지자로 추정되는 인물이 ‘AI 윤석열’을 활용해 당시 국민의힘 남해군수 후보를 지지하는 영상을 제작해 문제가 된 바 있습니다.
 
또한 “저 윤석열, 국민을 괴롭히는 법을 집행해 온 사람입니다.”라고 발언을 하는 ‘가짜’ 윤석열 대통령 딥페이크 영상물이 ‘윤석열 대통령 양심고백 영상’이란 제목으로 소셜미디어에서 확산된 적이 있습니다.
 

 
 

 

2. 딥페이크 영상물에 대한 처벌

가. 음란 영상물

실존하는 인물과 음란 영상물을 합성하여 영상을 만들면 어떤 일이 생길까요?
 
과거에는 처벌 규정이 없어서 처벌할 수 없거나 명예훼손 또는 음란물유포 등의 요건을 충족하는 경우에만 해당 범죄로 처벌이 가능하여 문제라는 비판이 제기되었습니다.
 
하지만 지금은 다릅니다. “성폭력범죄의 처벌 등에 관한 특례법(성폭력처벌법)”이 개정되어 ‘딥페이크 영상물’을 제작‧반포 등을 한 자를 ‘5년 이하의 징역 또는 5천만 원 이하의 벌금’으로, 영리를 목적으로 제작‧반포 등을 한 경우에는 ‘7년 이하의 징역’으로 가중 처벌합니다.
 

○ 성폭력처벌법 제14조의2(허위영상물 등의 반포등) ① 반포등을 할 목적으로 사람의 얼굴ㆍ신체 또는 음성을 대상으로 한 촬영물ㆍ영상물 또는 음성물(이하 이 조에서 “영상물등”이라 한다)을 영상물등의 대상자의 의사에 반하여 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집ㆍ합성 또는 가공(이하 이 조에서 “편집등”이라 한다)한 자는 5년 이하의 징역 또는 5천만원 이하의 벌금에 처한다. ② 제1항에 따른 편집물ㆍ합성물ㆍ가공물(이하 이 항에서 “편집물등”이라 한다) 또는 복제물(복제물의 복제물을 포함한다. 이하 이 항에서 같다)을 반포등을 한 자 또는 제1항의 편집등을 할 당시에는 영상물등의 대상자의 의사에 반하지 아니한 경우에도 사후에 그 편집물등 또는 복제물을 영상물등의 대상자의 의사에 반하여 반포등을 한 자는 5년 이하의 징역 또는 5천만원 이하의 벌금에 처한다. ③ 영리를 목적으로 영상물등의 대상자의 의사에 반하여 정보통신망을 이용하여 제2항의 죄를 범한 자는 7년 이하의 징역에 처한다. ④ 상습으로 제1항부터 제3항까지의 죄를 범한 때에는 그 죄에 정한 형의 2분의 1까지 가중한다.

 
 

나. 허위사실 공표

딥페이크 영상을 만들어서 선거에 활용하면 “공직선거법”에 위반될 여지가 있습니다.
 
선거일 전 90일부터 선거일까지 선거운동을 위하여 딥페이크 영상을 만드는 행위는 금지됩니다. 딥페이크 영상 제작뿐만 아니라, 딥페이크 영상을 편집ㆍ유포ㆍ상영 또는 게시하는 행위 역시 금지됩니다.
 

□ 공직선거법 ○ 제82조의8(딥페이크영상등을 이용한 선거운동) ① 누구든지 선거일 전 90일부터 선거일까지 선거운동을 위하여 인공지능 기술 등을 이용하여 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등(이하 “딥페이크영상등”이라 한다)을 제작ㆍ편집ㆍ유포ㆍ상영 또는 게시하는 행위를 하여서는 아니 된다. ② 누구든지 제1항의 기간이 아닌 때에 선거운동을 위하여 딥페이크영상등을 제작ㆍ편집ㆍ유포ㆍ상영 또는 게시하는 경우에는 해당 정보가 인공지능 기술 등을 이용하여 만든 가상의 정보라는 사실을 명확하게 인식할 수 있도록 중앙선거관리위원회규칙으로 정하는 바에 따라 해당 사항을 딥페이크영상등에 표시하여야 한다.

 
또한 공직선거법은 누군가를 당선되게 할 목적으로 허위사실을 공표하는 행위를 금지하고 있습니다. 당선뿐만 아니라 낙선시키기 위해 허위사실을 공표하는 것 역시 금지됩니다.
 

□ 공직선거법 ○ 제250조(허위사실공표죄) ①당선되거나 되게 할 목적으로 연설ㆍ방송ㆍ신문ㆍ통신ㆍ잡지ㆍ벽보ㆍ선전문서 기타의 방법으로 후보자(候補者가 되고자 하는 者를 포함한다. 이하 이 條에서 같다)에게 유리하도록 후보자, 후보자의 배우자 또는 직계존비속이나 형제자매의 출생지ㆍ가족관계ㆍ신분ㆍ직업ㆍ경력등ㆍ재산ㆍ행위ㆍ소속단체, 특정인 또는 특정단체로부터의 지지여부 등에 관하여 허위의 사실[학력을 게재하는 경우 제64조제1항의 규정에 의한 방법으로 게재하지 아니한 경우를 포함한다]을 공표하거나 공표하게 한 자와 허위의 사실을 게재한 선전문서를 배포할 목적으로 소지한 자는 5년이하의 징역 또는 3천만원이하의 벌금에 처한다. ②당선되지 못하게 할 목적으로 연설ㆍ방송ㆍ신문ㆍ통신ㆍ잡지ㆍ벽보ㆍ선전문서 기타의 방법으로 후보자에게 불리하도록 후보자, 그의 배우자 또는 직계존ㆍ비속이나 형제자매에 관하여 허위의 사실을 공표하거나 공표하게 한 자와 허위의 사실을 게재한 선전문서를 배포할 목적으로 소지한 자는 7년 이하의 징역 또는 500만원 이상 3천만원 이하의 벌금에 처한다. ③당내경선과 관련하여 제1항(제64조제1항의 규정에 따른 방법으로 학력을 게재하지 아니한 경우를 제외한다)에 규정된 행위를 한 자는 3년 이하의 징역 또는 6백만원 이하의 벌금에, 제2항에 규정된 행위를 한 자는 5년 이하의 징역 또는 1천만원 이하의 벌금에 처한다. 이 경우 “후보자” 또는 “후보자(후보자가 되고자 하는 자를 포함한다)”는 “경선후보자”로 본다. <신설 2005. 8. 4.> ④ 제82조의8제2항을 위반하여 중앙선거관리위원회규칙으로 정하는 사항을 딥페이크영상등에 표시하지 아니하고 제1항에 규정된 행위를 한 자는 5년 이하의 징역 또는 5천만원 이하의 벌금에, 제2항에 규정된 행위를 한 자는 7년 이하의 징역 또는 1천만원 이상 5천만원 이하의 벌금에 처한다.

 
※ 중앙선거관리위원회의 ‘딥페이크영상등’ 이용 선거운동 관련 법규운용기준 다운로드 하기(아래 파일 클릭)

딥페이크영상등’_이용_선거운동_관련_법규운용기준(2024.1

0.28MB

 
 

3. 정부의 규제

딥페이크 문제가 심각해지자 정부도 대응방안을 마련하고 있습니다.
 
방송통신위원회(방통위)의 2024년 업무계획에 따르면, 인공지능(AI)을 활용해 만든 콘텐츠에는 반드시 ‘AI 창작물’ 임을 표기토록 하는 방안이 추진됩니다. 또한 방통위는 ‘인공지능서비스 이용자 보호에 관한 법률’ 제정을 준비하고 있습니다.