[시사오늘·시사ON·시사온=정재준 한국학교폭력예방연구소 소장]

2017년 말, 'deepfakes'라는 닉네임의 사용자가 처음 얼굴 바꿔치기 동영상을 개발했고, 2022년부터 생성형 AI의 발달로 실사와 구분이 불가능한 고화질, 고품질의 AI 이미지 생성이 가능해졌다. 크게 두 가지 딥페이크 기술이 있는데 얼굴 등 외모를 교체하는 방법과 목소리를 교체하는 방법이 있다.

얼굴 등 외모를 교체하는 방법 중에 가장 많이 쓰이는 방법이 “원하는 인물의 정상적인 사진에 옷 부분만 Inpaint 해서 몸 부분만 AI가 나체로 생성해 덧붙이는 방식”이다. 이제는 '딥페이크'란 단어가 AI 모델이나 작동 방식을 따지지 않고 특정인을 대상으로 가짜 이미지 동영상을 AI로 생성해내는 행위 일체를 통칭하는 의미로 확장되었다.

딥페이크 기술이 무고한 특정인의 성행위 장면으로 영상 또는 사진으로 처리되었을 때, 외부인들은 그 사람이 실제 행위한 것으로 착각을 일으킴으로써 그 특정인은 인터넷 명예훼손, 음란물 유포에 따른 범죄 피해를 당했다고 볼 수 있다. 현재 딥페이크 포르노 사이트 시장점유율은 90%에 달한다. 특히 텔레그램은 일단 올린 영상들도 언제든 삭제가 가능하며 익명성이 최대한 보호되어 가해자를 특정하기 어렵다. 최근 텔레그램의 감시가 강화되자 인스타그램 디엠(direct message)방 등으로 진출하고 있다.

허위영상물 범죄 혐의로 입건된 피의자 중 10대의 비중이 2022년 61.2%에서 2023년 75.8%로 치솟았고, 2024년 상반기에도 73.6%로 절대적 비중을 차지하고 있다. 피해자의 과반수 이상도 10대이다. 이렇게 딥페이크 영상물에 의한 학교폭력에 있어서 10대가 상당한 비중을 차지하는 이유는 첫째, 한국이 IT 강국답게 정보화 교육에 매진하면서 초중고 학생들의 SNS와 모바일 웹, 인터넷 검색 등에서 접근성이 생활화되어 있다는 점이다. 둘째, 정보화 교육에 비하여 낮은 윤리의식 교육을 들 수 있다.

학교폭력의 원인 중 1위가 “장난삼아(약 35%)” 한다는 것이다. 3위가 “이유없이(약 18%)” 저지르기 때문에 과반수 이상이 뚜렷한 목적없이 학교폭력을 저지른다. 이러한 원인으로 인해서 생활화되어 있는 IT기술이 쉽게 장난으로 연결되고 있다. 셋째, 영상물 제작이 낮은 경각심에서 비롯된데 비하여 인터넷 피해 여파는 실로 엄청나다는 점을 청소년들은 이해하기 어렵다. 여기에 언제든지 탈퇴와 자신의 영상물에 대한 삭제도 가능하다는 익명성에 숨어서 무분별하게 딥페이크 서비스에 접근하는 것이다. 들불처럼 번진 딥페이크 학교폭력은 만연해 있다. 올해 1월부터 8월까지 학생·교원 딥페이크 피해 건수가 총 200여건으로 집계됐는데 중학생 피해건수가 100여건으로 가장 많았다. 이중에서 10여건은 교원이 피해자였다. 

학교폭력예방법 제2조 정의 1항에 의하면 “학교폭력”이란 학교 내외에서 학생을 대상으로 사이버폭력 등에 의하여 신체ㆍ정신 또는 재산상의 피해를 수반하는 행위를 포함한다. 이는 학폭심의위에서 학폭법 제17조에 따른 9가지 처분을 할 수 있다. ①피해학생에 대한 서면사과 ②피해학생 및 신고ㆍ고발 학생에 대한 접촉, 협박 및 보복행위의 금지 ③학교에서의 봉사 ④사회봉사 ⑤학내외 전문가, 교육감이 정한 기관에 의한 특별 교육이수 또는 심리치료 ⑥출석정지 ⑦학급교체 ⑧전학 ⑨퇴학처분이다. 이와 별도로 수사기관에 고발될 경우, 가해자가 14세 미만 촉법소년인 경우 소년보호사건으로 다루어지고, 14세 이상 범죄소년인 경우 소년보호사건 또는 소년형사사건으로 처벌될 수 있다.

다른 학교폭력 사건과는 달리 딥페이크 학교폭력의 경우 대부분의 지자체에서 학폭 사건과 동시에 수사기관 접수도 이루어져 성폭력처벌법 등으로 처벌할 수 있는 길을 열고 있다. 아울러 학교폭력신고 대표 전화번호인 117 신고에 따라 영상물 삭제도 일괄 처리하고 있다. 그러나 이렇게 뒷북 대응에만 집중하기에는 피해자의 정신적 피해의 심각성과 확산성이 너무 크다. 따라서 다음과 같은 두 가지 대응방안에 초점을 두고 해결책을 마련해야 한다.

첫째, 정보화 교육에 따른 “인터넷 윤리교육 시간”을 10% 이상 확보해야 한다. 인터넷 언어사용법, 인터넷 예절교육, 자신의 SNS에 제한적으로 사진이나 영상 올리기, 인터넷 성착취물 대응방법, 저작권과 초상권에 대한 인식, 문제 발생시 대처방안 등 인터넷 상에서 우리 청소년들이 알아야 할 사항은 매우 많다. 현재 초등학생의 경우 정보화 교육이 연간 17시간에서 2022년 개정교육 과정에 따라 2025학년도부터는 34시간으로 두 배 증가하고, 중학생의 경우에도 연간 34시간에서 2025학년도부터 68시간으로 역시 두 배 증가한다. 이에 따른 인터넷 윤리 교육은 따라가지 못하고 있다.

따라서 이 확보된 교육시간에 맞추어서 초등학생의 경우 4시간, 중학생의 경우 7시간 정도의 예방교육이 필요하다. 성교육은 1년에 10시간 이상 해야 하지만 초·중·고등학교 모두 1년 내내 6시간도 채우지 않고 있고, 중학교 실제 교육 평균은 4시간이 안된다. 학교폭력예방법 제15조에 따른 학교폭력 예방교육은 매학기 1회 이상 실시하도록 되어 있는데, 구체적 교육내용이나 강의자, 교육시간 등에 대한 제한 규정은 없어서 형식적으로 이루어지고 있다. 학교폭력의 양상이 점차 학교 현장에서 인터넷으로 전이되고 있고, 방학 중에는 가상 공간(SNS 등)에서의 학교폭력이 주를 이루고 있는 만큼 교육과정 편성을 재구조화할 필요가 있다.

둘째, 영상 업로드에 대하여 기술적으로 입체적 체크 시스템을 도입한다. 유튜브의 경우 타인 제작 영상물을 캡쳐(capture)해서 자신의 유튜브 채널에 올리는 것은 기술적으로 불가능하게끔 사전 차단하는 서비스가 도입되어 있다. 이와 같이 기술적인 서비스를 뒷받침하는 방법으로서 ① “블록체인 신분증명”을 사용하여 사진이나 영상을 업로드(upload)할 경우 신분을 특정할 수 있는 블록체인 기술을 활용해야 업로드 자격을 부여한다. 딥페이크 제작자의 신분 노출이 확실시될 경우 그만큼 불법영상 제작이 감소할 수밖에 없다.

피의자의 특정과 체포가 용이하기 때문이다. ② 사이트 제공자의 “영상 라벨 지정 의무화 제도”를 시행한다. 사이트 제공자가 감수한 원천 영상이 어디서 왔는지 특정할 수 있기 때문에 이를 변형했는지 여부도 원천 영상과 비교하여 쉽게 확인할 수 있다. ③ 현재 딥페이크 탐지 서비스를 제공하는 업체들이 여럿 있다. 이른바 “페이크 체크(fake check)” 프로그램을 통하여 기존에 올라온 영상들에 대하여 시행하고, 조금이라도 변형됨이 발견되면 바로 삭제할 수 있도록 사이트 제공자에게 의무를 부과해야 한다.

 

 

※ 외부 필진의 기고는 본지 편집 방향과 다를 수 있습니다.

 

 

 

정재준은 …

연세대를 졸업하고 동국대 경찰행정학과 청소년범죄 법학, 버클리대 형사정책 석사 수료 후 고려대 형법, 버클리대 형법 박사과정을 마쳤다. 행정고시 합격 후 법무부 범죄예방정책국사무관, 국무총리실 한국형사정책부연구위원을 역임했다. 콜롬비아대 로스쿨 연구원 재직및 고려대 법학강 강사, 한국법제연구원 해외법제조사위원으로 활동했다 성균관대 교육학과 겸임교수, 한국형사-법무정책연구원 객원연구원, 학교폭력예방연구소 소장으로 활동 중이다.