청소년 '잘못된 인식'…딥페이크 범죄로 이어져
딥페이크 악용 막으려면…SNS 공개 등 지양해야
텔레그램 단체대화방 딥페이크 관련 대화텔레그램 단체대화방 딥페이크 관련 대화 [독자 제공. 재판매 및 DB 금지]
(서울=연합뉴스) 심재훈 기자 = 우리가 일상에서 접하는 유튜브나 인스타그램 등을 볼 때마다 이게 진짜가 맞냐는 생각이 들 때가 있다.
그만큼 최근 들어 딥페이크(허위 영상물)가 많아져 소셜미디어(SNS) 동영상도 믿기 힘든 시대가 됐기 때문이다.
특히 최근에는 연예인 얼굴 등을 교묘하게 딥페이크로 편집하는 성범죄도 발생해 정부가 대대적인 단속에 나서고 있다는 보도도 나오고 있다.
딥페이크의 생산자가 대부분 10대라고 하는데 과연 맞는 걸까. 10대 청소년도 딥페이크 범죄를 저지르면 처벌을 받게 되는 걸까.
결론부터 말하자면 딥페이크는 주로 정보통신기술(ICT)에 익숙한 10대 청소년이 만드는 것으로 파악되며, 딥페이크 성범죄에도 10대 청소년의 연루가 심각한 수준인 것으로 보인다. 10대 청소년이 생성형 AI의 발달로 손쉽게 불법 영상물을 제작할 수 있게 되면서 범죄에 무방비로 노출되고 있기 때문이다.
청소년 본인은 딥페이크 범죄가 별것이 아니라고 여길 수 있지만 적발될 경우 14세 이상은 형사 처벌 대상이 되기 때문에 학교나 기관에서 청소년을 대상으로 지속적인 계도가 필요한 상황이다.
◇ 10대가 딥페이크 범죄 주로 연루…피해자도 많아
경남의 한 경찰서는 지난해 11월 또래 여학생 얼굴 사진을 가지고 '딥페이크' 성 착취물을 제작해 소지한 혐의로 10대 고등학생 2명을 불구속 입건했다. 이들은 중학교 동창 등 여학생 사진을 SNS에서 내려받아 휴대전화 AI 프로그램으로 딥페이크 성 착취물을 제작해 소지한 혐의였다. 이들이 다른 학생과 성 착취물을 돌려 보는 것을 알게 된 피해 여학생이 학교 측에 알리면서 범행이 드러났다.
지난해 9월 대전경찰청은 친구의 사진을 이용해 딥페이크 성 착취물을 제작·유포한 고교생 등 3명을 검거했다. 이들은 딥페이크 인공지능 봇(Bot)을 이용해 학교 친구, 학교 동창 또는 지인의 인스타그램 등 SNS 사진을 다운받아 성 착취물과 합성하고 이 중 일부는 지인이나 SNS 단체대화방에 유포한 것으로 확인됐다.
교육부가 공개한 '학교 딥페이크 허위 영상물 피해 현황' 10차 조사 결과 발표에 따르면 지난해 1월부터 11월 8일까지 피해 학생은 908명으로 집계됐다. 교원 피해자는 36명, 직원 등 피해자는 4명으로 학생과 교직원을 합한 누적 피해자는 948명에 달했다.
전교조, 학교 '딥페이크' 성범죄 실태조사 결과 발표(서울=연합뉴스) 임헌정 기자 = 전국교직원노동조합 관계자들이 29일 오전 서울 종로구 정부서울청사 앞에서 학교 딥페이크 성범죄 실태조사 결과 발표 기자회견을 하고 있다. 2024.8.29 kane@yna.co.kr
지난해 누적 딥페이크 피해 신고는 561건이었다. 수사 의뢰는 475건, 삭제 지원 연계 건수는 252건이었다.
국민권익위원회가 범정부 민원 분석시스템에 수집된 딥페이크 관련 민원 분석 결과를 공개했는데, 허위로 만든 성적 사진과 영상물 등 '딥페이크 성범죄' 관련 민원이 지난해 1∼10월 월평균 50건 접수돼 전년 동기 대비 1.7배 늘었다.
경찰청은 지난해 1월부터 10월까지 딥페이크 성범죄 사건 964건을 접수·수사해 피의자 506명을 검거했는데 10대가 411명으로 81.2%의 비중을 차지해 가장 많았다. 촉법소년(10세 이상 14세 미만)도 78명(15.4%)이나 됐다. 20대 77명(15.2%), 30대 13명(2.6%), 50대 이상 3명(0.6%), 40대 2명(0.4%)이었다.
인천경찰청에 따르면 지난해 1월부터 9월까지 인천에서 접수된 딥페이크 범죄는 모두 52건으로, 경찰은 딥페이크 사건 피의자로 24명을 검거했으며 이들 중 성인 1명 빼고 나머지 23명(95.8%)은 모두 청소년인 것으로 파악됐다.
인천에서는 지난해 7월 딥페이크 성 착취물로 피해를 본 교사들이 경찰서를 찾았으나 수사가 부진해지자 직접 증거를 수집해 피의자인 학생을 찾아내기도 했다.
경찰청에 따르면 디지털 성범죄에 대한 경찰 위장 수사를 허용하도록 개정된 법률이 2021년 9월 시행된 이후 지난해 8월 말까지 총 515건의 위장 수사가 이뤄졌다. 이를 통해 피의자 1천416명이 검거됐고 이 중 94명이 구속됐다.
지난해 경기남부경찰청이 피의자 27명을 검거한 디지털 성범죄 사건에서도 위장 수사가 활용됐다. 10대 판매자 3명은 텔레그램 채널을 개설해 연예인이 성적 행위를 하는 내용의 딥페이크 성 착취물을 불특정 다수에게 판매했다가 적발됐다.
더불어민주당 양부남 의원이 경찰청에서 제출받은 자료에 따르면 2021∼2023년 경찰에 신고된 딥페이크 범죄의 피해자 총 527명 중 59.8%(315명)가 10대였다. 딥페이크 범죄로 피해를 본 미성년자는 2021년 53명에서 2022년 81명, 2023년 181명으로 2년 만에 3.4배가 됐다. 전체 피해자에서 10대가 차지하는 비중은 2021년 64.6%에서 2022년 52.9%로 낮아졌다가 2023년 62.0%로 다시 높아졌다.
기술 발전으로 딥페이크 제작이 쉬워지면서 가해자 중 미성년자 비중도 눈에 띄게 늘고 있다. 허위 영상물 범죄 혐의로 입건된 전체 피의자 중 10대가 차지하는 비중은 2021년 65.4%, 2022년 61.2%에서 2023년 75.8%로 커졌다.
◇ 청소년 '잘못된 인식'…딥페이크 범죄로 이어져
딥페이크 범죄에 대한 청소년들의 잘못된 인식이 큰 문제로 꼽힌다.
지난해 12월 교육부가 중·고등학교 1∼2학년 학생 2천145명을 대상으로 조사해 발표한 '학교 딥페이크 불법 영상물 관련 청소년 인식 조사 결과'에 따르면 중고생들은 딥페이크 성범죄 발생 원인(중복응답)을 묻는 말에 '장난으로'(54.8%)를 1순위로 꼽았다.
이어 '성적 호기심 때문에'(49.3%), '해도 들키지 않을 것으로 생각해서'(44.1%), '들켜도 처벌이 약해서'(38.2%), '심각하게 잘못된 행동은 아니라고 생각해서'(31.4%) 순이었다. '친구들과 어울리고 인정받기 위해'라는 응답도 12.9%나 됐다.
딥페이크 확산의 책임이 어디에 있느냐는 질문에는 92%가 '사진을 도용해 가짜 사진이나 영상물을 만든 사람'이라고 답했고, 75.9%는 '약한 처벌'을 꼽았다. 본인 개인정보나 사진을 제대로 관리하지 못한 '피해자 책임'이라는 응답도 13.6%나 돼 인식 개선 교육이 필요한 것으로 나타났다.
불법 합성물을 제작하는 주 도구로 지목되는 생성형 AI에 대해 제대로 교육받은 중고등학생이 3명 중 1명에 불과한 점도 문제다.
경기도교육청 딥페이크 엄중 대응(수원=연합뉴스) 홍기원 기자 = 29일 오후 경기도 수원시 경기도교육청에서 공무원들이 딥페이크 피해보호조치 관련 카드뉴스를 살펴보고 있다. 2024.8.29 xanadu@yna.co.kr
한국청소년정책연구원의 '청소년 디지털 인재를 어떻게 양성할까' 보고서에서 따르면 2023년 7∼8월 전국 중·고등학교에 다니는 청소년 2천261명을 설문해보니 지난 6개월 동안 학교에서 '생성형 AI 기술 활용 교육'을 받은 비율은 35.7%에 불과했다.
반면 일상에서 생성형 AI를 이용한 적이 있다고 답한 비율은 이보다 17%포인트 많은 52.1%로 조사됐다. 성별로는 남자(57.3%)가 여자(46.6%)보다 많았고, 학교급별로는 고등학생(61.5%)이 중학생(43.7%)보다 많았다.
보고서에 따르면 학생들은 딥페이크나 사이버 폭력 등의 디지털 범죄를 방지할 수 있도록 윤리 교육이 지금보다 더 마련돼야 한다는 입장을 밝혔다.
보고서는 "AI를 활용해 특정 인물의 얼굴을 영상에 합성한 딥페이크 기술이 발전함에 따라 허위 조작 정보가 넘쳐나고 있다"며 "이처럼 새로운 기술에 따른 부작용이 심해지면서 청소년의 리터러시 역량이 더욱 중요해졌다"고 설명했다.
딥페이크 범죄가 적발됐을 경우 14세 이상의 청소년은 형사 처벌의 대상이 된다.
14세 미만인 촉법 소년은 형사처벌은 받지 않지만 가정법원 등에서 사회봉사 명령을 받거나 소년원 송치 등 보호 처분을 받게 된다는 점을 명심해야 한다.
딥페이크 범죄 관련 법안도 속속 도입돼 향후 처벌이 강화된다는 점도 유념해야 한다.
지난해 9월에는 딥페이크 성 착취물을 소지하거나 시청한 사람에 대해 징역형 처벌이 가능하게 하는 성폭력 범죄 처벌특례법 개정안이 국회를 통과했다. 개정안은 성 착취물을 비롯한 허위 영상물 등의 소지·구입·저장·시청죄를 신설해 3년 이하 징역 또는 3천만원 이하의 벌금에 처하도록 했다.
또한 허위 영상물의 유포 목적이 입증되지 않더라도 제작자를 처벌할 수 있게 했으며, 그 형량을 불법 촬영 및 불법 촬영물 유포(징역 7년 또는 5천만원 이하의 벌금)와 동일한 수위로 늘렸다. 허위 영상물을 이용한 협박·강요에 대한 처벌 규정(징역 1년 이상)도 마련됐다.
◇ 딥페이크 악용 막으려면…SNS 공개 등 지양해야
딥페이크 범죄에 악용되지 않기 위해서는 될 수 있으면 자신의 사진을 대외 공개하지 않는 것이 좋다.
딥페이크 범죄가 다양해지고 기술은 고도화하면서 카카오톡 프로필 사진을 이용하는 범죄까지 등장함에 따라 SNS 계정을 비공개로 전환하거나 아예 폐쇄하는 사람들이 늘고 있다.
한국교원단체총연합회가 지난해 9월 30일부터 10월 9일까지 전국 유·초·중·고 교원 3천537명을 대상으로 설문조사를 실시한 결과, 응답한 교원의 93.1%가 졸업사진을 활용한 딥페이크 범죄나 사진 합성, 초상권 침해가 우려된다고 했다.
'딥페이크 악용, 명백한 범죄'(대구=연합뉴스) 윤관식 기자 = 30일 대구 수성구 시지중학교에서 학교전담경찰관(SPO)이 학생들에게 딥페이크 성착취물 범죄 예방 홍보물을 배부하고 있다. 2024.8.30 psik@yna.co.kr
실제로 졸업앨범에 사진을 넣는 교원들이 줄고 있다. 응답한 교원의 72.5%는 '사진을 넣는 것이 점점 줄고 있다'고 했고 17.7%만 '이전과 변화가 없다'고 답했다. 담임의 얼굴 사진도 20.4%는 '넣지 않는다'고 했고, 17.7%는 '희망자 등 일부만 넣는다'고 답했다.
학급 단체 사진에서도 응답한 교원의 14.9%는 담임 사진을 넣지 않았다. 학생 또한 자기 얼굴이 딥페이크에 활용될까 봐 졸업앨범에 사진이 들어가길 꺼렸다. 사진 넣기를 꺼리거나 빼기를 원하는 학생이 늘고 있냐는 질문에 응답한 교원의 45.5%는 '그렇다'고 했다.
기존 범죄가 목소리 흉내에 그쳤다면, 이제는 실제에 가까운 자녀의 얼굴이나 목소리를 활용해 부모에게 심리적 압박을 가하는 딥페이크 범죄까지 등장하고 있다.
지난해 10월 딥페이크 영상을 이용한 납치 협박 사건이 실제 발생하기도 했다. 외국인 A씨는 한국을 여행하던 딸이 감금된 채 울면서 "살려달라"고 하는 영상을 받았다. 상대방은 돈을 보내라고 협박했지만, 딸은 안전했고 영상은 가짜였다.
경찰청은 딥페이크 범죄에 이용을 막기 위해 SNS 전체 공개 설정을 지양해야 한다고 경고하고 있다.
딥페이크 범죄는 상대방을 가리지 않고 확산하고 있기 때문이다. 지난해 서울, 부산, 대전 등 전국 각지에서 남성 지방의원들이 딥페이크 불법 합성물이 담긴 협박성 메일을 받아 큰 소동이 일기도 했다.
정부는 지난해 11월 국무조정실을 중심으로 발표한 딥페이크 성범죄 대응 방안에서 플랫폼 사업자의 의무 강화 방침을 내놨다. 이에 따라 네이버, 메타 등 기존에 당국의 관리 아래 있는 플랫폼 사업자들은 불법 촬영물 유통 방지 의무를 이행하지 않으면 시정 명령이나 과징금 대상이다.
텔레그램 등 해외에 기반을 둔 플랫폼은 규제의 사각지대라는 지적을 고려해 방송통신심의위원회와 경찰청은 텔레그램과 핫라인 구축, 실무협의 정례화 등에 합의했고 수사와 관련한 협조 의사를 전달받았다.
과학기술정보통신부는 딥페이크 성범죄 확산을 AI 등 최신 기술로 최소화하기 위해 차단·탐지 기술의 연구개발을 지원하고 딥페이크 보안 기술을 특허 우선심사 대상에 선정해 3개월 내 신속 심사가 이뤄지도록 할 계획이다.
president21@yna.co.kr
<<연합뉴스 팩트체크부는 팩트체크 소재에 대한 독자들의 제안을 받고 있습니다. 이메일(factcheck@yna.co.kr)로 제안해 주시면 됩니다.>>
(끝)
- [이 시각 많이 본 기사]
- ☞ 태국서 실종됐던 中 배우, 미얀마서 구출…"인신매매 추정"
- ☞ '음란물 게시' 논란 박성훈 "큰 실수로 작품에 누 끼쳐 죄송"
- ☞ 가자 땅굴서 인질 시신…같이 붙들린 아들도 생존 불확실
- ☞ "더치페이 왜 안 해" 술자리 동석 여성 때린 20대 구속
- ☞ '짱구는 못 말려'·'어벤져스' 성우 유호한 별세
- ☞ '폭행·음주운전' 전직 야구선수 정수근 징역 2년 법정구속
- ☞ '오징어게임2' 배우들 잇단 SNS 실수…이번엔 시즌3 '스포' 논란
- ☞ 화성서 부부싸움 중 남편 살해한 50대 아내 구속
- ☞ 사라진 비트코인 1천400개…"경찰이 가져가" 무고 30대 추가기소
▶제보는 카카오톡 okjebo
▶연합뉴스 앱 지금 바로 다운받기~
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>
100억대 패리스 힐튼 집도 불탔다…LA 최악의 산불
"코끼리가 사람 내던져" 인도 축제서 20여명 부상
미 대사 통화 중 고함은 '사실'…"대통령이 어떻게 이런 일을" 우려 [소셜픽]
사고 난 차들로 뒤엉킨 도...
