AI 시대의 기술기반 젠더 폭력
- 한국의 대응과 국제협력의 과제
신보라(한국여성인권진흥원장)
AI를 활용한 딥페이크 성적 착취물 유포의 위험성은 그 폭력이 발생하는 속도와 규모, 정교함에 있다. 생성형 AI의 높은 편리성과 접근성은 누구나 순식간에 피해자가 될 수 있는 환경을 만들었다. 지금도 앱 스토어에 들어가면 누구나 쉽게 합성·편집 도구를 내려받을 수 있고, 마음만 먹으면 성적 합성물을 제재 없이 만들 수 있다. 그리고 텔레그램이나 디스코드와 같은 폐쇄형 소셜미디어가 유포 도구로 악용되면서 피해는 다수화·대량화·장기화되었다. 또한 과거의 조악한 수준의 편집 방식이 아니라 실제와 구분이 어려울 정도로 정교한 형태로 딥페이크가 만들어져, 부지불식간에 성적 콘텐츠로 대상화되는 문제도 발생한다. 이는 디지털 젠더 기반 폭력의 심각성을 인지하고 적극적으로 대응해야 할 필요성을 보여준다.
◆— AI 기반 디지털 젠더 폭력의 확산 사례와 특징
한국여성인권진흥원은 여성폭력 피해자 지원 및 인권 향상, 피해지원 종사자의 지원 역량 강화를 위해 설립된 여성가족부 산하 공공기관으로, 2018년부터 중앙디지털성범죄피해자지원센터(이하 ‘디성센터’)를 운영하며 불법촬영물등의 삭제 지원과 피해지원 전달체계 구축 등을 위해 노력하고 있다.
28명·94초, 이는 하루 평균 약 28명의 피해자가 도움을 요청하고 94초마다 지원과 개입이 이루어졌다는 의미이다. 지난 한 해 동안 디성센터가 1만 명이 넘는 피해자를 대상으로 33만 건의 삭제 지원과 상담·서비스 연계 등을 진행했는데, 이를 하루 단위로 계산해 본 수치다. 이처럼 디지털 성범죄 피해자는 계속 증가하고 있으며, 피해 범주도 지속적으로 확대되고 있다.
디성센터는 특히 AI와 SNS와 같은 디지털 기술을 악용한 젠더 기반 폭력 피해에 주목하여, 피해지원 데이터 분석을 통해 다음과 같은 특징이 있음을 발견하였다.
중앙디지털성범죄피해자지원센터 피해자 지원 실적(2018~2024)
첫째, AI 기반 딥페이크등 성적 합성·편집 피해가 빠르게 증가하고 있다. 디성센터는 불법 촬영, 합성·편집, 유포 불안 등 다양한 유형의 디지털 성범죄 피해를 유형화해서 통계화하고 있는데, 2024년 기준 합성·편집 피해자는 1,384명으로 이는 2023년 대비 3배 증가한 수치다. 피해유형별 비교로 보면, 불법촬영 피해는 전년 대비 42.9% 증가한 반면 합성·편집 피해는 전년 대비 227.2%나 증가했다.
피해유형별 현황(2023~2024)
둘째, AI 기반 디지털 성폭력은 여성에게 더욱 취약한 형태로 전개되고 있다. 센터를 찾은 피해자의 74%가 여성인데, AI 기반의 합성 편집 기술이 악용된 피해의 경우 여성이 전체 피해자의 96.6%나 됐다. 기술매개 성범죄 피해자의 대다수가 여성이지만, AI 등 첨단 기술을 활용한 피해는 여성에게 더욱 가혹한 형태로 나타나고 있는 것을 알 수 있다.
성별에 따른 피해유형 현황(2024)
셋째, 가해자와 피해자 모두 저연령화되고 있다. 디지털 성범죄 피해의 78%는 10대와 20대에 집중되어 있고, 10대가 29% 20대가 48% 정도를 형성하고 있다. 그런데 이를 성적 합성·편집 피해 분야로 좁혀서 보면 10대 피해자의 비율은 46.2%까지 증가한다. 문제는 10대 청소년은 피해자일 뿐만 아니라 가해자로도 대거 등장하고 있다는 점이다. 경찰청 통계에 따르면 지난해 8월부터 7개월 동안 딥페이크 성범죄 가해자 검거 수 976명 중 70%가 10대 청소년인 것으로 드러났다.
그렇다면 10대들 사이에서 왜 이러한 딥페이크 성범죄가 빠르게 확산하는 것인가. 우선, 평범한 10대들도 별다른 죄책감 없이 손쉽게 합성하고 공유할 수 있다는 점이다. 합성·편집의 기술적 진입 장벽은 거의 없고, 성적합성물을 공유·유포하는 채팅방을 찾는 것도 매우 쉬운 일이다. 폐쇄형 소셜미디어에서 친구들에게 딥페이크 사진을 올리거나 공유하면 레벨업(level-up)을 할 수 있는 방식으로, 이 모든 과정이 게임처럼 설계되어 있다는 것도 특징이다. 결국 이러한 구조가 또래들 사이의 놀이와 공동체 문화로 위장이 되면서 학생들 스스로 이 행동에 윤리적 문제를 깊이 고민하지 않게 만드는 구조적 취약성이 있었던 것이다.
연령에 따른 피해유형 현황(2024)
넷째, 기술매개 젠더 폭력은 온오프라인을 가리지 않고, 개인정보 유포 등의 2차 피해로도 확산되고 있다. 10대 피해의 경우 온라인에서 시작된 피해가 유포와 협박을 동반한 오프라인 성착취로까지 이어지고 있다. 또한 성적합성물과 개인정보를 함께 유포하거나, AI로 개인정보를 수집해 스토킹하는 등의 오프라인 협박 사례들도 등장하고 있다. 실제로 센터의 피해자 4명 중 1명은 피해영상물과 개인정보가 동반 유포되는 것으로 나타났다. 그리고 다수의 지원 사례에서 딥페이크 성적 합성물이 피해자의 실명과 주소·연락처 등과 함께 유포되어 극심한 고통과 불안을 호소하는 피해자들이 많았다.
마지막으로, 온라인 플랫폼의 초국가적 특성으로 인한 피해가 장기화되고 있다. 센터로 삭제 요청이 가장 많이 접수된 플랫폼은 해외 성인사이트이고, 다음으로 검색엔진, 소셜미디어 순이다. 특히 해외 성인사이트에선 동일 영상이 반복적으로 재유포되는 피해가 많이 일어나고, 텔레그램과 같은 폐쇄형 소셜미디어는 국내법 적용을 받지 않기 때문에 해당 플랫폼의 적극적인 협조나 비밀그룹방의 내부 고발자 없이는 증거를 찾기도, 삭제도 어렵다 보니 피해의 장기화를 낳고 있는 것이다.
이러한 분석 결과는 디지털 성범죄가 단순한 개인 간 범죄를 넘어 AI 기술과 플랫폼 환경 변화에 따라 더욱 정교하게 진화하고 있으며, 피해자는 정신적 피해 뿐만 아니라 온오프라인의 경계가 없는 극심한 고통과 불안을 겪고 있음을 보여준다. 따라서 범죄 피해의 심각성을 인식하고 이를 예방·방지하기 위한 적극적인 개입과 대응이 중요하다.
◆— 한국의 대응과 노력
한국은 문제의 심각성을 인식하고 그동안 법·제도를 정비하고, 피해자 지원 및 삭제 지원, 기술적 대응 등을 포함한 포괄적인 대응 체계를 발전시켜 왔다. 특히 2024년과 올해 주목할 변화가 있다. 먼저 성착취성의 딥페이크를 범죄화하고 가해자 처벌과 피해자 법적 보호를 강화하는 법 개정이 있었다. 성폭력피해자보호법 개정에 따라 ‘중앙디지털성범죄피해자지원센터’가 법적 지원기관으로 공식 제도화됐고, 전국에 17곳의 지역 지원센터도 설치되었다.
정부는 또한 ‘범정부 딥페이크 성범죄 대응 방안’을 마련했는데, 핵심은 모든 관계 부처의 종합적 대응이다. 이에 따라 수사 처벌 강화, 플랫폼 협력, 피해자 신고 및 보호, 아동· 청소년 대상 선제적 예방 강화, 삭제 지원 기술 개발 등 다방면에 걸친 대응계획이 수립되었다. 이러한 대응은 한국이 딥페이크 성범죄를 종합적인 개입과 조정이 필요한 사회적 과제로 인식하고 있음을 보여준다.
한국여성인권진흥원 또한 정부 정책 이행에 발맞춰 피해자 상담부터 삭제 지원, 서비스 연계와 같은 포괄적인 지원 인프라를 갖추는 데 집중해 왔고, 피해자 중심주의를 견지하면서 피해자 잊힐 권리를 위해 해외 성인사이트 등의 피해 촬영물 삭제를 위한 국제협력도 지속하고 있다.
최근에는 기술의 문제를 기술로써 해결하기 위한 도전적인 노력도 하고 있다. 특히 피해 영상물 삭제에 대해서는 AI 기반의 상담-식별·탐지-분석-삭제 지원에 이르는 통합 대응 솔루션을 마련하여 운영 중이다. 우선 여성긴급전화 1366을 상담 핫라인으로 구축하고, 여기에 AI 기반 헬프콜 시스템을 구축해 디지털 성범죄 피해 상담의 전문성을 높이고 있다. 상담원들은 피해 유형별 질의응답 셋(SET)을 학습한 AI를 통해 상담 시에 적절한 응답을 빠르게 제공받아 피해자에게 즉각적으로 도움이 될 정보를 알려줄 수 있도록 하고 있다. 또한 웹 크롤링(Web Crawling)이라는 AI 기반 영상 이미지 추적 기술은 피해 영상물을 자동으로 학습해서 24시간 주요 온라인 플랫폼상의 유포를 추적하고 식별해 내어 신속한 삭제 지원에 기여하고 있다.
더 나아가 진흥원은 지금 세 가지 기반의 AI 시스템을 개발하고 있다. 딥페이크 탐지 기술 및 삭제 요청 자동화 기술은 내년부터 상용화될 예정이고, 아동·청소년 온라인 성착취 피해에 적극 대응하고자 채팅 앱과 SNS 메신저의 성착취 유인 정보를 실시간 탐색해서 선제적으로 삭제를 요청하는 기술도 개발 중이다. 이러한 기술 개발은 온라인에서의 성적 피해를 예방하는 것에서부터 피해가 발생한 경우 즉각 개입하여 피해자의 잊힐 권리를 보장하는데 핵심적인 역할을 할 것이다.
◆— 향후 대응과 국제협력을 위한 고려점
AI 기술과 SNS의 발전은 여성과 여아를 향한 새로운 폭력 양상을 만들어내고 있다. 그러나 동시에 이러한 기술은 보다 안전하고 정의로운 디지털 세계를 구축하는 데 강력한 도구가 될 수도 있다. AI 기술을 피해자 중심주의에 기반해 설계한다면, 피해를 조기에 감지하고 신속하게 삭제하며 피해자에게 실질적인 지원을 제공하는 강력한 해결책이 될 수 있다.
이를 실현하기 위해서는 피해자 관점이 반영된 디지털 환경 조성을 위한 정책 기반이 필수적이다. 피해자 보호를 중심으로 한 법률과 윤리 원칙이 마련되어야 하며, 딥페이크 등 AI의 악용에 대해서는 명확한 금지와 책임 규정이 필요하다. 온라인 성착취물 삭제 기준, 조치 방식, 플랫폼의 투명성 보고 제도 역시 피해자의 목소리를 실질적으로 반영하는 구조여야 한다. 이를 위해 피해자 또는 지원 기관이 포함된 온라인 윤리위원회 구성, 피해자 관점에서의 AI 식별·탐지 기술 설계, 그리고 민관 협업과 정부 지원이 강화되어야 한다.
또한 기술이 시·공간과 사실·거짓의 경계를 허물고 있는 현실 속에서, 피해 지원을 담당하는 유관기관, 정부 부처, 그리고 국가 간 연대는 더 빠르고 긴밀해야 한다. 특히 온라인에서 발생하는 초국가적 피해에 대응하기 위해서는 법률, 기술, 정책 협력이 결합된 국제적 거버넌스가 반드시 필요하다.
한국은 미국의 NCMEC(실종학대아동방지센터)와 협력하여 불법 성적 콘텐츠 탐지 및 삭제 기술 협력 방안을 논의했으며, 호주 eSafety(온라인안전위원회), 캐나다 C3P(아동보호센터) 등 다른 국가들과도 협력해 온라인 플랫폼에 유포된 성적 착취물의 삭제를 추진해 왔다. 이처럼 글로벌 피해지원기관과의 기술 및 삭제 조치 협력은 국경을 초월해 확산되는 디지털 젠더 기반 폭력의 특성에 부합하는 필수적 대응 방향이다.
아울러 한국은 온라인 성적 피해에 선제적으로 대응하며 법·정책·제도를 발전시켜 온 경험을 바탕으로, 대응 모델을 다른 나라들이 벤치마킹할 수 있도록 현재 UNDP와 함께 ‘디지털 성범죄 대응 리소스북’을 공동 집필하고 있다. 이처럼 다자 간에 피해 지원을 위한 지식과 경험을 공유하는 노력 또한 매우 중요하다.
마지막으로, 지난해 12월 채택된 유엔 사이버범죄방지협약(UN Convention on Cybercrime)은 온라인 성착취물 관련 삭제·수사·가해자 추적 등을 위한 국가 간 법 집행 공조와 정부 공유 체계, 온라인 성범죄 등에 대한 각국의 형사 처벌 규정 마련을 의무화하는 내용을 담았다. 이렇듯 국제적으로 공통 규범을 만들어 대응을 강화한다면, 누구나 성별·연령·국적 등에 관계없이 성범죄로부터 인권을 보호 받고 안전한 온라인 환경을 누릴 수 있을 것이다.
*본 원고에 인용된 그래프와 통계는 한국여성인권진흥원 「2024년 디지털 성범죄 피해자 지원 보고서」(2025)에서 발췌하였습니다.
AI 시대의 기술기반 젠더 폭력
- 한국의 대응과 국제협력의 과제
신보라(한국여성인권진흥원장)
AI를 활용한 딥페이크 성적 착취물 유포의 위험성은 그 폭력이 발생하는 속도와 규모, 정교함에 있다. 생성형 AI의 높은 편리성과 접근성은 누구나 순식간에 피해자가 될 수 있는 환경을 만들었다. 지금도 앱 스토어에 들어가면 누구나 쉽게 합성·편집 도구를 내려받을 수 있고, 마음만 먹으면 성적 합성물을 제재 없이 만들 수 있다. 그리고 텔레그램이나 디스코드와 같은 폐쇄형 소셜미디어가 유포 도구로 악용되면서 피해는 다수화·대량화·장기화되었다. 또한 과거의 조악한 수준의 편집 방식이 아니라 실제와 구분이 어려울 정도로 정교한 형태로 딥페이크가 만들어져, 부지불식간에 성적 콘텐츠로 대상화되는 문제도 발생한다. 이는 디지털 젠더 기반 폭력의 심각성을 인지하고 적극적으로 대응해야 할 필요성을 보여준다.
◆— AI 기반 디지털 젠더 폭력의 확산 사례와 특징
한국여성인권진흥원은 여성폭력 피해자 지원 및 인권 향상, 피해지원 종사자의 지원 역량 강화를 위해 설립된 여성가족부 산하 공공기관으로, 2018년부터 중앙디지털성범죄피해자지원센터(이하 ‘디성센터’)를 운영하며 불법촬영물등의 삭제 지원과 피해지원 전달체계 구축 등을 위해 노력하고 있다.
28명·94초, 이는 하루 평균 약 28명의 피해자가 도움을 요청하고 94초마다 지원과 개입이 이루어졌다는 의미이다. 지난 한 해 동안 디성센터가 1만 명이 넘는 피해자를 대상으로 33만 건의 삭제 지원과 상담·서비스 연계 등을 진행했는데, 이를 하루 단위로 계산해 본 수치다. 이처럼 디지털 성범죄 피해자는 계속 증가하고 있으며, 피해 범주도 지속적으로 확대되고 있다.
디성센터는 특히 AI와 SNS와 같은 디지털 기술을 악용한 젠더 기반 폭력 피해에 주목하여, 피해지원 데이터 분석을 통해 다음과 같은 특징이 있음을 발견하였다.
중앙디지털성범죄피해자지원센터 피해자 지원 실적(2018~2024)
첫째, AI 기반 딥페이크등 성적 합성·편집 피해가 빠르게 증가하고 있다. 디성센터는 불법 촬영, 합성·편집, 유포 불안 등 다양한 유형의 디지털 성범죄 피해를 유형화해서 통계화하고 있는데, 2024년 기준 합성·편집 피해자는 1,384명으로 이는 2023년 대비 3배 증가한 수치다. 피해유형별 비교로 보면, 불법촬영 피해는 전년 대비 42.9% 증가한 반면 합성·편집 피해는 전년 대비 227.2%나 증가했다.
피해유형별 현황(2023~2024)
둘째, AI 기반 디지털 성폭력은 여성에게 더욱 취약한 형태로 전개되고 있다. 센터를 찾은 피해자의 74%가 여성인데, AI 기반의 합성 편집 기술이 악용된 피해의 경우 여성이 전체 피해자의 96.6%나 됐다. 기술매개 성범죄 피해자의 대다수가 여성이지만, AI 등 첨단 기술을 활용한 피해는 여성에게 더욱 가혹한 형태로 나타나고 있는 것을 알 수 있다.
성별에 따른 피해유형 현황(2024)
셋째, 가해자와 피해자 모두 저연령화되고 있다. 디지털 성범죄 피해의 78%는 10대와 20대에 집중되어 있고, 10대가 29% 20대가 48% 정도를 형성하고 있다. 그런데 이를 성적 합성·편집 피해 분야로 좁혀서 보면 10대 피해자의 비율은 46.2%까지 증가한다. 문제는 10대 청소년은 피해자일 뿐만 아니라 가해자로도 대거 등장하고 있다는 점이다. 경찰청 통계에 따르면 지난해 8월부터 7개월 동안 딥페이크 성범죄 가해자 검거 수 976명 중 70%가 10대 청소년인 것으로 드러났다.
그렇다면 10대들 사이에서 왜 이러한 딥페이크 성범죄가 빠르게 확산하는 것인가. 우선, 평범한 10대들도 별다른 죄책감 없이 손쉽게 합성하고 공유할 수 있다는 점이다. 합성·편집의 기술적 진입 장벽은 거의 없고, 성적합성물을 공유·유포하는 채팅방을 찾는 것도 매우 쉬운 일이다. 폐쇄형 소셜미디어에서 친구들에게 딥페이크 사진을 올리거나 공유하면 레벨업(level-up)을 할 수 있는 방식으로, 이 모든 과정이 게임처럼 설계되어 있다는 것도 특징이다. 결국 이러한 구조가 또래들 사이의 놀이와 공동체 문화로 위장이 되면서 학생들 스스로 이 행동에 윤리적 문제를 깊이 고민하지 않게 만드는 구조적 취약성이 있었던 것이다.
연령에 따른 피해유형 현황(2024)
넷째, 기술매개 젠더 폭력은 온오프라인을 가리지 않고, 개인정보 유포 등의 2차 피해로도 확산되고 있다. 10대 피해의 경우 온라인에서 시작된 피해가 유포와 협박을 동반한 오프라인 성착취로까지 이어지고 있다. 또한 성적합성물과 개인정보를 함께 유포하거나, AI로 개인정보를 수집해 스토킹하는 등의 오프라인 협박 사례들도 등장하고 있다. 실제로 센터의 피해자 4명 중 1명은 피해영상물과 개인정보가 동반 유포되는 것으로 나타났다. 그리고 다수의 지원 사례에서 딥페이크 성적 합성물이 피해자의 실명과 주소·연락처 등과 함께 유포되어 극심한 고통과 불안을 호소하는 피해자들이 많았다.
마지막으로, 온라인 플랫폼의 초국가적 특성으로 인한 피해가 장기화되고 있다. 센터로 삭제 요청이 가장 많이 접수된 플랫폼은 해외 성인사이트이고, 다음으로 검색엔진, 소셜미디어 순이다. 특히 해외 성인사이트에선 동일 영상이 반복적으로 재유포되는 피해가 많이 일어나고, 텔레그램과 같은 폐쇄형 소셜미디어는 국내법 적용을 받지 않기 때문에 해당 플랫폼의 적극적인 협조나 비밀그룹방의 내부 고발자 없이는 증거를 찾기도, 삭제도 어렵다 보니 피해의 장기화를 낳고 있는 것이다.
이러한 분석 결과는 디지털 성범죄가 단순한 개인 간 범죄를 넘어 AI 기술과 플랫폼 환경 변화에 따라 더욱 정교하게 진화하고 있으며, 피해자는 정신적 피해 뿐만 아니라 온오프라인의 경계가 없는 극심한 고통과 불안을 겪고 있음을 보여준다. 따라서 범죄 피해의 심각성을 인식하고 이를 예방·방지하기 위한 적극적인 개입과 대응이 중요하다.
◆— 한국의 대응과 노력
한국은 문제의 심각성을 인식하고 그동안 법·제도를 정비하고, 피해자 지원 및 삭제 지원, 기술적 대응 등을 포함한 포괄적인 대응 체계를 발전시켜 왔다. 특히 2024년과 올해 주목할 변화가 있다. 먼저 성착취성의 딥페이크를 범죄화하고 가해자 처벌과 피해자 법적 보호를 강화하는 법 개정이 있었다. 성폭력피해자보호법 개정에 따라 ‘중앙디지털성범죄피해자지원센터’가 법적 지원기관으로 공식 제도화됐고, 전국에 17곳의 지역 지원센터도 설치되었다.
정부는 또한 ‘범정부 딥페이크 성범죄 대응 방안’을 마련했는데, 핵심은 모든 관계 부처의 종합적 대응이다. 이에 따라 수사 처벌 강화, 플랫폼 협력, 피해자 신고 및 보호, 아동· 청소년 대상 선제적 예방 강화, 삭제 지원 기술 개발 등 다방면에 걸친 대응계획이 수립되었다. 이러한 대응은 한국이 딥페이크 성범죄를 종합적인 개입과 조정이 필요한 사회적 과제로 인식하고 있음을 보여준다.
한국여성인권진흥원 또한 정부 정책 이행에 발맞춰 피해자 상담부터 삭제 지원, 서비스 연계와 같은 포괄적인 지원 인프라를 갖추는 데 집중해 왔고, 피해자 중심주의를 견지하면서 피해자 잊힐 권리를 위해 해외 성인사이트 등의 피해 촬영물 삭제를 위한 국제협력도 지속하고 있다.
최근에는 기술의 문제를 기술로써 해결하기 위한 도전적인 노력도 하고 있다. 특히 피해 영상물 삭제에 대해서는 AI 기반의 상담-식별·탐지-분석-삭제 지원에 이르는 통합 대응 솔루션을 마련하여 운영 중이다. 우선 여성긴급전화 1366을 상담 핫라인으로 구축하고, 여기에 AI 기반 헬프콜 시스템을 구축해 디지털 성범죄 피해 상담의 전문성을 높이고 있다. 상담원들은 피해 유형별 질의응답 셋(SET)을 학습한 AI를 통해 상담 시에 적절한 응답을 빠르게 제공받아 피해자에게 즉각적으로 도움이 될 정보를 알려줄 수 있도록 하고 있다. 또한 웹 크롤링(Web Crawling)이라는 AI 기반 영상 이미지 추적 기술은 피해 영상물을 자동으로 학습해서 24시간 주요 온라인 플랫폼상의 유포를 추적하고 식별해 내어 신속한 삭제 지원에 기여하고 있다.
더 나아가 진흥원은 지금 세 가지 기반의 AI 시스템을 개발하고 있다. 딥페이크 탐지 기술 및 삭제 요청 자동화 기술은 내년부터 상용화될 예정이고, 아동·청소년 온라인 성착취 피해에 적극 대응하고자 채팅 앱과 SNS 메신저의 성착취 유인 정보를 실시간 탐색해서 선제적으로 삭제를 요청하는 기술도 개발 중이다. 이러한 기술 개발은 온라인에서의 성적 피해를 예방하는 것에서부터 피해가 발생한 경우 즉각 개입하여 피해자의 잊힐 권리를 보장하는데 핵심적인 역할을 할 것이다.
◆— 향후 대응과 국제협력을 위한 고려점
AI 기술과 SNS의 발전은 여성과 여아를 향한 새로운 폭력 양상을 만들어내고 있다. 그러나 동시에 이러한 기술은 보다 안전하고 정의로운 디지털 세계를 구축하는 데 강력한 도구가 될 수도 있다. AI 기술을 피해자 중심주의에 기반해 설계한다면, 피해를 조기에 감지하고 신속하게 삭제하며 피해자에게 실질적인 지원을 제공하는 강력한 해결책이 될 수 있다.
이를 실현하기 위해서는 피해자 관점이 반영된 디지털 환경 조성을 위한 정책 기반이 필수적이다. 피해자 보호를 중심으로 한 법률과 윤리 원칙이 마련되어야 하며, 딥페이크 등 AI의 악용에 대해서는 명확한 금지와 책임 규정이 필요하다. 온라인 성착취물 삭제 기준, 조치 방식, 플랫폼의 투명성 보고 제도 역시 피해자의 목소리를 실질적으로 반영하는 구조여야 한다. 이를 위해 피해자 또는 지원 기관이 포함된 온라인 윤리위원회 구성, 피해자 관점에서의 AI 식별·탐지 기술 설계, 그리고 민관 협업과 정부 지원이 강화되어야 한다.
또한 기술이 시·공간과 사실·거짓의 경계를 허물고 있는 현실 속에서, 피해 지원을 담당하는 유관기관, 정부 부처, 그리고 국가 간 연대는 더 빠르고 긴밀해야 한다. 특히 온라인에서 발생하는 초국가적 피해에 대응하기 위해서는 법률, 기술, 정책 협력이 결합된 국제적 거버넌스가 반드시 필요하다.
한국은 미국의 NCMEC(실종학대아동방지센터)와 협력하여 불법 성적 콘텐츠 탐지 및 삭제 기술 협력 방안을 논의했으며, 호주 eSafety(온라인안전위원회), 캐나다 C3P(아동보호센터) 등 다른 국가들과도 협력해 온라인 플랫폼에 유포된 성적 착취물의 삭제를 추진해 왔다. 이처럼 글로벌 피해지원기관과의 기술 및 삭제 조치 협력은 국경을 초월해 확산되는 디지털 젠더 기반 폭력의 특성에 부합하는 필수적 대응 방향이다.
아울러 한국은 온라인 성적 피해에 선제적으로 대응하며 법·정책·제도를 발전시켜 온 경험을 바탕으로, 대응 모델을 다른 나라들이 벤치마킹할 수 있도록 현재 UNDP와 함께 ‘디지털 성범죄 대응 리소스북’을 공동 집필하고 있다. 이처럼 다자 간에 피해 지원을 위한 지식과 경험을 공유하는 노력 또한 매우 중요하다.
마지막으로, 지난해 12월 채택된 유엔 사이버범죄방지협약(UN Convention on Cybercrime)은 온라인 성착취물 관련 삭제·수사·가해자 추적 등을 위한 국가 간 법 집행 공조와 정부 공유 체계, 온라인 성범죄 등에 대한 각국의 형사 처벌 규정 마련을 의무화하는 내용을 담았다. 이렇듯 국제적으로 공통 규범을 만들어 대응을 강화한다면, 누구나 성별·연령·국적 등에 관계없이 성범죄로부터 인권을 보호 받고 안전한 온라인 환경을 누릴 수 있을 것이다.
*본 원고에 인용된 그래프와 통계는 한국여성인권진흥원 「2024년 디지털 성범죄 피해자 지원 보고서」(2025)에서 발췌하였습니다.