딥페이크(DeepFake) 불법합성물 성범죄의 피해가 매우 크다. 정부와 국회의 책임이 매우 크며 소중한 아이들의 미래가 달려 있다.

딥페이크 성범죄 실태 조사보고 기자회견 모습

딥페이크(DeepFake) 성범죄

언론에는 딥페이크 (deepfake)로 인한 범죄에 대하여 연일 떠들썩하다. 국회 행정안전위원회 소속 더불어민주당 양부남 의원이 경찰청에서 제출받은 자료에 따르면 2021-2023년 경찰에 신고된 허위영상물(딥페이크 범죄를 통해 편집된 합성음란물) 사건의 피해자 총 527명 중 59.8%(315명)는 10대였다.

양부남 의원은 "딥페이크의 피해자 중 대부분이 10대인 것을 감안하면 대책 마련을 서둘러야 한다"면서 "특히 딥페이크 발생건수에 비해 검거실적이 저조한 만큼 강도 높은 수사와 강력한 처벌을 뒷받침할 법안 마련이 시급하다"라고 강조했다. 경찰은 수사력을 높이기 위한 자체 대응으로 딥페이크 탐지 소프트웨어 고도화와 위장수사 활성화를 추진 중이다.

전 세계 딥페이크(DeepFake) 성범죄 절반은 한국 여성 연예인

미국 월스트리트저널(WSJ)은 28일(현지시간) 사이버보안 업체인 '시큐리티 히어로'가 최근 발표한 '2023 딥페이크 현황' 보고서를 인용해 한국이 딥페이크 성범죄에 가장 취약한 국가라고 보도했다. 이 보고서는 지난해 7~8월 딥페이크 음란물사이트 10곳과 유튜브 · 비메오 · 데일리모션 등 동영상 공유 플랫폼의 딥페이크 채널 85개에 올라온 영상물 9만 5820건을 분석했다. 그 결과 딥페이크 음란물에 등장하는 개인 중 53%가 한국인 가수와 배우로 나타났다.

딥페이크 피해자 가운데 한국인 비율이 53%로 1위이며 미국인은 두 번째로 많은 20%였으며, 이어 일본 10%, 영국 6%, 중국 3%, 인 도 2%, 대만 2%, 이스라엘 1% 순이었다.

디지털 성범죄로 인한 국가적 재난상황이다. 관련기사 찾아보기  

본인 불법촬영물 직접 확인도…학교 '딥페이크' 피해 500명 넘어 | 연합뉴스

최근 '딥페이크' 성범죄가 학생들 사이에서 급격하게 확산하면서 교육당국이 강력 대응에 나섰다. 또 피해자 신고센터와 상담소를 운영하고, 특별교육과 캠페인도 실시한다고 한다.

울산의 여고생 2명 딥페이크 합성물 피해 경찰 조사 

부산 해운대구 중학생 4명 딥페이크 합성물 피해 경찰 조사

인천의 고등학교에서 교사가 증거 수집 범인 잡아,

인천 남동경찰서 성폭력범죄의 처벌 등에 관한 특례법 위반 등 혐의로 10대 A군 수사 중

 

딥페이크(DeepFake)가 무엇이며 왜 정부와 국회의 책임인가?

딥페이크(DeepFake)가 무엇?

딥페이크(deepfake)는 딥러닝(Deep Learning)과 Fake의 합성어로, 딥러닝 기술을 사용하는 인간 이미지 합성 기술이다. 딥페이크(deepfake)는 적대관계생성신경망 (Generative Adversarial Networks, GAN)을 이용하여 원본 이미지 위에 다른 이미지를 결합해 새로운 이미지를 생성하는 기술을 말한다.

왜 정부와 국회의 책임인가?

딥페이크(DeepFake) 성범죄는 인공지능 기술인 딥러닝을 활용해 특징인의 얼굴을 다른 영상에 합성하는 기술을 악용한  범죄로, 이로 인한 피해자의 인권 침해와 명예훼손 등의 문제가 발생하고 있다. 이에 따라 정부와 국회는 딥페이크 성범죄를 예방하고, 범죄자를 강력하게 처벌할 수 있는 법적 제도와 정책을 마련해야 한다.

정부와 국회의 책임으로는 다음과 같은 것들이 있을 수 있다.

1. 법적 제도와 규제

딥페이크 기술을 악용한 범죄를 막기 위해 다양한 법적 제도를 도입하고, 기존의 사생활 보호 법률을 딥페이크 기술에 맞게 확대하고, 새로운 법안을 마련하여 딥페이크 범죄자에 대한 강도 높은 처벌을 추진해야 한다.

2. 신고 및 지원 체계 구축

디지털 성범죄 피해자 신고센터를 설립하고 운영하며, 피해자 상담 및 지원 기관에 대한 정보를 제공해야 한다.

3. 예방과 교육

딥페이크 기술의 위험성과 적발 방법을 알려주는 온라인 강좌와 자문 서비스를 제공하고, 디지털 성범죄 예방 교육을 제공하고 관련 교육 자료를 배포해야 한다.

이러한 노력을 통해 딥페이크 성범죄를 예방하고, 피해자를 보호하며, 범죄자를 강력하게 처벌할 수 있다. 따라서 정부와 국회는 딥페이크 성범죄에 대한 책임을 느끼고, 적극적으로 대처해야 한다.

4.  2022년 챗GPT가 발표되고 사회적으로 관심이 폭발적일 때, 준비를 하였어야 했다.

딥페이크 성범죄는 매우 심각한 범죄 중 하나이며, 이를 예방하고 대응하기 위해서는 정부와 국회의 적극적인 역할이 필요하다. 딥페이크 성범죄를 막기 위한 입법 조치와 같은 활동을 하여야 했다.

김대식교수의 인공지능 이야기

딥페이크(DeepFake) 성범죄 대책을 위한 국회와 정부의 역할

규제 및 처벌 강화

딥페이크 성범죄를 저지른 사람들에 대한 규제와 처벌을 강화해야 한다. 이는 범죄자들에게 강력한 경고를 보내고, 피해자들을 보호하는데 도움이 된다.

기술적 대책 마련

딥페이크 성범죄를 막기 위해 기술적인 대책도 함께 마련되어야 합니다. 예를 들어, 딥페이크 영상을 탐지하고 차단하는 기술을 개발하고 적용하는 것이 필요합니다.

교육 및 인식 개선

딥페이크 성범죄를 막기 위해서는 교육과 인식 개선이 필수적이다. 국민들에게 딥페이크 성범죄의 위험성과 대처 방법을 알리고, 이를 방지하기 위한 노력을 기울여야 한다.

결언 : 우리의 소중한 아이들의 미래가 달려 있다. 사회가 보살펴야 한다.

2022년 첫 GPT가 발표되었을 때 정부와 국회는 이러한 문제에 대해 빠르게 대처하고 입법을 통해 대비했어야 했다. 그러나 당시에는 딥페이크 성범죄에 대한 인식이 부족했을 수도 있으며, 입법 과정에서는 다양한 이해 관계자들과의 협의와 논의가 필요하므로 시간이 소요될 수 있다. 따라서 지금이라도 딥페이크 성범죄를 막기 위한 강력하고 적절한 법적 제도를 구축하고 시행해 나가는 것이 중요하다.

4차 산업이 산업 전반에 적용되고 인공지능이 생활화되는 지금 이 시대에는 우리 인류가 가보지 않았고 경험하지 못한 사회이다. 따라서 전체 사회 구성원 모두가 관심을 가지고 대비하고 경각심을 가져야 하겠다. 선량한 학생도 기술에 현혹되어 자신도 인식하지 못한 채로 범죄의 나락으로 빠져들 수 있다. 소중한 우리 학생들과 아이들의 미래가 달려 있다. 

딥페이크(DeepFake) 불법합성물 성범죄의 피해가 매우 크다. 정부와 국회의 책임이 매우 크며 소중한 아이들의 미래가 달려 있다. 

---