AI기술이 발달하면서 딥페이크를 이용한 각종 유사범죄 행위들이 논란이 되고 있습니다. 아직까지 AI범죄에 대한 대응책이 미비한 점을 이용해 각종 범죄에 이용되는 것인데요, 오늘은 딥페이크 범죄에 대한 정부의 대응방안과 딥페이크의 정확한 의미 그리고 SNS에 딥페이크가 유출되는 것에 대한 내용을 자세히 다뤄보겠습니다.
[목차]
딥페이크란?
딥페이크는 Deep learning과 Fake의 혼성어로 인공 지능을 기반으로 한 이미지 합성 기술을 의미합니다. 딥페이크는 초반에는 주로 웃긴 영상들을 제작하는 데 사용되었지만 몇몇 악용사례로 인해 사회적으로 큰 문제를 빚고 있습니다.
딥페이크는 생성적 적대 신경망인 GNA(Generative Adversarial Networks)를 활용해 만들어지게 됩니다. GNA는 이미지를 생성하는 '생성자'와 해당 이미지가 진짜인지 가짜인지를 판별하는 '판별자'가 존재하는데요, '생성자'는 판별자를 속이기 위해 끊임없이 정교하게 이미지를 생성해네고, '판별자'는 생성자가 생성하는 이미지가 진짜인지 가짜인지를 계속해서 판별하며 학습이 이루어집니다. 이 과정을 통해 점점 진짜인지 가짜인지 여부를 판별하기 어려운 이미지가 생성되는데 이 것이 딥페이크 기술의 기본 원리가 됩니다.
딥페이크 기술은 영화나 엔터테인먼트 산업에서 배우의 얼굴을 늙거나 젊게 보이게 하기도 하며, 이미 고인이 된 배우의 얼굴을 만들어 영상에 등장시키는 등의 방식으로 활용되기도 합니다. 유튜브나 인스타그램 같은 SNS에서는 해외 유명인사의 얼굴을 웃긴 영상에 입히는 등의 방식으로 사람들의 관심을 끌기도 합니다.
딥페이크 범죄
딥페이크 기술은 다양한 산업에서 긍정적으로 활용되고 있지만, 최근 범죄의 영역에 활용되면서 많은 논란이 되고 있습니다. 최근 '서울대 N 번 방 사건'과 같이 동문 여성 수십 명을 대상으로 딥페이크 기술을 활용, 음란물을 제작 및 유포한 사건과 같이 일반인들이 피해자가 되는 사건들이 발생하고 있습니다.
심지어 경기도 용인의 한 중학교에서 2학년 남학생이 또래 여학생들을 대상으로 딥페이크 기술을 활용한 영상을 제작했다가 검찰에 송치되는 사건도 있었습니다.
최근 논란들이 있기 전에도 딥페이크 기술은 일부 여성 연예인을 대상으로 많은 문제를 불러왔었지만 정부입장에서는 AI기술에 대한 대응책이 미비하다는 핑계로 대처를 미뤄왔었습니다. 이제는 그 피해가 일반인들에게까지 미치기 시작했습니다. 정부는 최근 딥페이크 논란에 대한 긴급 현안 논의를 오늘 29일 국회에서 가질 예정입니다. 지난 27일 윤석열 대통령은 국무회의에서 "딥페이크 영상물은 익명의 보호막에 기대 기술을 악용하는 명백한 범죄 행위"라며 강력한 대응을 주문한 바 있습니다.
정부의 대응방안
8월 29일 오전에 국회에서 열린 딥페이크 성범죄 관련 부처 긴급 현안 보고에서 국민의 힘과 정부는 딥페이크 대응과 관련해 허위 영상물에 대한 처벌을 강화하기로 하였습니다. 해당 회의를 통해 나온 방안은 다음과 같습니다.
- 딥페이크 영상물 음성적 유통경로인 텔레그램과의 협의 강화 및 상시 핫라인 구축 추진
- 허위영상물의 처벌을 현행 5년에서 7년으로 강화
- 해당 범죄와 관련, 각 부처에 대응하던 방식을 탈피하고 국무조정실에서 전담 컨트롤 타워 역할을 맡기로 함
- 다음 달 초 딥페이크 신고센터 확립
- 피해자를 위한 의료 및 법률 지원
인간이 만든 AI기술로 인해 인간이 피해를 보는 기이한 상황이 되었지만, 이를 막을 수 있는 것 또한 인간입니다. 사회의 법과 제도 안에서 이 문제를 해결해야 또 다른 기술의 발달로 인한 피해자가 발생하지 않을 것입니다.