서울시·방심위, 딥페이크 핫라인 구축…24시간 내 삭제

24시간 딥페이크 삭제지원 핫라인 시스템 구축

오세훈 서울시장(왼쪽)과 류희림 방송통신심의위원장이 28일 서울시청에서 '딥페이크 영상물 삭제 지원을 위한 업무협약'을 체결한 뒤 기념 촬영을 하고 있다. /서울시

최근 텔레그램에서 인공지능(AI)을 이용해 지인 등의 얼굴을 합성한 '딥페이크' 성범죄가 학교·단체·군 등으로 광범위하게 확산하자 서울시가 딥페이크 범죄 피해자 지원에 나섰다.

오세훈 서울시장은 28일 서울시청에서 류희림 방송통신심의위원회 위원장과 '딥페이크 음란물 영상 삭제지원 업무협약'을 체결했다.

주요 협약 내용은 디지털 성범죄 삭제지원 핫라인 시스템 구축, 해외공조 협력 등이다.

우선 폐쇄형 SNS에서 돌던 딥페이크 영상물이 음란사이트나 SNS에 유포돼 피해 신고가 들어올 경우 24시간 이내에 영상이 삭제·차단될 수 있게 조치할 계획이다.

시 관계자는 "그동안은 시 디지털성범죄 안심지원센터에서 방심위에 각종 증빙 자료와 함께 영상 삭제 요청을 해야 했지만, 핫라인 가동으로 대량의 건수를 한 번에 삭제 요청할 수 있게 됐다"고 설명했다.

시와 방심위의 핫라인은 이날부터 가동된다. 시는 급증하는 딥페이크 범죄에 대응하기 위해 카카오톡 오픈채팅방에 딥페이크 SOS 전담 상담창구를 개설하고 피해지원관 2명을 배치해 신고 방법과 범죄 채증 방법을 안내할 계획이다.

또 내년에는 AI를 기반으로 한 딥페이크 검출 기술인 '서울 안심 아이'를 개발해 원본 사진과 딥페이크를 구분·검출할 수 있도록 할 계획이다.

오 시장은 "폐쇄형 SNS에서 직접적으로 삭제하기는 어렵지만, 급증하는 딥페이크 불법영상물로부터 시민의 피해 최소화를 위해 24시간 이내 삭제 지원 체계 마련, 전담 상담창구 운영, 기술개발을 강력히 추진해 나가겠다"고 말했다.