AI로 3분 만에 잡아낸다…디지털성범죄 24시간 추적·감시
내 손안에 서울
발행일 2023.03.29. 15:47
서울시가 전국 최초로 AI기술을 도입해 디지털성범죄 자동 추적·감시에 나선다
서울시가 디지털성범죄 예방과 피해자 지원을 위해 운영 중인 ‘서울 디지털성범죄 안심지원센터’(이하 ‘센터’) 개관 1년을 맞아 전국 최초로 AI(인공지능) 기술을 도입해 24시간 디지털성범죄 자동 추적‧감시에 나선다.
AI 기술이 24시간 실시간 모니터링을 통해 피해자와 관련된 각종 사회관계망서비스(SNS) 상의 피해 영상물을 자동으로 검출, 보다 빠르게 영상물을 삭제하고 재유포를 막는다.
기존에는 피해자의 얼굴이나 특이점을 육안으로 판독해서 수작업으로 찾아내는 방식이라면, 앞으로는 AI 딥러닝 기술이 오디오, 비디오, 텍스트 정보를 종합적으로 분석해서 한 번 클릭만으로 피해자와 관련된 모든 피해 영상물을 즉시 찾아낸다.
사회관계망서비스(SNS) 특성상 전파‧공유가 쉽고 유포 속도가 매우 빠른 만큼, 피해 영상물이 재확산되는 걸 막기 위해서는 영상이 올라오자마자 신속하게 삭제하는 것이 무엇보다 중요하다는 점에 착안한 것이다. 작년 7월 서울기술연구원에서 프로그램 개발에 착수, 올해 3월 프로그램 개발을 완료했다.
키워드 입력부터 영상물 검출까지 불과 3분 정도밖에 걸리지 않아 기존 1~2시간이 소요됐던 것에 비해 검출속도가 획기적으로 개선되고, 정확도도 200% 이상 향상된다. AI의 학습 데이터가 축적될수록 정확도와 속도는 향상될 것으로 기대된다.
또한, AI가 영상물을 찾아내기 때문에 24시간 모니터링이 가능하고, 삭제지원관이 피해 영상물을 접하면서 발생할 수 있는 트라우마와 스트레스도 줄일 수 있다.
AI 기술이 24시간 실시간 모니터링을 통해 피해자와 관련된 각종 사회관계망서비스(SNS) 상의 피해 영상물을 자동으로 검출, 보다 빠르게 영상물을 삭제하고 재유포를 막는다.
기존에는 피해자의 얼굴이나 특이점을 육안으로 판독해서 수작업으로 찾아내는 방식이라면, 앞으로는 AI 딥러닝 기술이 오디오, 비디오, 텍스트 정보를 종합적으로 분석해서 한 번 클릭만으로 피해자와 관련된 모든 피해 영상물을 즉시 찾아낸다.
사회관계망서비스(SNS) 특성상 전파‧공유가 쉽고 유포 속도가 매우 빠른 만큼, 피해 영상물이 재확산되는 걸 막기 위해서는 영상이 올라오자마자 신속하게 삭제하는 것이 무엇보다 중요하다는 점에 착안한 것이다. 작년 7월 서울기술연구원에서 프로그램 개발에 착수, 올해 3월 프로그램 개발을 완료했다.
키워드 입력부터 영상물 검출까지 불과 3분 정도밖에 걸리지 않아 기존 1~2시간이 소요됐던 것에 비해 검출속도가 획기적으로 개선되고, 정확도도 200% 이상 향상된다. AI의 학습 데이터가 축적될수록 정확도와 속도는 향상될 것으로 기대된다.
또한, AI가 영상물을 찾아내기 때문에 24시간 모니터링이 가능하고, 삭제지원관이 피해 영상물을 접하면서 발생할 수 있는 트라우마와 스트레스도 줄일 수 있다.
AI 프로그램 활용 전/후 변화되는 피해자 지원환경
서울시는 AI 기술 도입과 함께 올해는 아동‧청소년 피해 예방에 주력할 계획이다. 최근 아동‧청소년을 대상으로 한 디지털성범죄 피해건수가 지속적으로 증가하고, 특히 피해자나 가족의 신고 없이 온라인 상에서 유포되는 피해 영상물이 많은 데 따른 것이다.
본인이 삭제를 요청해야 삭제지원이 가능한 성인과 달리, 아동‧청소년은 ‘아동·청소년의 성보호에 관한 법률’ 등에 따라 당사자나 부모님의 신고 없이도 즉시 삭제가 가능한 만큼, AI 추적‧감시를 통해 디지털성범죄 피해 예방에 선제적으로 나선다.
아동‧청소년에 대한 디지털성범죄 예방을 위해서 친숙한 메타버스 공간에서 이뤄지는 교육 콘텐츠를 IT 기업과 협업해 개발하고, 청소년 스스로 디지털 환경을 안전하게 만드는 서포터즈 활동도 추진한다. 가해 청소년에 대한 전문가 상담을 통해 재발방지에도 나선다.
본인이 삭제를 요청해야 삭제지원이 가능한 성인과 달리, 아동‧청소년은 ‘아동·청소년의 성보호에 관한 법률’ 등에 따라 당사자나 부모님의 신고 없이도 즉시 삭제가 가능한 만큼, AI 추적‧감시를 통해 디지털성범죄 피해 예방에 선제적으로 나선다.
아동‧청소년에 대한 디지털성범죄 예방을 위해서 친숙한 메타버스 공간에서 이뤄지는 교육 콘텐츠를 IT 기업과 협업해 개발하고, 청소년 스스로 디지털 환경을 안전하게 만드는 서포터즈 활동도 추진한다. 가해 청소년에 대한 전문가 상담을 통해 재발방지에도 나선다.
서울 디지털성범죄 안심지원센터 피해지원 실적
‘서울 디지털성범죄 안심지원센터’는 긴급상담부터 수사‧법률지원, 삭제지원, 심리치료‧의료 지원에 이르는 원스톱 지원을 통해 지난 1년간 402명의 피해자를 지원했다. 총 지원 건수는 7,682건에 이른다. 시가 지원한 피해자의 연령대는 10~20대(약 57%)가 가장 높은 비율을 차지했으며, 이중 10대 비율은 16.6%였다.
피해 영상물은 총 3,003건을 삭제했으며, 이중 절반이 넘는 1,608건(54%)이 아동‧청소년 성착취물이었다. 경찰과의 협력을 통해 924건의 수사를 지원했으며, 이 과정에서 가해자를 검거·특정하는 성과도 거뒀다. 574건의 법률‧소송, 507건의 심리치료도 지원했다.
디지털 성범죄 피해를 입은 아동·청소년, 시민 등은 센터 상담전용 직통번호 ‘815-0382(영상빨리)’ 또는 카카오톡 1:1상담채팅방(검색 : 지지동반자 0382)으로 문의하면 된다.
피해 영상물은 총 3,003건을 삭제했으며, 이중 절반이 넘는 1,608건(54%)이 아동‧청소년 성착취물이었다. 경찰과의 협력을 통해 924건의 수사를 지원했으며, 이 과정에서 가해자를 검거·특정하는 성과도 거뒀다. 574건의 법률‧소송, 507건의 심리치료도 지원했다.
디지털 성범죄 피해를 입은 아동·청소년, 시민 등은 센터 상담전용 직통번호 ‘815-0382(영상빨리)’ 또는 카카오톡 1:1상담채팅방(검색 : 지지동반자 0382)으로 문의하면 된다.
서울 디지털성범죄 안심지원센터
○ 위치 : 서울시여성가족재단 3층(동작구 여의대방로54길 18)
○ 주요 업무 : 피해자 원스톱 지원, 영상물 삭제, 디지털 성범죄 예방
○ 누리집 : 서울 디지털성범죄 안심지원센터
○ 상담 시간 : 월~금요일 10:00~17:00(점심시간 12:00~13:00)
- 직통번호 : 02-815-0382(영상빨리)
- 이메일 : 8150382@seoulwomen.or.kr
- 카카오톡 : 지지동반자0382 ☞안내 페이지 바로가기
○ 주요 업무 : 피해자 원스톱 지원, 영상물 삭제, 디지털 성범죄 예방
○ 누리집 : 서울 디지털성범죄 안심지원센터
○ 상담 시간 : 월~금요일 10:00~17:00(점심시간 12:00~13:00)
- 직통번호 : 02-815-0382(영상빨리)
- 이메일 : 8150382@seoulwomen.or.kr
- 카카오톡 : 지지동반자0382 ☞안내 페이지 바로가기
댓글은 자유로운 의견 공유의 장이므로 서울시에 대한 신고, 제안, 건의 등
답변이나 개선이 필요한 사항에 대해서는 전자민원 응답소 누리집을 이용하여 주시기 바랍니다.
상업성 광고, 저작권 침해, 저속한 표현, 특정인에 대한 비방, 명예훼손, 정치적 목적,
응답소 누리집 바로가기유사한 내용의 반복적 글, 개인정보 유출,그 밖에 공익을 저해하거나 운영 취지에 맞지
않는 댓글은 서울특별시 조례 및 개인정보보호법에 의해 통보없이 삭제될 수 있습니다.