분야별 뉴스 - 안전

'사진 보낼래?' 미성년자 온라인 그루밍 AI로 잡는다

트리거 신호 대화패턴 AI 탐지기술 ‘서울 안심아이’ 연내 개발 SNS·오픈채팅 등에서 그루밍 시도 탐지, 상담·수사 지원 서울시는 아동·청소년을 타깃으로 한 ‘온라인 그루밍’이 증가함에 따라 전국 최초로 AI 기반 ‘서울 안심아이(eye)’를 개발하여 24시간 탐지 및 대응에 나선다. 온라인 그루밍은 SNS, 오픈채팅 등에서 알게 된 미성년자에게 친절하고 다정하게 접근해 환심을 사고 친밀감을 형성한 뒤 경계심이 흐려진 상대에게 성적 대화를 유도하거나 학대·착취하는 성범죄 행위다. 서울시 설문조사에 따르면 온라인 그루밍 접근을 경험한 아동·청소년은 5명 중 1명꼴(19%)로 나타났다. 이에 서울시는 24시간 온라인 위험 징후를 선제적으로 포착해(eye), 아동·청소년(아이)을 보호하는 ‘서울 안심아이(eye)’를 개발한다. 시는 앞서 지난 2023년 온라인상에 유포된 디지털 성범죄 영상의 모니터링과 신속한 삭제 지원을 위해 전국 최초로 AI 기술을 도입한데 이어, 2024년에는 아동·청소년 AI 안면인식 나이 예측 기술을 개발하여 성착취물을 선제적으로 삭제지원했다. 올해는 온라인 그루밍 정황 탐지를 위한 AI 기술을 서울연구원과 함께 연내 개발할 계획이다. 해당 기술은 대화 흐름 속에서 “사진 보낼래?”, “영상통화 할까?”, “집이 싫으면 가출해 보심?”, “용돈 받고 뭐 원하는 거 해주고 그러는 거야”와 같이 성범죄의 트리거가 되는 표현 패턴을 감지한다. 단순히 특정 단어를 감지하는 수준을 넘어, 멀티모달 지원 경량화된 언어모델(sLLM, small Large Language Model)을 결합해 다양한 은어·축약어·연속된 대화 맥락까지 함께 분석하도록 설계된다. AI가 아동·청소년이 주로 이용하는 SNS, 오픈채팅방 등 온라인 공간에서 발생하는 성적 유인과 성착취 시도를 24시간 실시간으로 탐지, 위험 징후 포착 즉시 피해지원기관에 긴급 알림을 전송하면 피해지원기관에서 개입해 피해 확산을 초기에 차단한다. 피해지원기관(다시함께상담센터 등)에서는 피해 확산 방지와 예방 조치가 적극적으로 이뤄질 수 있도록 전문 상담사를 배정해 초기 대처법을 안내하고, 상담과 수사를 지원한다. 또한 지속적·반복적으로 온라인 그루밍을 시도하는 계정에 대해서는 신고·고발을 병행하는 등 실질적인 대응에 나선다. 온라인 그루밍 범죄의 심각성에도 불구하고, 지금까지는 아동·청소년에 대한 성착취 목적의 대화가 실제 성적인 행위로 이어진 경우에 주로 처벌이 이뤄져 왔다. 그러나 최근 「아동·청소년의성보호에관한법률」 제15조의2의 제3항에 미수범 처벌 조항이 신설(2025.4.22.)됨에 따라 아동·청소년에게 성적 욕망을 가진 대화를 시도하는 초기 단계부터 처벌이 가능해져 범죄 초기 단계의 접근을 효과적으로 차단하고 처벌의 실효성을 높일 수 있을 것으로 기대된다. 아동·청소년 5명 중 1명 온라인 그루밍 접근 경험 서울시가 서울시여성가족재단에 의뢰해 실시한 온라인 그루밍 피해 실태조사(서울시내 초등학교 5학년~고등학교 3학년 총 2,316명 대상, 2025년)에 따르면, 온라인 그루밍 접근을 경험한 아동·청소년은 5명 중 1명꼴(19%)로 나타났다. ‘온라인에서 말 걸기, 선물 제공, 성적 대화 요구 등’의 온라인 그루밍 경험을 했으며, 접근 경로는 SNS, 1:1·오픈채팅, 게임 순으로 빈도가 높았다. 접근한 사람의 특징으로는 ‘온라인에서 처음 만났고 전혀 모르는 사람’이 35.5%로 가장 많았고 ‘친구·선후배 등의 또래’가 34.2%였다. 주로 이야기를 나눈 온라인 플랫폼은 ‘SNS(엑스(X, 옛 트위터)･인스타그램·페이스북 등)’가 33.3%로 가장 높았고 1:1 채팅방, 오픈채팅방이 31.1%, 게임이 15.6%로 나타났다. 온라인에서 대화나 만남을 제안받거나 돈·선물 등 대가를 제공하겠다는 ‘적극적인 유인’ 형태의 온라인 그루밍 피해를 경험한 아동·청소년 은 11.7%(270명)이었고, 이러한 ‘적극적 유인’에 대답한 적이 있다고 응답한 비율은 16.7%로 나타났다. 그중 오프라인에서 실제로 만난 경험이 있는 아동·청소년은 28.9%였으며, 직접 만난 이유로는 ‘친절하고 말이 잘 통해서 친구가 되거나 사귀게 됨’이라는 응답이 58.3%로 가장 높았다. 적극적 유인에 대답한 적이 있는 아동·청소년 중 40%의 응답자는 그것이 피해라고 생각했고, 그 이유는 ‘상대방이 나이나 신분 등의 개인정보를 속였기 때문에’(33.3%), ‘계속 성과 관련된 이야기를 하거나 성적인 관계를 맺자고 해서’(16.7%), ‘원하지 않는데도 신체적인 접촉을 하려고 해서’(16.7%) 등이었다. 서울시는 미성년자 대상 성범죄의 상당수가 온라인 그루밍에 뿌리를 두고 있는 만큼, 피해자도 모르는 사이에 돌이킬 수 없는 피해로 이어지지 않도록 선제적 예방에 힘쓸 계획이다. 상담·문의 : 서울디지털성범죄안심지원센터 02-815-0382