26일 서울 중구 LG서울역빌딩에서 열린 LG유플러스 AI 보안 기술 설명회에서 모델들이 AI '안티딥페이크(Anti-Deepfake)' 기술을 시연하고 있다. 이 기술은 영상이나 이미지를 분석해, 합성된 영상에 남아있는 비자연적인 흔적을 탐지해 합성 여부를 판별한다. LG유플러스는 향후 안티딥페이크 기술을 활용해 영상을 이용한 피싱 범죄를 차단하고, 위변조된 유해 콘텐츠를 신속히 식별하는 등 고객의 안전을 보호할 계획이다. 2025.6.26/뉴스1 (서울=뉴스1) 박지혜 기자 / [email protected]

부모가 SNS에 무심코 올리는 자녀 사진이 인공지능(AI)을 악용한 성착취물 제작에 범죄 표적이 될 수 있다는 경고가 나왔다.

5일 영국 가디언 등 외신에 따르면 최근 영국 인터넷감시재단(IWF)과 국가범죄청(NCA)은 온라인 범죄자들이 공개된 아동 이미지를 무단 도용해 성적 콘텐츠를 만드는 사례가 급증하고 있다고 밝혔다.


피해 규모는 폭발적으로 늘고 있다. IWF는 AI가 생성한 아동 성학대 영상이 불과 1~2년 사이에 수십 개 수준에서 수천 개 단위로 폭증한 것으로 추산했다.

아동보호기관 '차일드라인'에 접수된 사례 중에는 한 10대 청소년이 "낯선 사람이 내 인스타그램 계정에서 얼굴과 침실 사진을 가져가 가짜 누드 사진을 만들었다"고 신고한 일도 있었다.

문제는 대부분의 부모들이 이러한 위험성을 제대로 인지하지 못하고 있다는 것이다. 전문가들은 범죄 악용을 막기 위해 부모와 보호자가 SNS 계정을 반드시 '비공개'로 전환하고 자녀 사진을 공유할 때는 '친한 친구' 등 신뢰할 수 있는 소수 그룹에만 제한적으로 공개할 것을 권고했습니다.