← ALB News · curated headline

어느 날 내가 딥페이크 피해자가 됐다

ZDNet Korea · KR · Hardware · 11/16/2026, 12:02:04 AM

[지디넷코리아]생성형 인공지능(AI)이 일상 깊숙이 파고들면서 디지털 세상의 신뢰가 새로운 시험대에 올랐다. AI가 만든 가짜 이미지와 영상이 진짜처럼 유통되고, 허위정보와 사칭 범죄가 확산하면서 온라인에서 무엇을 믿어야 할지 판단하기 어려워지고 있다. 기술의 발전 속도에 비해 이용자 보호와 사회적 대응 체계는 여전히 부족하다는 지적도 나온다. 지디넷코리아는 '안전한 AI의 길을 묻다' 기획을 통해 AI가 가져온 디지털 환경 변화와 그 이면의 문제를 짚어본다. 피해 실태와 제도적 한계, 플랫폼의 책임, 시민의 디지털 리터러시 등을 살펴보고 건강하고 신뢰할 수 있는 디지털 생태계를 만들기 위한 해법을 모색한다. [편집자주]“야, 이거 너 아니야? 텔레그램에 네 얼굴 합성한 이상한 사진 돌아다니는데?"A씨는 친구를 통해 자신이 사회관계망서비스(SNS)에 올린 사진이 성적 합성물로 둔갑해 텔레그램 대화방에 유포되고 있다는 사실을 알게 됐다. 누군가 A씨의 일상 사진을 이용해 딥페이크 음란물을 제작한 것이다.A씨는 중앙디지털성범죄피해자지원센터에 상담과 삭제 지원을 요청했다. 센터는 A씨가 알려준 텔레그램 대화방 주소를 통해 합성물을 확보했다. A씨가 경찰 신고를 원하자 수사기관과 지역 지원기관에 연계했으며, 이후에도 합성물이 다시 유포되는지 살폈다.인공지능(AI) 기술이 발전하면서 SNS에 공개한 평범한 사진이 성범죄에 악용되는 사례가 늘고 있다. AI를 이용하면 타인의 얼굴을 성적 이미지나 영상에 감쪽 같이 덧입힐 수 있기 때문이다. 당사자가 촬영하거나 동의한 적 없는 사진과 영상이 온라인에 유포되는 것이다.한국여성인권진흥원이 지난해 공개한 A씨의 사례에서도 범죄에 악용된 것은 평소 SNS에 올린 일상 사진이었다. 별도 사진을 촬영하거나 누군가에게 전송하지 않았더라도 딥페이크 성범죄 피해자가 될 수 있다는 점을 보여준다.문제는 피해 사실을 발견한 이후에도 해결해야 할 일이 많다는 점이다. 합성물이 어디까지 퍼졌는지 파악하기 어렵고, 게시물을 삭제하더라도 다른 곳에서 다시 유포될 가능성이 있다. 법적 대응에 나서려면 합성물을 제작하고 유포한 사람을 특정해야 하는 어려움도 남는다.딥페이크는 AI를 이용해 사람의 얼굴이나 목소리 등을 합성해 실제처럼 보이거나 들리는 이미지·영상·음성을 만드는 기술이다. 타인의 얼굴을 성적 이미지나 영상에 무단으로 합성하는 데 악용되면 당사자가 성적인 사진이나 영상을 찍은 적이 없어도 피해를 입을 수 있다.대표적으로 K팝 아이돌이나 연예인의 무대·방송 영상을 음란물과 합성하거나 의상을 제거해 나체처럼 보이도록 편집한 뒤 유포하는 사례가 있다. 일반인이나 지인, 인플루언서가 SNS 등에 공개한 일상 사진을 악용해 신체를 노출하거나 성적 행위를 하는 것처럼 조작해 퍼뜨리는 경우도 있다.한국여성인권진흥원의 ‘2025 디지털성범죄 피해자 지원 보고서’에 따르면 센터가 집계한 합성·편집 피해는 2024년 1384건에서 2025년 1616건으로 16.8% 증가했다. 이 중 745명은 새로 지원받은 피해자였고 871명은 이전부터 지원을 받아온 피해자였다. 10대가 749명, 20대가 725명으로 두 연령대가 전체의 91.2%를 차지했다.또 방송미디어통신심의위원회(방미심위)에 따르면 올해 10월 기준 딥페이크 성범죄정보에 대한 시정요구는 1만 9197건이었다.문제는 디지털 콘텐츠 특성상 한 번 유포된 합성물이 어디까지 퍼졌는지 피해자가 직접 확인하기는 어렵다는 점이다. 이성엽 고려대 기술경영전문대학원 교수는 “인터넷으로 순식간에 퍼지니까 개인들이 다 찾아서 신고하기 어렵다”며 “디지털 콘텐츠는 복제가 쉬워 처음 발견한 게시물을 내려도 다른 곳에 퍼진 자료까지 파악하기 어렵다”고 말했다.이런 성적 합성물을 발견하면 어떻게 해야할까. 먼저 게시물 주소(URL)와 게시 화면, 관련 메시지나 대화 기록을 남겨두는 게 좋다. 상담은 중앙디지털성범죄피해자지원센터 홈페이지의 온라인 게시판이나 센터 전화, 여성긴급전화를 통해 신청할 수 있다.센터는 상담을 통해 피해 상황을 확인하고 삭제 지원에 필요한 신청 서류와 자료를 안내한다. 피해자는 홈페이지 게시판으로 서류와 게시물 주소 등 관련 자료를 제출할 수 있다.구체적인 주소를 찾지 못했지만 유포가 의심된다면 유포 여부를 확인하는 모니터링을 문의할 수 있다. 센터는 유포가 확인된 게시물 삭제를 지원하고 이후에도 재유포 여부를 살핀다. 삭제 지원 결과는 홈페이지 게시판에서 확인할 수 있다.피해자가 게시물이 올라온 SNS나 사이트에 직접 신고하거나 방미심위에 심의를 신청하는 방법도 있다.방미심위는 24시간 교대근무로 신고를 접수한다. 성범죄정보가 유통되는 사실을 파악하면 사이트 운영자에게 삭제 등을 요청하고 조치가 이뤄지지 않으면 디지털범죄심의소위원회에 안건을 올린다. 해외 서버에서 유통되는 게시물은 국내 인터넷서비스사업자(ISP)에 접속차단을 요구하고 해외 주요 플랫폼에도 시정요구 대상 정보 유통을 막아달라고 협조를 요청한다.합성물을 만들거나 퍼뜨린 사람에 대한 수사를 원하면 경찰에 신고할 수 있다. 피해지원센터에서는 신고에 필요한 증거 자료를 정리하는 데 도움을 받을 수 있고, 피해 상황에 따라 수사기관이나 법률·의료 지원 기관으로 연계받을 수 있다.하지만 피해 사실을 알고도 신고를 망설이는 피해자들도 적지 않다. 가해자를 찾아낼 수 있을지 확신할 수 없기 때문이다. 성범죄 피해자들을 대리해 온 이은의 변호사는 “가해자가 의심되더라도 추정만으로 곧바로 수사가 진행되기는 어렵다”며 “가해자를 찾는 데 필요한 단서를 모으고 자료를 제출하는 부담을 피해자가 상당 부분 짊어진다”고 지적했다.이어 “가해자가 특정되더라도 자신이 입은 피해나 대응에 들인 노력에 상응하는 처벌과 배상을 받을 수 있을지 기대하기 어려우면 피해자가 법적 대응에 나서기를 망설일 수 있다”고 말했다.합성물 확산을 줄이려면 플랫폼의 신고 처리 절차도 개선할 필요가 있다. 이성엽 교수는 “플랫폼이 신고를 받은 뒤 권리 침해 여부를 확인하고 게시물을 삭제하기까지 시간이 걸리는 사이 합성물이 더 퍼질 수 있다”고 우려했다. 신고 접수부터 삭제까지 걸리는 시간을 줄일 방안을 마련해야 한다는 것이다.주변인이 합성물을 발견했다면 다른 사람에게 전달하지 않고 게시물 주소를 남겨 플랫폼이나 심의기관에 신고하는 게 좋다.이 교수는 “평소 가족·지인의 사진이나 단체 사진을 SNS에 올릴 때도 당사자의 의사를 확인하고 공개한 사진이 도용될 가능성을 염두에 둬야 한다”고 조언했다.※ 본 보도는 한국언론진흥재단의 지원을 받아 제작되었습니다.

Continue to ZDNet Korea →

You are being forwarded in 6s — stay on this page