딥페이크

개요

미국 FBI의 공개 경고는 생성형 AI의 문구·음성·영상 사칭 악용을 설명합니다. 국내 발생 비율이나 특정 사건의 입증 자료로 해석하지 않습니다.

딥페이크는 AI로 만든 가짜 영상·이미지·음성을 가리킵니다. 딥러닝(deep learning)과 가짜(fake)를 합친 말입니다.

기존 자료를 조작하거나 새로운 자료를 생성해 실제 인물이 말하거나 행동한 것처럼 보이게 할 수 있습니다. 시각적 결함만으로 진위를 확정할 수 없습니다.

쓰이는 방향은 크게 셋입니다.

이 문서는 앞의 두 가지, 특히 개인이 피해자가 되는 경우를 다룹니다.

수법과 원리

왜 갑자기 쉬워졌나

세 가지가 동시에 바뀌었습니다.

1. 필요한 자료가 줄었다고 알려져 있습니다. 다만 몇 장이면 되는지는 도구와 원본 상태에 따라 다르고, 이 문서가 인용한 자료에는 그 수치가 없습니다
2. 도구가 공개됐습니다. 전문 지식 없이 앱 수준에서 쓸 수 있게 됐습니다
3. 재료가 이미 온라인에 있습니다. SNS에 올린 사진과 영상이 그대로 쓰입니다

공개된 사진·영상이 악용될 수 있습니다. 특정 분량이면 반드시 합성이 가능하다는 뜻은 아닙니다.

왜 구별이 어려운가

다음 단서만으로 합성 여부를 확정할 수는 없습니다.

FBI는 미세한 결함을 살피는 것과 별도 연락 경로로 확인하는 것을 함께 권고합니다. 출처와 요청 내용을 확인하고 돈·정보 전달을 보류하세요.

사례 유형과 예시

아래는 수법 이해를 위한 교육용 재구성입니다. 특정 피해자의 실제 사건이나 발언을 인용한 것이 아니며, 모든 사기가 같은 순서로 진행되지는 않습니다.

사기에 쓰이는 방식

• 유명인 사칭 투자 광고 — 방송인이나 전문가의 얼굴·목소리로 리딩방 참여를 권유합니다. 실제 인물은 그런 방을 운영하지 않습니다. 판별 기준은 투자 사기에 있습니다
• 영상통화 사칭 — 가족이나 지인의 얼굴로 짧은 영상통화를 걸어 신뢰를 만든 뒤 송금을 요구합니다
• 기업 임원 사칭 — 회사 대표의 영상·음성으로 직원에게 송금을 지시합니다

음성만 합성하는 방식은 AI 음성 사칭 사기에 따로 정리했습니다.

개인을 표적으로 하는 경우

동의 없이 얼굴을 합성한 성적 영상·이미지가 만들어져 유포되는 피해입니다. 이 경우 삭제 지원과 수사가 함께 필요하며, 혼자 대응하기 어렵습니다. 아래 신고 기관을 먼저 확인하세요.

협박에 쓰이는 경우

합성물을 만들어 놓고 "유포하겠다"며 돈을 요구하는 수법이 있습니다. 요구에 응해도 유포 중단을 보장받을 수 없습니다. 지불 대신 신고가 원칙입니다.

위험 신호

• 🚩가족이나 지인이라며 영상통화를 걸어 곧바로 송금을 요구한다
• 🚩통화 화질이 유난히 나쁘거나 몇 초 만에 끊긴다
• 🚩유명인이 특정 대화방·앱으로 들어오라고 권하는 영상 광고다
• 🚩회사 대표나 상사의 영상·음성으로 평소와 다른 송금 지시가 온다
• 🚩내 얼굴이 쓰인 합성물을 보여 주며 돈을 요구한다
• 🚩"지금 결정하지 않으면 퍼뜨리겠다"며 시간을 압박한다
• 🚩확인해 보겠다고 하면 확인하지 말라고 막는다

예방법

1. 영상통화만으로 신원을 확정하지 않는다

짧은 영상통화는 실시간 합성으로도 가능해졌습니다. 가족이 돈을 요구하면 영상통화 여부와 관계없이 끊고 원래 번호로 다시 걸어 확인하세요. 화질이 나쁘거나 통화가 금방 끊기는 것은 오히려 신호입니다.

가족끼리 미리 정해 둔 확인 질문이 있으면 더 빠릅니다. 방법은 AI 음성 사칭 사기에 정리했습니다.

2. 공개 범위를 좁힌다 — 다만 이것은 차단이 아니다

SNS의 사진·영상 공개 범위를 확인하세요. 비공개로 바꿔도 이미 복사·유출된 자료까지 회수되는 것은 아닙니다.

그래서 이 항목은 "이렇게 했으면 안 당했을 텐데"의 근거가 될 수 없습니다. 피해가 생겼다면 원인은 만든 사람에게 있습니다.

3. "잘 보면 알 수 있다"고 믿지 않는다

시각적 단서는 합성 품질과 화질에 따라 남을 수도, 보이지 않을 수도 있습니다. "나는 구별할 수 있다"는 자신감이 오히려 위험합니다. 영상이 진짜처럼 보인다는 사실은 판단 근거가 되지 못합니다. 영상이 아니라 맥락을 보세요.

4. 가족에게 미리 한 문장을 전해 둔다

내 얼굴이나 목소리로 돈 얘기가 오면, 무조건 끊고 나한테 다시 걸어.

발생 시 대처 방법

어디에 무엇을 요청하는지부터

창구마다 하는 일이 다릅니다. 하나가 다른 하나를 대신하지 않습니다.

성적 피해물이 아닌 사칭(예: 투자 광고에 얼굴이 쓰인 경우)은 아래 2단계의 삭제지원 대신 플랫폼 요청·심의·경찰 신고로 진행합니다. 접수 가능 여부가 애매하면 지원센터에 먼저 물어보세요. 지원되지 않는다고 미리 단정할 일은 아닙니다.

순서대로

1. 1

   화면과 주소, 발견 시각을 기록한다

   게시물 주소(URL), 화면 캡처, 발견한 날짜와 시각을 남깁니다. 삭제 요청과 수사 양쪽에서 필요합니다.

   
   

   법제처 안내는 이미 받은 피해물과 대화 등 증거를 임의로 지우지 말고 보관하도록 안내합니다.

   
   

   불필요하게 다시 내려받거나 다른 사람에게 보내지 마세요. 필요한 추가 증거와 안전한 제출 방법은 지원센터·수사기관에 확인하세요. 확인을 부탁하며 재전송하면 확산을 키울 수 있습니다.

2. 2

   성적 합성물이라면 삭제지원을 신청한다

   디지털성범죄피해자지원센터(d4u.stop.or.kr)에서 신청합니다. 센터 전화는 02-735-8994입니다. 24시간 상담이 필요하면 여성긴급전화 1366(국번 없이)을 이용하세요. 두 번호는 서로 다른 창구입니다. 운영 시간은 아래 「신고 기관」의 센터 안내에 적었습니다.

   
   

   본인이 나서기 어려우면 대신 요청할 수 있습니다. 「성폭력방지 및 피해자보호 등에 관한 법률」 제7조의3제2항은 요청할 수 있는 사람으로 피해자 본인, 배우자(사실상의 혼인관계 포함), 직계친족, 형제자매, 피해자가 지정하는 대리인을 정합니다. 미성년자라면 보호자가 함께 진행할 수 있습니다. 요청자의 신분 증빙, 가족이면 관계 증빙, 지정 대리인이면 피해자의 자필 서명 위임장과 신분증 사본이 필요하다는 안내가 있습니다. 제출 경로는 센터에 확인하고 공개 게시판에는 올리지 마세요.

   
   

   비용을 걱정해 미루지 마세요. 같은 조 제4항·제5항은 삭제지원에 드는 비용을 해당 성폭력행위자 또는 아동·청소년 대상 성범죄행위자가 부담하도록 하고, 국가·지방자치단체가 먼저 지출한 경우 행위자에게 구상권을 행사할 수 있게 정합니다.

3. 3

   경찰에 신고한다

   112 또는 가까운 경찰서. 1단계에서 남긴 주소와 캡처를 함께 제출합니다. 협박을 받고 있다면 그 대화 내용도 함께 냅니다.

4. 4

   플랫폼에 삭제를 요청하고 유통 심의도 접수한다

   게시물이 올라온 서비스에 직접 삭제·차단을 요청할 수 있습니다. 법제처 안내는 정보통신망법에 따라 정보통신서비스 제공자에게 요청하는 경로를 들면서 권리 침해를 소명할 자료가 필요하다고 설명합니다. 1단계에서 남긴 주소와 캡처가 그 자료가 됩니다.

   
   

   함께 통합민원신고 홈페이지(report.kocsc.or.kr)에서 불법 정보에 대한 심의·시정 요구를 접수합니다. 삭제지원과 별개 절차이며, 심의를 거치므로 즉시 내려가지는 않습니다.

5. 5

   계정 보안을 함께 점검한다

   사진이 계정 침해로 새어 나간 경우도 있습니다. 계정이 해킹당했을 때의 점검 순서를 한 번 밟아 두세요.

하지 말아야 할 것

• 가해자와 직접 접촉해 협상 — 지불해도 유포가 멈추지 않는 경우가 많고, 추가 요구로 이어집니다
• 유포자를 직접 찾아 연락 — 추가 협박 등 위험이 있으므로 수사기관·지원센터와 먼저 상의하세요
• 혼자 처리하려는 것 — 삭제는 개인이 일일이 요청해서는 따라가기 어렵습니다. 지원센터를 통하면 반복 유포까지 함께 다룹니다
• 기록 없이 신고 버튼만 누르는 것 — 게시물이 내려가면 주소도 함께 사라집니다

신고해도 소용없다는 생각

삭제지원 제도가 실제로 운영되고 있습니다. 이미 퍼진 것을 전부 회수하기는 어렵지만 빠르게 신고할수록 확산을 줄일 수 있습니다. 혼자 감당하지 말고 아래 기관을 이용하세요.

신고 기관

아래 기관은 무료입니다. 피해가 진행 중이라면 순서대로 연락하세요.

• 통합민원신고 (불법·유해정보 신고)

  이용 목적 딥페이크 등 불법 합성물의 유통 심의·시정 요구를 접수할 때.

  준비할 정보

  • 문제가 되는 게시물의 주소(URL)
  • 게시물 화면 사진
  • 언제 어디서 확인했는지

  공식 누리집 열기 ↗

  확인일 없음 · 위원회 이름이 아니라 실제로 접수가 되는 창구 이름으로 안내합니다.
  최신 정보는 공식 사이트에서 확인하세요.

• 디지털성범죄피해자지원센터

  📞 02-735-8994

  이용 목적 불법 촬영물·합성물 유포 피해 상담과 삭제 지원. 성별·연령과 관계없이 지원합니다.

  준비할 정보

  • 유포된 게시물의 주소와 화면 사진
  • 언제 알게 되었는지
  • 연락받을 수 있는 방법

  공식 누리집 열기 ↗

  2026-10-05 확인 · 센터 누리집에 안내된 운영 시간은 평일 08:00~22:00, 주말·공휴일 09:00~18:00입니다. 24시간 상담이 필요하면 여성긴급전화 1366(국번 없이)을 이용하세요.
  제도와 연락처는 바뀔 수 있으니 최신 정보는 공식 사이트에서 확인하세요.

• 경찰청 (112)

  📞 112

  이용 목적 사기 피해가 실제로 발생했을 때 가장 먼저. 긴급 상황은 112, 보이스피싱 등 전기통신금융사기의 피해 신고·상담은 경찰청 전기통신금융사기 통합대응단 1394. 온라인은 경찰청 ECRM(사이버범죄 신고시스템).

  준비할 정보

  • 이체·결제 내역과 금액, 시각
  • 상대 계좌번호 또는 전화번호
  • 주고받은 문자·메신저 대화 화면
  • 신분증

  공식 누리집 열기 ↗

  2026-09-10 확인 · ECRM 의 접수 안내와 준비 서류, 1394 대표번호와 접수 범위를 공식 페이지에서 확인했습니다.
  제도와 연락처는 바뀔 수 있으니 최신 정보는 공식 사이트에서 확인하세요.

• 118 상담센터 (한국인터넷진흥원)

  📞 118

  이용 목적 해킹·악성코드에 감염된 것 같을 때, 불법 스팸을 받았을 때, 개인정보가 침해된 정황이 있을 때 상담하는 곳입니다.

  준비할 정보

  • 무슨 일이 언제 일어났는지 (설치·클릭·수신 시각)
  • 화면 사진 — 문자 원문, 앱 목록, 오류 화면
  • 쓰는 기기 종류와 운영체제

  국번없이 118. 공식 안내 기준으로 1번 해킹/바이러스, 2번 보이스피싱/스미싱, 3번 개인정보, 4번 불법 스팸, 5번 ICT 분쟁조정입니다. 2번을 고르면 경찰청(전기통신금융사기 통합신고대응센터)으로 연결됩니다.

  공식 누리집 열기 ↗

  2026-09-09 확인 · 상담 범위와 메뉴 번호를 공식 안내와 대조했습니다. 운영 시간은 공식 안내에 적혀 있지 않아 이 사이트에도 싣지 않습니다.
  제도와 연락처는 바뀔 수 있으니 최신 정보는 공식 사이트에서 확인하세요.

다른 신고·상담 창구도 보기 →

자주 묻는 질문

Q.눈으로 구별할 수 있나요?▾

얼굴 경계·음성의 어색함은 확인할 단서지만, 없다고 진짜이거나 있다고 합성이라는 뜻은 아닙니다. 원본 출처와 별도 연락 경로로 요청 사실을 확인하세요.

Q.내 얼굴이 합성된 영상을 발견했습니다.▾

어떤 합성물인지에 따라 경로가 갈립니다. 성적인 합성물이라면 디지털성범죄피해자지원센터(d4u.stop.or.kr)의 삭제지원 대상입니다. 법제처 안내가 드는 지원 대상은 불법촬영물, 허위영상물(편집·합성·가공물), 아동·청소년 성착취물, 그리고 주소·성명·직업·학교·용모처럼 대상자를 특정할 수 있는 신상정보입니다. 투자 광고에 얼굴이 쓰인 경우처럼 성적 피해물이 아닌 사칭은 플랫폼 신고와 통합민원신고(report.kocsc.or.kr)의 심의 요청, 경찰 신고가 경로입니다. 주소·발견 시각을 남기고 이미 받은 증거는 임의로 지우지 마세요. 추가 저장이 필요한지는 지원기관에 확인하고 재전송하지 마세요.

Q.연예인이 나오는 투자 광고 영상은 진짜인가요?▾

유명인의 얼굴과 목소리를 도용한 투자 권유일 수 있습니다. 영상만으로 본인이 운영하거나 보증한다고 판단하지 마세요. 당사자의 공식 채널과 금융회사 등록 여부를 별도로 확인하고 투자 사기 문서의 기준을 함께 보세요.

Q.사진 한 장만으로도 만들 수 있나요?▾

필요한 자료의 양은 도구와 원본에 따라 달라 몇 장이면 된다고 단정하지 않습니다. 공개 범위를 점검하되 비공개 설정이 이미 유출된 자료를 회수하지는 못합니다.

Q.신고하면 정말 지워지나요?▾

법제처 안내가 적는 삭제지원의 내용은 삭제 요청, 유포현황 모니터링, 결과보고서 조회입니다. 요청과 추적을 대신해 주는 것이지 삭제를 보장하는 절차가 아닙니다. 게시물이 있는 곳의 사업자와 국가마다 처리가 다르고, 이미 퍼진 것을 전부 회수하기는 어렵습니다. 그래도 빠를수록 확산이 줄어드니 혼자 대응하지 말고 지원센터를 통하세요.