AI 사기 및 딥페이크: 신원 확인이 최선의 방어인 이유

재무 직원이 회사의 CFO 및 여러 동료와의 화상 통화에 참여합니다. 모두가 올바르게 보이고 들립니다. CFO는 일련의 긴급 이전을 요청합니다. 직원은 이에 따랐고 2,500만 달러가 사라졌습니다. 그 통화에 참여한 다른 모든 사람은 딥페이크였습니다.

그것은 영화 줄거리가 아닙니다. 2024년 초(CNN) 홍콩의 글로벌 엔지니어링 회사 Arup에서 이런 일이 일어났습니다. 그리고 이는 우리 모두를 위한 경고입니다. AI가 얼굴과 음성을 복사할 수 있게 되면 “내가 봤어요”와 “내가 들었어요”는 더 이상 어떤 것도 증명할 수 없습니다.

이 기사에서는 AI 신원 사기가 작동하는 방식, 기존 보안이 뒤처지는 이유, 블록체인 기반 신원을 포함한 검증된 디지털 신원이 개인과 커뮤니티를 보호하는 데 어떻게 도움이 될 수 있는지 설명합니다.

문제의 규모

2026년 4월에 발표된 FBI의 2025년 인터넷 범죄 보고서에 따르면 사이버 범죄로 인해 미국인들이 보고된 손실액은 거의 210억 달러입니다(FBI). 주요 결과:

100만 건 이상의 불만 사항이 접수되어 2024년 약 860,000건에서 증가했습니다.
암호화폐 관련 불만사항으로 인해 110억 달러가 넘는 가장 큰 손실이 발생했습니다.
60세 이상의 미국인은 약 77억 달러의 손실을 보고했는데, 이는 37% 증가한 수치입니다.
보고서에는 처음으로 인공 지능 섹션이 포함되었습니다. AI 관련 불만 사항 22,364건, 비용 약 8억 9,300만 달러 소요.

FBI에서는 ‘가짜 소셜 프로필, 음성 복제, 신분증, 공인이나 사랑하는 사람을 묘사하는 그럴듯한 동영상’을 사용하는 사기꾼에 대해 구체적으로 경고합니다.

그리고 그것은 보고된 사례일 뿐입니다. 많은 피해자들이 나서지 않습니다.

AI 신원 사기의 작동 방식

음성 복제

소셜 미디어 비디오나 음성 메일의 몇 초 분량의 오디오만으로도 음성을 복제할 수 있습니다. 그런 다음 사기꾼은 부모나 조부모에게 전화를 걸어 “엄마, 제가 사고를 당했어요. 지금 돈이 필요해요.”라고 말합니다.

딥페이크 영상 통화

Arup 사례에서 알 수 있듯이 이제 범죄자는 여러 참가자와 실시간 화상 회의를 가짜로 할 수 있습니다. 비즈니스 이메일 침해는 비즈니스 비디오 침해로 발전했습니다.

합성 신원 및 위조 문서

AI는 취약한 인증 시스템을 속일 수 있는 사실적인 신분증 사진, 여권, 셀카를 생성하여 사기꾼이 다른 사람의 이름 또는 존재하지 않는 사람의 이름으로 계좌를 개설할 수 있도록 합니다.

대규모 명의 도용

AI 챗봇은 어떤 언어로든 하루 24시간 수천 건의 로맨스 사기, 가짜 투자 ‘고문’, 고객 지원 사칭을 동시에 실행할 수 있습니다.

기존 보안이 뒤처지는 이유

우리 보안의 대부분은 얼굴과 목소리를 위조하기 어려운 세상을 위해 설계되었습니다.

비밀번호는 AI가 작성한 메시지를 설득하여 피싱될 수 있습니다.
일회성 코드는 소셜 엔지니어링을 통해 사람들을 속일 수 있습니다.
보안 질문은 소셜 미디어에 자주 공개되는 정보에 의존합니다.
**“보는 것이 믿는 것입니다”**는 비디오 자체를 생성할 수 있는 경우 더 이상 작동하지 않습니다.

핵심 문제는 간단합니다. 이러한 방법은 당신이 알고 있는 것 또는 당신이 닮은 것, 즉 현재 AI가 복사하는 데 능숙한 것이 정확히 무엇인지 확인합니다.

변화: ‘닮음’에서 ‘증명 가능’으로

대답은 가짜를 더 잘 찾아내는 것이 아닙니다. AI는 계속 발전할 것이다. 대답은 AI가 위조할 수 없는** 것, 즉 **암호화 증명에 의존하는 것입니다.

아이디어는 다음과 같습니다. 확인된 디지털 신원은 실제 사람만이 통제할 수 있는 비밀인 암호화 키와 연결되어 있습니다. 누군가가 당신에게 연락할 때 더 이상 “그 사람이 내 상사처럼 보이나요?”라는 질문이 아닙니다. 하지만 “그들이 내 상사라는 것을 암호학적으로 증명할 수 있을까요?” AI는 얼굴을 복제할 수 있습니다. 개인 키가 없으면 디지털 서명을 위조할 수 없습니다.

블록체인이 적합한 곳

블록체인은 확인된 신원에 세 가지 중요한 속성을 추가합니다.

1. 단일 장애 지점 없음

기존 ID 데이터베이스는 중앙 집중화되어 있어 한 번의 위반으로 수백만 달러가 노출됩니다. 블록체인 기반 신원 확인 시스템은 다수의 독립적인 컴퓨터에 신뢰를 분산시키므로 훔칠 단일 데이터베이스가 없습니다.

2. 변조 방지 자격 증명

“이 사람은 검증된 직원입니다” 또는 “이 계정은 이 아티스트의 계정입니다”와 같은 자격 증명은 신뢰할 수 있는 당사자가 발급하고 블록체인에 고정될 수 있습니다. 누구나 이를 확인할 수 있고, 누구도 조용히 변경할 수 없습니다.

3. 사용자 제어 및 개인정보 보호

자주 주권 신원 및 검증 가능한 자격 증명으로 알려진 접근 방식을 사용하면 자격 증명을 자신의 지갑에 보관하고 필요한 것만 공유할 수 있습니다. 생일을 밝히지 않고도 18세 이상임을 증명할 수 있고, 신분증을 제시하지 않고도 실제 고객임을 증명할 수 있습니다.

커뮤니티 인증

정체성은 사회적이기도 하다. 서로를 아는 사람들의 커뮤니티가 서로를 보증하고 이러한 증명이 투명하게 기록되면 명의 도용이 훨씬 더 어려워집니다. 딥페이크는 한 사람을 속일 수 있습니다. 각각 독립적으로 검증할 수 있는 사람들의 네트워크를 속이는 것은 훨씬 더 어렵습니다.

현실적인 관점

블록체인 아이덴티티는 유망하지만 완성된 솔루션은 아닙니다. 채택은 아직 초기 단계이고, 표준은 진화하고 있으며, 도난당한 개인 키는 도난당한 비밀번호만큼 위험합니다. 확인된 신원은 하나의 강력한 계층이지 상식을 대체하는 것이 아닙니다.

오늘 할 수 있는 일

가족에게 “안전한 단어”를 만드세요. 긴급 자금 요청 시 사용해야 하는 비밀 문구에 동의하세요.
두 번째 채널을 통해 확인하세요. “상사” 또는 “은행”이 긴급 요청으로 전화하는 경우 전화를 끊고 이미 알고 있는 번호로 다시 전화하세요.
천천히 하세요. FBI의 조언은 “한심하게 즐겨라”입니다. 긴급성은 사기꾼의 주요 무기입니다.
가능한 경우 공개 음성 및 비디오 샘플을 제한합니다. 특히 어린이와 노인 친척의 경우 더욱 그렇습니다.
가능한 경우 비밀번호와 SMS 코드 대신 패스키와 하드웨어 보안 키를 사용하세요.
인증된 계정만 팔로우하세요. 아티스트 및 프로젝트의 경우 구매 또는 클릭 전 공식 홈페이지와 인증된 지갑을 확인하세요.
사기 행위를 현지 당국에 신고하거나(미국의 경우 ic3.gov) 전화하세요.

이것이 예술계에 중요한 이유

디지털 아티스트는 사칭의 주요 표적입니다. 가짜 프로필은 아티스트의 이름과 작품을 복사하고, 가짜 “드롭”은 구매자의 자금을 훔치고, 복제된 지원 계정은 지갑을 낭비합니다. 검증된 온체인 신원(공식 채널과 연결된 하나의 공개 지갑)은 아티스트와 수집가 모두를 보호합니다.

AI 기반 사기의 위험 신호

전화 통화, 화상 회의, 메시지, 소셜 미디어 프로필 등 사기의 형태가 무엇이든 일반적으로 다음 경고 신호 중 하나 이상을 나타냅니다.

긴급함. “지금 당장 행동해야 합니다.” 또는 “아직 아무에게도 말하지 마세요.”
비밀 유지. 가족, 동료 또는 은행으로부터 대화를 비공개로 유지하도록 요청합니다.
비정상적인 결제 방법. 기프트 카드, 새 계좌로의 전신 송금, 익숙하지 않은 지갑으로 암호화폐 전송.
채널 변경. 공식 플랫폼에서 비공개 채팅 앱으로 이동합니다.
감정적 압박. 일반적인 점검을 건너뛰도록 만드는 두려움, 사랑 또는 흥분.
코드 또는 시드 문구 요청. 어떠한 은행, 플랫폼, 실제 아티스트도 이를 요청하지 않습니다.

이 중 하나라도 발견되면 중지하십시오. 다른 조치를 취하기 전에 이미 신뢰하는 채널을 통해 확인하세요.

자주 묻는 질문

영상 통화가 딥페이크인지 어떻게 알 수 있나요? AI가 향상됨에 따라 이상한 깜박임, 조명 불일치, 립싱크 문제 등의 시각적 단서를 찾아내기가 점점 더 어려워지고 있습니다. 당신의 눈에 의존하지 마십시오. 대신 별도의 채널을 통해 확인하세요. 알려진 번호로 다시 전화하거나, 아는 사람에게만 질문하거나, 미리 합의된 안전한 단어를 사용하세요.

현재 블록체인 ID를 사용할 수 있나요? 그것의 일부는 그렇습니다. 검증 가능한 자격 증명, 로그인 ID로 사용되는 암호화폐 지갑, “개인 증명” 프로젝트가 존재하지만 아직 보편적이지는 않습니다. 현재 가장 실용적인 단계는 암호 키, 하드웨어 보안 키 및 신뢰할 수 있는 채널을 통한 확인입니다.

블록체인에 신원을 입력하는 것이 개인정보 보호에 해를 끼치지 않나요? 잘 설계된 시스템은 개인 데이터를 체인에 저장하지 않습니다. 실제 정보는 귀하의 지갑에 유지되는 동안 암호화 증거를 저장합니다. 필요할 때 꼭 필요한 것만 공유합니다.

AI 사기로 인해 가장 큰 위험에 처한 사람은 누구입니까? 노인을 제외한 모든 사람이 가장 큰 손실을 입습니다. FBI 보고서에 따르면 60세 이상의 미국인은 2025년에 약 77억 달러의 손실을 입었습니다. 노인 가족과 음성 복제 사기에 대해 이야기하고 가족 안전 단어를 함께 설정하세요.

결론

AI는 얼굴과 목소리를 복사하기 쉽게 만들었습니다. 방어 수단은 복사할 수 없는 것, 즉 암호화 증명, 확인된 자격 증명, 서로를 확인하는 커뮤니티에 대한 신뢰를 기반으로 하는 것입니다. 이러한 시스템이 어디에나 있을 때까지 최선의 보호는 새로운 도구와 오래된 지혜를 혼합하는 것입니다. 즉, 속도를 늦추고 확인하고 긴급한 결정을 내리지 마십시오.

Gambocco의 모든 작업과 모든 발표는 검증된 신원을 통해 이루어집니다. 우리의 공식 채널에서 나오지 않는다면 그것은 우리가 아닙니다.

이 기사는 교육 목적으로만 작성되었습니다.