딥페이크 메시지가 우리 측 행동 변화로 이어지지 않게 해야... ‘도달, 신뢰, 권한, 행동’ 따져야

[보안뉴스= 유도진 극동대학교 해킹보안학과 교수] 러시아의 우크라이나 침공이 개시된 지 약 3주가 지난 2022년 3월 16일, 볼로디미르 젤렌스키 우크라이나 대통령이 패배를 인정하는 것처럼 꾸민 영상이 온라인에 등장했다. 화면 속 인물은 돈바스를 되찾으려던 시도가 실패해 상황이 더 악화됐다며, 우크라이나 장병들에게 무기를 내려놓고 가족에게 돌아가라고 말했다. 젤렌스키의 얼굴과 음성을 AI로 합성한 딥페이크였다.

같은 날 우크라이나의 전국 단위 민영 뉴스채널 ‘우크라이나24’는 방송 화면 하단의 뉴스 자막 송출 체계와 같은 미디어그룹이 운영하던 뉴스 사이트 ‘세고드냐’가 외부 침해를 당했다고 밝혔다. 방송에는 젤렌스키가 항복했다는 허위 자막이 흘렀고, 세고드냐에는 딥페이크가 게시됐다. 허위 항복 메시지는 소셜미디어를 넘어 시민들이 전쟁 소식을 확인하던 언론사의 정보 채널을 타고 퍼졌다.

딥페이크에는 조작 흔적이 뚜렷했다. 화면 속 머리는 몸에 비해 지나치게 컸고, 머리와 몸의 조명과 각도도 맞지 않았다. 영국 스카이뉴스도 목소리 역시 젤렌스키의 실제 음성보다 낮고 느렸다고 전했다.

발언 내용도 도무지 설득력이 떨어졌다. 침공 초기 그는 수도 키이우에 남아 직접 촬영한 영상을 잇달아 공개하며 저항 의지를 밝혔다. 그런 인물이 아무런 전조 없이 패배를 인정하고 장병들에게 무장 해제를 권고한다는 설정은 앞서 보여준 태도와 맞지 않았다.


그러나 실패 원인을 낮은 완성도에서만 찾으면 인지전 방어를 합성물 탐지의 문제로 좁히게 된다. 앞서 연재 1부 ‘가짜뉴스만 찾다가는 인지전을 놓친다’에서는 인지전이 정보의 진위를 가리는 데 그치지 않고, 사람과 조직의 판단과 행동을 어떻게 바꾸는지까지 살펴야 한다고 했다.

이번처럼 국가 지도자를 사칭해 조직의 행동을 요구하는 메시지를, 이 글에서는 ‘도달, 신뢰, 권한, 행동’의 네 단계로 나눠 본다. 이 글의 성패 기준은 확산 여부가 아니라 항복 메시지가 군의 조직적 행동으로 전환됐는 지다. 젤렌스키 사례를 이 네 단계에 대입하면 허위 항복 메시지가 어디에서 힘을 잃었는지 구분할 수 있다.

유포 전 예고된 딥페이크
딥페이크가 유포되기 정확히 2주 전인 2022년 3월 2일, 우크라이나 문화정보정책부 산하 전략소통 및 정보보안센터는 젤렌스키의 항복 발표를 가장한 딥페이크가 등장할 수 있다고 경고했다. 이 센터는 정부와 시민사회의 가짜뉴스 대응을 연계하고, 러시아발 정보 공격 등 외부 위협에 대응하는 전략소통을 수행한다.

센터는 젤렌스키라는 사칭 대상과 항복 발표라는 허위 메시지, 국민의 공포와 혼란 및 불신을 키우고 군의 후퇴를 유도하려는 목적을 구체적으로 제시했다. 인지전의 관점에서 사칭 대상과 허위 메시지, 유도하려는 효과를 하나의 위협 시나리오로 묶은 셈이다. 2주 뒤 등장한 딥페이크는 사칭 대상과 핵심 메시지에서 예고와 거의 일치했고, 장병의 행동 변화를 노리는 방향도 같았다.

이 경고는 딥페이크가 등장했을 때 무엇부터 의심하고 확인해야 하는지를 미리 제시했다. 항복 발표를 먼저 사실로 받아들이고 반박을 찾는 대신, 이미 예고된 조작인지부터 확인하도록 기준을 제공한 것이다. ‘가짜뉴스를 조심하라’는 일반적인 교육과 달리 사칭 대상과 허위 메시지, 예상되는 효과를 특정해 추상적인 주의를 구체적인 확인 행동으로 바꿨다. 이 같은 사전 경고는 허위 항복 메시지의 기습성을 낮추는 데 기여한 것으로 평가된다.

같은 해 11월 미국 국립과학원회보(PNAS)에 발표된 세계 지도자 딥페이크 판별 연구도 연구 배경에서, 조악한 화면과 음성 및 우크라이나 측의 사전 경고가 딥페이크를 가려내는 데 기여했다고 설명했다.

출처와 발언, 유통 경로에서 이어진 대응
딥페이크가 공개되자 우크라이나24는 방송 자막과 세고드냐 사이트의 침해 사실을 알렸다. 젤렌스키는 공식 소셜미디어 계정에서 항복설을 직접 부인했다. 메타는 페이스북과 인스타그램 등 자사 플랫폼에서 해당 딥페이크를 삭제하고 타 플랫폼에게도 관련 사실을 알렸다. 유튜브 역시 업로드 영상을 삭제했고, 당시 X는 기만적 합성매체 정책을 위반한 게시물에 조치를 취했다. 결과적으로 출처와 발언 당사자, 유통 경로에서 각각 대응이 이어진 것이다.


이 사건에서 도출할 수 있는 또 하나의 방어 원리는 권한 확인이다. 우크라이나 대통령은 헌법에 따라 우크라이나 군의 통수권자를 맡는다. 그러나 공개된 대통령 영상이 곧바로 군의 작전 지시가 되는 것은 아니다. 부대를 움직이는 지시는 발신자와 권한이 지휘계통에서 확인돼야 한다. 딥페이크는 젤렌스키의 얼굴과 목소리를 흉내 냈지만 그 권한까지 대신할 수는 없었다.

앞서 제시한 네 단계로 보면 딥페이크는 온라인과 언론사의 정보 채널에 ‘도달’했다. 그러나 낮은 완성도와 젤렌스키의 기존 행보에 맞지 않는 내용, 사전 경고와 신속한 반박은 ‘신뢰’를 떨어뜨렸다. 딥페이크 자체는 정식 군 지휘계통을 통해 전달된 지시가 아니었으므로 작전명령으로서의 ‘권한’을 갖지 못했다. 이 사례는 메시지가 널리 퍼지는 것과 조직의 ‘행동’을 바꾸는 것이 서로 다른 문제임을 보여준다.

행동 유도에 성공하지 못한 딥페이크도 정보 환경의 신뢰를 해칠 수 있다. 딥페이크가 널리 알려질수록 실제 발언 당사자가 진짜 영상까지 조작이라고 부인해 책임을 피하기 쉬워진다. 체스니와 시트론은 진짜 증거를 가짜라고 몰아 책임을 회피하는 이러한 이익을 ‘거짓말쟁이의 배당’이라고 칭했다.

검증은 결정 시한 안에 끝나야 한다
한반도 및 주변국에서 군사적 위기 상황을 가정해 보자. 젤렌스키 사례와 같은 공개형 사칭뿐 아니라 제한된 인원이나 조직 내부를 노린 공격도 함께 고민해야 한다

대통령이나 국방장관, 합참의장 등 최고위 인사를 사칭한 딥페이크는 휴전 합의나 동원 연기 같은 허위 발표로 국민과 정부기관의 판단을 흔들 수 있다. 반면 군단장이나 사단장 등 작전부대 지휘관을 사칭한 음성이나 영상이 탈취된 업무 계정이나 내부 연락 채널을 통해 전달된다면, 전투 중지나 부대 이동 같은 구체적인 군사행동을 초래할 수 있다.

사칭 공격의 위험은 해당 인물이 대중에게 얼마나 유명한가에 달려 있지 않다. 작전부대 지휘관은 일반 국민에게 잘 알려져 있지 않더라도 메시지를 받는 장병에게는 실제 지휘권을 가진 인물이다. 제한된 인원에게 전달되는 메시지는 공개적인 검증과 반박이 시작되기 전에 결정을 요구할 수도 있다. 따라서 위험도는 사칭된 인물의 권한, 메시지를 받는 대상, 전달 채널에 대한 신뢰, 결정을 내려야 하는 시간, 잘못된 결정을 되돌릴 수 있는지를 기준으로 평가해야 한다.

한국 적용에서 이 글이 추가로 주목하는 변수는 검증에 필요한 시간과 결정을 내려야 하는 시한이다. 검증에 필요한 시간이 결정시한보다 길어지면 완벽한 딥페이크가 아니어도 실제 효과를 낼 수 있다. 사실 확인이 끝나기 전에 결정을 끌어낼 수 있기 때문이다.

따라서 위기 전에 예상 가능한 공격을 일정한 기준으로 정리해 둬야 한다. 필자는 2026년 발표한 연구에서 공격 주체, 전술, 전달 매체, 표적, 목적이라는 다섯 축의 조합으로 예상 가능한 인지전 위협을 체계화하는 ‘인지전 시나리오 라이브러리’라고 제안했다. 이를 활용하면 공격 배후가 드러나기 전에도 현장에서 먼저 확인되는 단서를 바탕으로 적절한 대응 절차를 선택할 수 있다.

이 사례를 실제 훈련에 적용하려면 기존의 다섯 축에 사칭 인물의 권한, 검증에 필요한 시간, 결정을 내려야 하는 시한, 오판이 초래할 피해를 추가해야 한다. 다섯 축이 공격의 구조를 보여준다면, 새로 더한 운용정보는 어떤 상황부터 대응할 것인지 우선순위를 정하는 데 활용할 수 있다.

시나리오 라이브러리가 ‘무슨 일이 벌어질 수 있는가’를 정리한 목록이라면, 인지전 플레이북은 ‘그때 무엇을 할 것인가’를 정한 절차다. 젤렌스키 사례에 적용할 플레이북에는 어느 채널에서 진위를 확인할지, 누가 최초 입장을 발표할지, 기존 채널이 침해됐을 때 어떤 대체 채널을 사용할지를 담아야 한다. 군 내부에서는 전투 중지나 부대 이동처럼 중대한 지시를 어떤 경로로 재확인하고, 확인이 끝날 때까지 어떤 행동을 보류할지도 정해야 한다.

같은 원리는 기업에도 적용된다. 최고경영자나 재무책임자를 사칭한 음성과 영상이 긴급 송금이나 생산 중단을 요구할 수 있다. 중요한 지시는 별도의 채널과 승인 절차로 확인하고, 기존 연락망이 침해됐을 때 사용할 대체 수단을 마련해야 한다.

미국 국가안보국(NSA)이 연방수사국(FBI)과 사이버보안 및 기반시설보안국(CISA)의 기여를 받아 2023년 발표한 지침도 실시간 신원 확인, 주요 인사와 통신의 보호, 대응계획 수립과 모의훈련을 권고했다.

시나리오 라이브러리가 예상 공격의 구조와 시간 제약을 기록한다면, 플레이북은 결정시한 안에 공격의 연결고리를 끊는 절차다. 그 최종 목표는 검증되지 않은 정보가 국가와 조직의 결정으로 넘어가지 않도록 ‘의사결정 무결성’을 지키는 데 있다. 기존 사이버보안에서 무결성이 정보가 무단으로 변경되거나 훼손되지 않도록 하는 원칙이라면, 의사결정 과정의 무결성은 검증된 정보와 정당한 권한을 바탕으로 결정이 내려지도록 보호하는 원칙이다.

다음 딥페이크는 젤렌스키 사례보다 훨씬 정교할 수 있다. 그러나 AI 시대 인지전 방어의 승부는 탐지 기술만으로 결정되지 않는다. 검증을 결정 시한 안에 끝내고, 조작된 정보가 되돌리기 어려운 행동으로 넘어가기 전에 멈출 수 있어야 한다.

다음 회에서는 미소 냉전기의 대표적인 정보전 사례를 통해, 하나의 주장이 여러 국가의 언론과 전문가를 거치며 어떻게 신뢰를 얻고 확산되는지 살펴보고자 한다.

[글_유도진 극동대학교 해킹보안학과 교수]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>