딥페이크 27배 급증, 민주주의의 새 방어선은 무엇인가

2024년 국회의원선거 당시 중앙선거관리위원회가 삭제를 요청한 딥페이크 영상은 388건이었지만, 2025년 대통령선거에서는 1만510건으로 급증했다. 불과 1년 사이 27배 증가한 수치로, AI 조작 콘텐츠가 선거의 상시적 위협이 되고 있음을 보여준다.

후보자가 하지 않은 말을 실제 발언처럼 꾸미고, 존재하지 않았던 장면을 사실처럼 유통하는 기술은 유권자의 판단을 직접적으로 공격한다. 조작 영상이 실제 투표 결과를 바꾸지 못하더라도, 선거 과정과 결과에 대한 불신을 심으면 충분한 효과를 거둘 수 있다. 민주주의는 투표로 작동하며, 그 투표는 유권자가 접하는 정보를 신뢰할 수 있다는 전제 위에 성립한다.

정부의 대응: 딥페이크 탐지부터 정보 유통구조 개선까지

대한민국 정부는 이런 변화에 대응하기 시작했다. 행정안전부와 국립과학수사연구원이 개발한 AI 기반 딥페이크 탐지 모델이 대표적 사례다. 2026년 공개된 고도화 모델은 영상 전체의 흐름을 분석하는 방식과 얼굴 등 특정 부위의 조작 흔적을 판별하는 방식을 결합했으며, 탐지율은 기존 76%에서 92%로 높아졌다.

중앙선거관리위원회도 특별대응팀을 운영하며 딥페이크와 허위사실 공표·비방 게시물 정보를 관계기관과 공유했다. 중대한 위법행위에는 수사기관과 공조하는 체계를 가동했다. 이는 단순한 디지털 범죄 수사 기술을 넘어, 국가 지도자나 선거 후보자의 권위를 도용해 유권자의 판단을 왜곡하려는 공격으로부터 선거의 신뢰를 보호하는 수단이다.

정부의 대응은 개별 콘텐츠 탐지를 넘어 정보 유통구조로 확대되고 있다. 방송미디어통신위원회는 허위·조작정보를 신고하고 처리하는 플랫폼 체계를 고도화하고, 사실확인 단체와 연구·교육을 지원하는 '정보통신서비스 투명성센터' 설치를 추진 중이다. 알고리즘 추천 여부와 검색·노출 기준을 이용자에게 공개하고, 이용자가 추천 방식을 선택할 수 있도록 하는 방안도 제시했다.

이런 접근이 필요한 이유는 가짜뉴스 한 건을 삭제하는 것만으로 인지공격을 막기 어렵기 때문이다. 거짓 정보를 증폭하는 추천 알고리즘과 광고 수익 구조가 그대로라면 비슷한 콘텐츠는 다시 생산될 수 있다. 인지안보의 핵심은 무엇을 삭제할 것인지에만 있지 않다. 어떤 정보가 누구에 의해 만들어졌고 어떤 기준을 거쳐 증폭되는지를 투명하게 밝히는 것도 중요하다.

인지전 대응의 경계선: 통제가 아닌 자유를 지켜야

문제는 정부의 인지전 대응에도 넘어서는 안 될 경계선이 있다는 점이다. 정부가 허위정보를 탐지하고 시민의 판단을 보호할 필요는 있다. 하지만 정부가 무엇이 진실이고 무엇이 거짓인지를 독점적으로 결정하면, 방어적 인지안보 정책은 국민의 생각을 관리하는 통제 정책으로 변질될 수 있다.

정부 비판이나 의혹 제기를 허위·조작정보로 규정하는 상황도 경계해야 한다. 정부가 정책에 유리한 정보만 선택적으로 공개해도 문제가 된다. 이런 방식의 인지전 대응은 오히려 정부와 제도를 향한 신뢰를 훼손할 수 있다.

탐지 정확도 92%도 완전한 진실 판정 능력을 뜻하지 않는다. 정상적인 영상이 조작물로 잘못 판정될 가능성이 있고, 탐지 기술을 우회하는 새로운 생성 기술도 계속 등장한다. 따라서 AI 분석 결과는 수사와 검증을 지원하는 자료로 활용해야 하며, AI의 판단만으로 표현을 제한하거나 처벌 여부를 결정해서는 안 된다.

민주국가의 인지전 대응, 어떻게 설계돼야 하나

민주국가의 인지전 대응은 국민을 설득하거나 통제하는 방향이 아니라, 시민이 스스로 판단할 수 있는 조건을 만드는 방향으로 설계돼야 한다. 정부는 진실의 최종 판정자가 되기보다, 시민과 언론이 검증할 수 있는 원자료를 신속하게 공개하는 역할을 맡아야 한다.

허위정보 판정 과정에는 독립된 전문가와 언론·시민사회가 참여할 수 있어야 하고, 당사자가 판정에 이의를 제기하고 사법적 판단을 받을 수 있는 절차도 필요하다. 플랫폼도 단순한 기술기업이라는 논리 뒤에 머물 수 없다. 플랫폼은 어떤 콘텐츠를 추천했고 왜 확산시켰는지 설명할 책임이 있으며, 정치·사회적 쟁점에서 알고리즘이 정보 노출에 어떤 영향을 미쳤는지도 투명하게 공개할 필요가 있다.

반대편의 위험도 있다. 정부가 플랫폼 규제를 수단으로 합법적인 정치적 표현을 압박할 가능성이다. 이를 막기 위한 투명한 감독 구조와 절차적 통제도 함께 마련해야 한다.

인지전 시대의 국가 경쟁력, 자유에서 나온다

인지전 시대의 국가 경쟁력은 국민에게 하나의 목소리를 요구하는 능력에서 나오지 않는다. 정부가 자신에게 불리한 사실까지 공개하고, 시민이 다양한 정보에 접근할 수 있어야 하며, 서로 다른 주장도 공개적으로 검증할 수 있어야 한다. 이런 구조가 작동할 때 사회는 외부의 정보 조작에도 쉽게 흔들리지 않는다.

미사일을 요격하는 기술은 국가의 영토를 지킨다. 조작된 정보에 대응하면서도 표현의 자유와 시민의 판단권을 보호하는 제도는 민주주의의 기반을 지킨다. 대한민국의 인지전 대응이 지켜야 할 최종 방어선은 정부의 권위가 아니다. 국민이 사실을 확인하고 스스로 판단할 수 있는 자유다.

“인지전 시대의 국가 경쟁력은 국민에게 하나의 목소리를 요구하는 능력에서 나오지 않는다. 정부가 자신에게 불리한 사실까지 공개하고, 시민이 다양한 정보에 접근할 수 있어야 한다.”

※ 외부필자의 원고는 IT조선의 편집 방향과 일치하지 않을 수 있습니다