에스피소프트가 자체 이미지 DNA 추출 및 필터링 기술을 앞세워 스마트폰 화면 상의 딥페이크 영상과 가짜뉴스를 단 3초 만에 실시간으로 판별해 내는 차세대 '딥페이크 탐지기' 애플리케이션을 전격 출시하며, 갈수록 지능화되는 인공지능(AI) 범죄 차단과 다가오는 지방선거 공정성 확보를 위한 보안 생태계 주도권 잡기에 나섰다.
에스피소프트는 가짜뉴스 및 딥페이크 범죄 피해를 선제적으로 예방하기 위해 생성형 AI 기반 딥페이크 판별 애플리케이션 '딥페이크 탐지기'를 출시했다고 23일 밝혔다.
이 애플리케이션은 AI가 만든 가짜뉴스 영상이나 이미지 여부를 판별한다. 유튜브 쇼츠, 인스타그램 릴스 등 특정 앱이나 이미지를 선택해 탐지할 수 있으며, 스마트폰 전체 화면을 지정해 딥페이크 여부를 실시간으로 판별하는 기능도 제공한다. 기존 판별 앱은 영상이나 이미지를 다운로드한 뒤 검증해야 했다. 이로 인해 검증 시간이 길고 사후 대처만 가능하다는 한계가 있었다.
에스피소프트는 자체 이미지 콘텐츠 DNA 추출 및 필터링 기술을 적용했다. 이 회사는 다수의 미디어 콘텐츠 유통사에 저작권 필터링과 불법 촬영물 차단 서비스를 제공하며 기술 상용화를 마쳤다. 축적된 레퍼런스를 바탕으로 전체 콘텐츠 중 얼굴 이미지만을 선별하는 DNA 추출 및 필터링 기술력을 강화했다. 최근 앤트로픽의 미토스(Mythos) 등 AI 위협에 신속히 대응할 수 있는 마이크로소프트(MS) 보안 솔루션 매출도 급증하고 있다.
최근 AI 기술 고도화로 콘텐츠 생성 속도와 품질이 크게 향상됐다. 이에 따라 AI 생성 콘텐츠 검증 기술의 중요성도 커지고 있다. 정부는 전국동시지방선거를 앞두고 AI 악용 가짜뉴스와 딥페이크에 대한 엄중 대응에 나섰다. 회사 측은 이번 앱이 공정선거에도 기여할 것으로 기대했다.
에스피소프트 관계자는 "자체 기술은 이미지에 대한 DNA 데이터를 기반으로 검증하기 때문에 다수의 콘텐츠를 2~3초 내로 구분하고 차단할 수 있는 게 특징"이라며 "콘텐츠 크기에 상관없이 AI가 제작했는지를 실시간으로 감지할 수 있어 가짜뉴스 등을 판별할 뿐 아니라 딥페이크 기반 보이스피싱 등 다양한 범죄 예방에 활용될 수 있을 것"이라고 말했다.
에스피소프트는 구글 플레이스토어에 딥페이크 탐지기를 먼저 출시했으며, 향후 iOS와 윈도우 기반 애플리케이션도 순차적으로 공개할 예정이다.
