M83, 美 중간선거 '딥페이크' 잡는다…'워터마크 지워도 잡는' AI 판별 솔루션 개발 성공

자회사 디블라트와 ‘안티제니’ 출시…크롬과 아이폰 확장 프로그램 사용 가능 '주목'

자회사 디블라트와 ‘안티제니’ 출시…크롬과 아이폰 확장 프로그램 사용 가능 '주목'

ⓒ M83

[프라임경제] 시각특수효과(VFX) 전문기업 M83(476080)은 인공지능(AI) 연구개발 자회사 디블라트와 AI로 생성·변형된 이미지와 영상을 탐지하는 딥페이크 판별 솔루션 '안티제니(AntigenI)'를 개발했다고 4일 밝혔다.

생성형 AI 기술이 고도화되면서 실제 촬영물과 구분하기 어려운 딥페이크 콘텐츠가 빠르게 확산되는 추세다. 최근 미국 중간선거에서도 AI를 활용한 허위정보 유포와 선거 개입 우려가 제기되면서 디지털 콘텐츠의 진위를 판별하는 기술이 주목받고 있다.

'안티제니'는 실제 촬영물과 AI 생성 콘텐츠 사이의 시각적·통계적 차이를 분석해 딥페이크 여부를 판별한다. 

기존의 워터마크 탐지 방식은 AI 생성기가 결과물에 남긴 표시가 없거나 제거된 경우 판별에 한계가 있다. 반면 '안티제니'는 콘텐츠 자체의 특성을 분석하는 방식으로 다양한 AI 모델이 생성한 딥페이크에 대응할 수 있다.

구글 크롬 웹브라우저와 아이폰 사파리에서 사용할 수 있는 확장 프로그램 개발도 완료했다. 사용자는 웹브라우징 중 이미지나 영상에 대한 분석 결과를 바로 확인할 수 있다.

양사는 판별 정확도를 높이고 새로운 생성형 AI 모델에 대한 대응 범위를 넓혀갈 계획이다. 

브라우저 확장 프로그램은 성능에 따라 무료·유료 서비스로 구분해 개인 사용자에게 제공할 예정이다. 언론사와 콘텐츠 플랫폼, 공공기관 등에도 AI 판별 엔진을 공급하고 고객별 요구에 맞춘 진위 판별 솔루션을 제공할 방침이다.

'안티제니'는 M83과 디블라트가 지난 7월 설립한 'AI 미디어랩'의 연구개발 성과다. AI 미디어랩은 디지털 휴먼, 컴퓨터 비전, 딥페이크 생성·탐지 등 AI 기반 시각 기술을 연구해 왔다. 양사는 콘텐츠 제작·합성과 검색 분야에서 축적한 기술을 이번 솔루션에 적용했다.

M83 관계자는 “생성형 AI의 발전으로 디지털 콘텐츠의 진위를 검증하려는 수요가 증가하면서 딥페이크 탐지 시장의 성장 가능성도 커지고 있다”며 “안티제니의 상용화를 추진하고 응용프로그램 인터페이스(API) 공급과 기업용 솔루션 라이선스 등 다양한 수익모델을 구축해 새로운 사업 기회를 확보하겠다”고 말했다.

한편 AP통신에 따르면 미국 중간선거를 앞두고 오하이오주에서는 상원의원 후보의 전직 인턴 사진과 이름을 도용한 가짜 뉴스 형식의 영상이 유포됐다. 텍사스주에서는 후보의 옛 제자가 직접 폭로하는 것처럼 꾸민 영상이 퍼졌다.

보안업체 서프샤크가 2020년 1월부터 2026년 10월까지 집계한 선거 관련 딥페이크 사례는 한국이 16건으로 미국(87건), 인도(19건)에 이어 세 번째로 많았다.

아울러 글로벌 시장조사기관 메티큘러스 리서치(Meticulous Research)에 따르면 전 세계 딥페이크 탐지 시장은 2025년 7억1000만 달러에서 2036년 94억4000만 달러 규모로 연평균 25.3% 성장할 전망이다.