UAE 연구자, 딥페이크 탐지 앱 'Deepy' 개발…영상·이미지 진위 검증

에미라티 연구자의 딥페이크 탐지 플랫폼

UAE 사이버보안 연구자 바샤예르 알 살라미(Bashayer Al Salami)가 AI 기반 딥페이크 탐지 플랫폼 'Deepy'를 개발했다. 자이드대학교 석사 과정에서 현대 디지털 위협을 연구한 그는 AI 생성 조작물이 일반 사용자의 식별 능력을 넘어서고 있다는 점에 주목했다. 알 살라미는 "AI가 발전하면서 딥페이크가 가장 심각한 디지털 위협 중 하나로 부상했다"고 밝혔다.

기술적 분석 방식

Deepy는 업로드된 파일을 분석해 AI 조작 가능성을 평가한다. 픽셀 패턴, 조명 불일치, 움직임이나 소리의 왜곡 등 디지털 파일 내 기술적 지표를 검토하는 방식이다. 입술 움직임이나 표정의 비대칭, 조명과 그림자 패턴의 불일치, 픽셀·프레임 수준의 미세한 왜곡 등 사람이 인지하기 어려운 지표들도 탐지 대상에 포함된다. 수천 개의 진본 및 조작 콘텐츠 샘플로 훈련된 딥러닝 모델이 이미지·오디오 생성 알고리즘이 남긴 디지털 흔적을 읽어낸다.

주요 타깃 사용자층

플랫폼의 주요 대상은 정부기관, 보안기관, 언론사, 디지털 콘텐츠 검증이 필요한 기업이다. 디지털 보안 및 소셜미디어 관련 기관도 활용할 수 있다. 현재 일반 사용자가 이미지나 영상을 공유 전에 확인할 수 있는 버전이 개발중이다.

위기 상황과 허위 콘텐츠 확산

알 살라미에 따르면, 위기 상황이나 정치적 긴장 시기에 조작된 콘텐츠 유통이 급증하는 경향이 있다. 딥페이크 기술이 불안을 조장하거나 여론을 흔드는 데 악용되기도 한다. Deepy는 언론인, 공공기관, 일반 사용자가 콘텐츠를 전달하기 전에 신속히 검증할 수 있도록 지원하는 것을 목표로 한다.

디지털 인식 제고의 역할

알 살라미는 "기술의 역할은 조작 탐지에 그치지 않는다"며 "디지털 시대에 디지털 인식을 높이고 보다 신뢰할 수 있는 미디어 환경을 구축하는 데까지 확장된다"고 강조했다.