샌즈랩, "국민 누구나 딥페이크 확인"…페이크체크 2.0 선봬

페이크체크 2.0, 생성형 AI 딥페이크 이미지 및 영상 탐지로 진화

수백명 대응 인력, 검증 시간 AI 활용해 10분의 1로 줄여

페이크체크 2.0 분석 결과 화면, 이미지 특성에 따른 탐지 모델 세분화로 탐지율을 높였다.(사진=샌즈랩 제공) *재판매 및 DB 금지

[서울=뉴시스]송혜리 기자 = 샌즈랩은 생성형 AI 딥페이크 이미지와 영상 탐지가 가능한 '페이크체크' 2.0를 선보인다고 16일 밝혔다.

페이크체크는 사용자가 직접 사이트에 접속해 딥페이크가 의심되는 이미지를 업로드하면, 인공지능(AI)이 데이터 분석을 통해 수 초 내로 위조 진위 여부를 판별해 주는 온라인 서비스다. 국민 누구나 쉽게 서비스를 이용할 수 있도록 회원가입, 인증 등 번거로운 절차없이 PC나 모바일로 접속해 무료로 사용할 수 있다.

이번 2.0 업데이트에서 회사는 정교한 탐지를 위해 딥페이크 트렌드가 반영되도록 적용하고, 기능을 개선했다. AI 탐지 모델 수의 증가는 물론, 공개 데이터셋과 명시적 동의하에 수집한 얼굴 이미지를 학습한 특화 모델을 개발했다. 이를 통해 특정 도메인과 한국 중·장년층을 대상으로 한 딥페이크 이미지에 대한 탐지 정확도가 크게 향상돼 전 연령대의 고른 분석이 가능해졌다고 회사 측은 설명했다.

이에 더해 샌즈랩은 '페이스 스왑(Face Swap)' 기술을 이용해 기존의 얼굴을 위·변조한 이미지뿐 아니라 챗GPT 등 생성형 AI가 만들어 낸 가상 인물 이미지까지 구분할 수 있도록 각각의 모델로 고도화해 탐지율을 높였다. 특히 샌즈랩 AI 기술개발팀은 웹 상의 실제 정상 이미지 100장과 GPT-4o를 통해 생성한 딥페이크 이미지 200장을 대상으로 한 자체 테스트에서 99.33%의 정확도(Accuracy)와 99.5%의 F1 스코어를 달성해 우수한 성능을 입증했다.

딥페이크 영상 탐지 기능 또한 이번 2.0 업데이트와 함께 적용될 예정이다. 샌즈랩 측은 기술적인 개발은 이미 마쳤으나 대국민 무료 서비스 개방 취지를 유지하기 위한 최적화를 진행 중이라고 밝혔다. 이어 유료화를 하지 않는 범위 내에서 파일 길이, 용량 등의 세부 사항을 조율 중에 있어 이르면 이달 내 영상 탐지 적용이 완료될 예정이라고 설명했다. 

회사 측은 페이크체크 2.0로 인간의 육안으로 쉽게 구별하기 힘든 딥페이크를 바로 탐지해 낼 수 있어 수백명의 대응 인력을 동원해 2·3차 검증으로 판별했던 일을 10분의 1 수준으로 대폭 줄일 수 있을 것으로 보고 있다.

김기홍 샌즈랩 대표는 "앞으로도 사회의 각종 AI 역기능을 해결하는데 필요한 AI 안전 연구 및 기술을 개발해 기여할 것"이라고 밝혔다.


◎공감언론 뉴시스 [e-mail]