딥페이크 기술

서울대와 AI 스타트업 머니브레인이 딥페이크 탐지 경진 대회를 개최한다.

이번 딥페이크 변조 영상 탐지 AI 경진대회는 딥페이크 기술의 부작용을 해결하고, 변조와 합성을 탐지하는 기술의 필요성을 높이는 것이 목적이다. 기존의 변조와 합성을 탐지하는 연구 레퍼런스 데이터는 서양인 위주로 구성돼 있고, 적은 데이터 양을 가지며, 탐지 방해 요소를 고려하지 않고 제작돼 왔다는 점 등의 문제점을 갖고 있다. 이러한 문제점을 해결하는 데이터를 제안함으로써 ‘AI hub 데이터 구축사업’을 홍보하며 데이터 사용을 활성화시키는 데 중점을 두었다.

최근 들어 딥페이크를 이용한 변조 영상이 대중의 화제를 일으키고 있다. 미국 대선을 앞두고 글로벌 소셜미디어 기업들이 잇따라 딥페이크 기술을 악용한 허위정보가 사실인 것처럼 가장한 사건들이 그 대표적인 예이다. 이에 따라 각종 인공지능 기반의 얼굴 합성과 변조 기술이 다양한 분야에서 관심을 받으면서 해당 영상 탐지에 대한 필요성이 대두되고 있다. 변조와 합성 분야가 상대적으로 높은 관심을 받으면서 활발히 연구되는 반면에, 변조와 합성을 탐지하는 연구는 상대적으로 적은 관심을 받고 있다.

이번 대회는 인공지능 영상합성과 딥페이크 분야에서 세계적인 선두기업인 머니브레인과 서울대학교의 인공지능 연구실(DSAIL)이 주최, 데이콘이 주관, 한국정보화진흥원이 후원한다.

이 사업은 인터넷진흥원(NIA) 인공지능 데이터 사업의 일환으로 개최되는 것으로 일반인, 학생, 연구원, 박사 등 누구나 참가신청 할 수 있다. 참가 신청은 DACON의 웹사이트(https://dacon.io/)에서 간단한 회원가입 절차 후, 신청이 가능하다.

머니브레인의 장세영 대표는 “인간에게 이로운 인공지능 영상합성과 딥페이크의 기술을 향상시키 위해 노력해 왔고, 이에 따라 발생할 수 있는 악용이나 부작용을 방지하기 위한 딥페이크 변조 영상 탐지 기술의 지속적인 연구가 필요하다”며 이번 AI 경진대회를 통해 해당 기술의 필요성을 높이고자 하는 의지를 보였다.