[e경제뉴스 임명재 기자] AI기술을 활용해 기존 인물의 얼굴 등 특정 부위를 바꿔치지하는 딥페이크 악용사례가 급증해 사회문제화하고 있다. 최근엔 딥페이크로 가짜 누드 사진을 만들어 유포하는 사례도 나왔다.
이 기술로 특정인의 얼굴을 다른 화면에 덧씌워 디지털 영상을 위조하면 세상을 떠난 이의 얼굴도 살아있는 것처럼 보이게 할 수도 있다.
정치인이나 기업을 공격할 목적으로 이 기술을 활용해 디지털 영상을 위조하는 것을 막는 일이 시급한 과제로 떠올랐다.
딥페이크를 이용한 변조 영상이 대중의 화제를 일으킨다. 미국 대선을 앞두고 글로벌 소셜미디어 기업들이 잇따라 딥페이크 기술을 악용한 허위정보가 사실인 것처럼 가장한 사건들이 그 대표적인 사례다..
이에 따라 각종 AI 기반의 얼굴 합성과 변조 기술이 다양한 분야에서 관심을 받으면서 해당 영상 탐지에 대한 필요성이 대두되고 있다. 변조와 합성 분야가 상대적으로 높은 관심을 받으면서 활발히 연구되는 반면에, 변조와 합성을 탐지하는 연구는 상대적으로 적은 관심을 받고 있다.
이런 상황에서 서울대와 AI 스타트업 머니브레인이 이런 부작용을 해결하기 위해 딥페이크 변조 영상 탐지 경진 대회를 개최한다.
26일 테스트 데이터를 공개한 후 11월20~22일 코드를 제출받는다. 평가를 거쳐 11월29일 순위(결과)를 발표한다.
기존의 변조와 합성을 탐지하는 연구 레퍼런스 데이터는 서양인 위주로 구성돼 있고, 적은 데이터 양을 가지며, 탐지 방해 요소를 고려하지 않고 제작돼 왔다는 점 등의 문제점을 갖고 있다.
이에 따라 우리 실정에 맞는 데이터를 제안함으로써 ‘AI hub 데이터 구축’을 위해 이 번 대회가 열리는 것이다.
이번 대회에는 일반인, 학생, 연구원, 박사 등 누구나 참가신청 할 수 있다. 참가 신청은 DACON의 웹사이트(https://dacon.io/)에서 할 수 있다.
인공지능 영상합성과 딥페이크 분야에서 세계적인 선두기업인 머니브레인과 서울대학교의 인공지능 연구실(DSAIL)이 주최, 데이콘이 주관, 한국정보화진흥원이 후원한다. 이 사업은 인터넷진흥원(NIA) 인공지능 데이터 사업의 일환으로 개최되는 것으로 일반인, 학생, 연구원, 박사 등 누구나 참가신청 할 수 있다. 참가 신청은 DACON의 웹사이트(https://dacon.io/)에서 간단한 회원가입 절차 후, 신청이 가능하다.
머니브레인의 장세영 대표는 “인간에게 이로운 인공지능 영상합성과 딥페이크의 기술을 향상시키 위해 노력해 왔고, 이에 따라 발생할 수 있는 악용이나 부작용을 방지하기 위한 딥페이크 변조 영상 탐지 기술의 지속적인 연구가 필요하다”며 이번 AI 경진대회를 통해 해당 기술의 필요성을 높이고자 하는 의지를 보였다.