개념

딥페이크란 딥러닝(Deep Learning) 기술과 가짜(Fake)의 합성어로, 인공지능, GAN을 활용한 이미지, 영상 및 음성 합성 기술을 의미

GAN : Generative Adversarial Network, 생성적 적대 신경망

합성하려는 인물의 얼굴이 주로 나오는 고화질의 동영상을 통해 딥러닝하여, 대상이 되는 동영상을 프레임 단위로 합성시키는 것

활용

영화 - CG, 고인이나 배우의 젊은 시절을 재현해서 영상으로 구현할 수 있다.
신변보호 - Virtual Human, 피해자의 신상을 알 수 없도록 딥페이크로 가상인간을 만들어 영상을 송출하면, 피해자의 신변을 보호할 수 있다.
추모 - My Heritage, 고인이 된 가족 또는 순국열사 등 딥페이크 기술로 새로운 방식으로 추모를 할 수 있다.
재회 - 딥페이크 기술에 VR/AR, 음원 복원 등 다양한 기술을 접목시켜 김현식, 김광석, 터틀맨(임성훈) 등 그리운 이들의 목소리, 그리고 그룹의 완전체 모습을 다시 볼 수 있다.
MBC 다큐멘터리 너를 만났다에서는 7세라는 이른 나이에 세상을 떠난 딸, 나연이를 가상현실에서 만날 수 있게 했다. 딸의 목소리, 말투, 몸짓 등은 기존 사진이나 영상으로 분석하고, 모션 캡쳐, 3D 등의 기술을 통해 가상세계 속 나연이의 모습을 실제와 가깝게 만들었다. 어머니는 VR 장비를 착용하고 가상세계 속에서 딸을 만나게 되었다. 다시 한번 딸을 만나고 싶다는 간절한 소망이 이루어져 감격했고, 딸과 가상현실에서 짧지만 소중한 시간을 보냈다.

예상되는 어려움

AI로 합성한 음성(Deep Voice)을 악용한 보이스 피싱 피해 사건
딥페이크 불법합성물

해결방안

블록체인으로 딥페이크 대응할 수 있어 - Sciencetimes

대응 기술 개발 또한 활발히 진행되고 있다. 작년 10월 페이스북은 1000만 달러(약 12억 원)을 투자해 ‘딥페이크 탐지 대회(DFDC)’를 개최한 바 있다. 국내의 경우, 딥페이크 대응 기술 개발 지원을 위한 과제를 추진하고 있다.

지난 6월 과학기술정보통신부(과기부)는 ‘AI 학습용 데이터 구축 사업’ 20개를 확정했다. 그중 하나로 ‘딥페이크 방지 영상 AI 데이터’ 기술도 포함돼 있다. 해당 과제는 머니브레인이 추진할 계획이며, 해당 업체는 딥페이크 방지에 필요한 영상 데이터를 제공할 계획이다.

블록체인의 이러한 특징은 딥페이크 악용에 대응할 수 있다. 콘텐츠의 출처를 블록체인으로 기록하면 콘텐츠를 변형하더라고 진위를 파악할 수 있다. 한 마디로, 콘텐츠에 식별 기술을 덧붙이는 셈이다.