요새 사회적 문제로 떠오른 '딥페이크'를 구별하는 방법과 신고 방법, 법적으로 조치할 수 있는 방법

 

요새 사회적 이슈로 떠올랐죠? 바로 딥페이크 기술입니다. IT 기술이 날로 발전을 거듭하면서 여기에 부작용도 함께 따르고 있는데요. 딥페이크 기술 역시 그 일환이라고 할 수 있고, 개인적으로도 또 사회적으로도 엄청난 손실을 초래하기에 그냥 넘길 수 있는 가벼운 문제가 아닌데요. 오늘은 딥페이크 기술을 구별하는 법, 관련 영상을 발견했을 때 신고하는 법, 내가 피해자가 되었을 때 법적인 조치를 하는 법까지 자세히 설명해 드리는 시간을 가져보도록 하겠습니다.

 

 

 

먼저 딥페이크 기술이 어떻게 만들어지는지 한 번 살펴보겠습니다.

 

딥페이크란?

 

딥페이크(Deepfake)는 "딥러닝"과 "페이크"의 합성어로, 인공지능(AI)을 활용해 사람의 얼굴, 목소리, 몸짓 등을 조작해 실제와 매우 유사한 가짜 영상을 만드는 기술입니다. 주로 생성적 적대 신경망이라고 불리는 GNA(GAN, Generative Adversarial Network)를 사용하여 만들어지며, 이러한 기술은 영상뿐만 아니라 오디오 및 이미지에도 적용될 수 있습니다.

딥페이크의 작동 원리

데이터 수집: 딥페이크는 대량의 이미지나 영상 데이터를 수집하여 학습합니다. 예를 들어, 특정 인물의 얼굴을 다양한 각도에서 학습하는데요. 아주 가까이 있는 사람이 사진을 자주 찍은 모습이 활용될 수도 있고, 특히 연예인 같은 경우 인터넷 포털 등에 얼굴 이미지가 많기 때문에 쉽게 활용될 수 있습니다.

학습 및 생성: GAN에는 생성기와 판별 기라는 두 신경망이 있는데요. 이 둘이 협력하여 굉장히 사실적이고 현실적인 이미지를 생성합니다. 생성기는 가짜 이미지를 생성하고, 판별 기는 이 이미지가 진짜인지 가짜인지 판별합니다. 반복 학습을 통해 생성기는 점점 더 진짜와 구분하기 어려운 이미지를 생성하게 되고, 이렇게 딥페이크 기술이 탄생하게 됩니다.

페이스 스왑(Face Swap): 마지막으로 학습된 데이터로 특정 인물의 얼굴을 다른 영상이나 이미지에 합성하는 작업이 이루어지는데요. 이 과정에서 얼굴의 표정, 움직임 등이 자연스럽게 연동되도록 조정되고, 탄생한 작업물은 실제 주인공과 같은 모습을 띠게 됩니다.

 

딥페이크 식별 방법

 

다음으로 딥페이크 식별 방법인데요. 아무리 정교하게 만든 딥페이크라고 해도 몇 가지 단서로 딥페이크가 맞는지 아닌지 의심해 볼 수 있습니다.

비정상적인 표정 및 움직임

 

딥페이크는 자연스러운 표정이나 미세한 움직임에서 결함이 발생할 수 있죠. 예를 들어, 눈 깜박임이 없거나, 얼굴의 움직임이 다소 부자연스러운 경우가 있을 수 있습니다. 이럴 때는 딥페이크를 의심해 볼 수 있습니다.

음성 왜곡

 

요새는 음성 또한 딥페이크 기술로 비슷하게 만들 수 있습니다. 하지만 딥페이크 음성을 자세히 들어보면 자연스럽지 않은 발음이나 이상한 톤을 대화 중간에 가질 수도 있습니다. 이럴 경우 딥페이크를 의심해 볼 수 있고요. 대화 내용이 영상에서 말하는 입모양과 약간의 차이점이 있을 수도 있는데, 이럴 때는 100% 딥페이크 기술입니다.

비디오의 아티팩트

 

영상 자체에서도 의심해볼 수 있는데요. 만약 영상이 깨끗하지 않고 영상의 일부가 흐릿하거나 왜곡되는 경우, 배경과 인물이 자연스럽지 않게 겹치는 부분이 있을 때 딥페이크를 의심해 볼 수 있습니다.

메타데이터 확인

 

가장 확실한 방법이죠. 바로 메타데이터를 확인하는 방법입니다. 파일의 메타데이터를 통해 수정된 흔적이 있는지 확인할 수 있는데요. 메타데이터를 확인하는 방법에 대해서는 아래 포스팅으로 자세히 알려드리도록 하겠습니다.

 

 

딥페이크 대처 방안

 

딥페이크 영상을 발견했다고 하면 즉시 신고하는 것이 좋습니다. 만약 SNS나 특정 플랫폼에서 확인했다면 해당 플랫폼에 신고하여 제거 요청을 하는 것이 좋고요. 매우 드문 일이기는 하지만 나의 얼굴이나 이미지가 이용되고 있는 것을 발견했다면, 명예훼손, 초상권 침해, 개인정보 침해와 관련된 법적 조치를 취할 수 있기 때문에 경찰에 신고하여 수사를 요청할 수 있습니다.

평소에 예방을 하는 것도 중요한데요. 평소 자신의 이미지나 영상이 딥페이크로 사용되지 않도록 온라인 개인정보 보호를 강화하고, SNS에 공유하는 콘텐츠를 제한하는 것이 좋습니다. 만약 나의 허가 없이 딥페이크 영상이 사용되고 있다면 정보통신망법, 초상권 및 명예훼손, 형법 등에 의거하여 형사처벌을 받을 수 있고, 고소를 당할 수 있습니다.

어디로 신고해야 하나?

딥페이크 영상물을 발견했을 때, 가장 먼저 쉽게 신고할 수 있는 방법은 경찰에 신고하는 방법입니다. 따라서 112에 범죄 관련 딥페이크 피해에 대해 신고할 수 있고요. 다음으로 방통위에 신고를 할 수도 있는데요. 1337 번호로 전화해서 방통위에 신고를 할 수 있습니다. 마지막으로 플랫폼인데요. YouTube, Facebook, Instagram 등 대부분의 소셜 미디어 플랫폼에는 허위 정보나 악의적 콘텐츠를 신고할 수 있는 기능이 있기 때문에, 딥페이크 영상이 확인될 경우 즉시 신고하여 삭제를 요청할 수 있습니다.

 

 

이상으로 요새 사회적 이슈 중 하나인 '딥페이크'에 대해서 알아보는 시간을 가져보았습니다. 딥페이크 기술이 하루가 다르게 발전을 거듭하는 만큼 평소 이런 기본적인 지식을 가지고 있으면, 대응에 도움이 되실 거라 생각합니다. 감사합니다.