딥페이크 뜻과 위험성, 그리고 대처법

안녕하세요, 정보주라입니다.
오늘은 인공지능과 관련된 범죄행위인 딥페이크에 대해 알아볼 예정입니다.
딥페이크로 인해 다수의 사람들이 피해를 입고 있는 너무나 위험한 상황에서 이것이 무엇인지를 정확히 파악하고 어떤 사건이 있었는지, 위험성과 문제점, 그리고 대처법에 대해서 알아볼 예정입니다.
법적으로는 어떻게 처벌을 받는지도 알아보면서 미리 범죄를 예방할 수 있도록 주의해주시면 좋을 것 같습니다.
그럼 시작해보도록 하겠습니다!

딥페이크의 뜻

딥페이크(Deepfake)란, 딥러닝(deep learning)과 페이크(fake)의 합성어로, 인공지능(AI) 기술을 이용해 제작된 가짜 동영상 또는 제작 프로세스를 뜻합니다.  적대관계생성신경망(GAN: Generative Adversarial Network)이라는 기계학습(ML) 기술을 사용하여, 기존 사진이나 영상을 원본에 겹쳐서 만들어 냅니다.

딥페이크 사건

2017년 미국 대형 온라인 커뮤니티 ‘레딧’에 올라온 합성 포르노 영상을 딥페이크 시초로 보고 있으며, ‘Deepfakes’라는 아이디를 쓰는 이용자가 오픈소스 소프트웨어(SW) 텐서플로(TensorFlow)를 활용해서 유명 연예인과 포르노를 합성한 영상을 올렸습니다. 이후 ‘FakeApp’이라는 무료 소프트웨어가 배포되면서 초보자도 쉽게 딥페이크 영상을 만들어 올리기 시작했습니다. 기술이 고도화되면서 점차 진짜와 구분하기 어려운 수준까지 발전하게 되었습니다.

딥페이크와 윤리문제

딥페이크 기술은 많은 윤리 논쟁을 촉발했습니다. 위조 포르노로 피해자가 늘고 있다는 점이 가장 큰 우려를 사고 있으며, 미국 할리우드 유명 여배우들이 딥페이크 포르노 영상으로 많은 피해를 입었습니다.
아시아 지역에서는 한국 케이팝 가수들을 타깃으로 하고 있으며, 사이버 보안 연구회사 딥트레이스의 보고서에 따르면 2019년 유통된 딥페이크 영상 1만 4,698점 가운데 96%는 포르노로 소비되었다고 합니다. 얼굴 합성 피해자는 미국/영국 여배우가 46%, 한국 케이팝 가수가 25%로 많은 비중을 차지했습니다.

딥페이크의 위험성

딥페이크 가짜뉴스로 인한 위험성도 제기되고 있습니다. 유명 정치인의 얼굴을 합성한 딥페이크 연설 영상은 텍스트로 된 가짜 뉴스와 비교하면 파급력이 더 클 것으로 예상되고 있습니다. 조던 필 영화감독은 버락 오바마 전 미국 대통령이 “트럼프는 천하에 쓸모없는 놈”이라고 말하는 딥페이크 영상을 만들어 공개하였는데 이것은 딥페이크 기술이 내포한 위험성을 사람들에게 알리기 위한 목적이었습니다.

이것은 사실과 다르게 인식될 가능성이 높고, 위험 할 수 있습니다. 사기나 속임수, 명예 훼손 등 일상 속에서 많은 문제를 야기할 수 있습니다.
특히, 사회적으로 공인된 인물이나 산업, 정치 등 다양한 분야에서 거짓 정보를 유포하거나 혼선을 야기할 수 있습니다.
딥페이크가 지닌 위험을 예방하고 대처하기 위해서는 더 나은 딥페이크 탐지 및 식별 기술, 윤리적 정책, 법적 제동 등 다양한 조치가 필요합니다. 또한, 이러한 위험에 대한 정확한 인식과 인터넷 사용 시 주의하는 것이 중요합니다.

딥페이크를 올바르게 활용하는 방법은?

딥페이크는 다양한 부정적인 측면 외에도, 몇몇 올바른 사용 사례가 있습니다. 예를 들어, 딥페이크 기술은 교육 분야에서 사용될 수 있습니다. 영어 원어민의 발음과 표현을 딥페이크를 사용하여 학습자가 보다 더욱 자연스러운 발음과 억양을 배울 수 있습니다.
 
이 외에도 예술, 연예, 광고 등 다양한 분야에서 충분한 유의와 규제하에 적극적으로 활용될 수 있을 것입니다. 하지만, 딥페이크를 올바르게 활용하려면 기술의 양날의 검에 대한 인식이 필요합니다. 인공지능을 이용한 컨텐츠가 왜곡을 일으킬 수 있기 때문에, 투명성과 공정성을 중요시하는 사용자, 개발자, 그리고 정책제정자가 정확한 정보를 생산하고, 신뢰성 있는 미디어 생태계로 나아가려는 노력이 필요합니다.

딥페이크로 인한 법적 처벌?

딥페이크(deepfake)로 인한 법적 처벌은 다음과 같습니다.
명예훼손
딥페이크를 이용하여 다른 사람의 얼굴이나 목소리를 조작하거나 지식재산을 침해하는 경우, 명예훼손으로 법적 처벌을 받을 수 있습니다.
사기
딥페이크를 이용하여 가짜 영상이나 가짜 정보를 제작하여 돈을 갈취하는 등 명백한 사기 행위를 하는 경우, 사기罪로 처벌을 받을 수 있습니다.
초상권 침해
다른 사람의 얼굴과 이름을 불법적으로 사용하거나 유포하여 초상권을 침해하는 경우, 초상권 침해罪로 처벌을 받을 수 있습니다.
정보통신망법 등에 의한 처벌
한편, 딥페이크는 인터넷 환경에서 유포될 가능성이 높기 때문에, 정보통신망법 등에서 제공하는 법적 처벌을 받을 수 있습니다. 딥페이크를 이용한 범죄 행위는 수사기관에서 적극적으로 수사하고, 이에 따라 적절한 처벌을 받게 됩니다. 딥페이크가 기술의 남용을 초래하지 않도록, 사용자와 개발자, 정책 제정자 등 모든 이해당사자들이 적극적이고 책임감 있는 노력을 하여 예방해 나가야 합니다.
 
 

만약 딥페이크로 인해 범죄가 발생하면 어떻게 대처하나요?

만약 딥페이크로 인해 범죄가 발생한다면, 범죄 피해자는 가장 먼저 해당 범죄 사실을 경찰에 신고해야 합니다. 경찰은 그에 대한 조사를 실시할 것입니다. 다음으로, 딥페이크 기술의 적절한 사용과 범죄 예방을 위한 법과 정책에 대한 검토가 필요합니다. 범죄 예방을 위해서는 딥페이크 기술을 사용하는 악의적인 사용자들을 법적으로 처벌할 수 있는 법적 틀이 마련돼야 하며, 이를 점검하고 강화해나가는 것이 필요합니다. 또한, 인공지능 기술과 딥페이크 기술을 이용하는 기업과 연구기관은 범죄 예방을 위해서 책임적인 연구와 개발을 해야 하며, 기술의 투명성, 윤리적 표준 및 공정성을 고려할 필요가 있습니다. 딥페이크 기술의 발전과 함께 범죄 예방 및 대응에 대한 준비가 더욱 필요해지고 있습니다. 따라서 우리는 딥페이크 기술에 대한 인식과 법적 제도를 강화하며, 인공지능 기술 발전의 공정하고 안전한 사용 방안을 모색해 나가야 할 필요가 있습니다.