거짓된 진실, 진실 같은 거짓 #딥페이크

거짓된 진실, 진실 같은 거짓 #딥페이크

진실도 거짓으로 만들 수 있는 혼란의 기술

 

 

 

 

안녕하세요, 코오롱 블로그 지기입니다.

 

스마트폰의 기능 중에서 가장 많이 사용하는 것을

뽑으라고 한다면 단연 카메라일 겁니다.

언제 어디서나 사진을 찍기 용이한 스마트폰을

이용해서 많은 이들이 추억을 남깁니다.

 

이때 더 좋은 퀄리티의 사진을 남기기 위해

다양한 앱을 사용하기도 하는데요.

카메라 앱은 오래전부터 꾸준히 업그레이드 해왔고

현재에 이르렀습니다.

지금은 카메라가 인공지능과 결합하면서

자동적으로 포토샵이 가능할 정도입니다.

이러한 기술의 편리함은 범죄에 악용되기도 쉬워서

사회에 큰 혼란을 부를 수도 있습니다.

 

이번에 진실도 거짓으로 만들 수 있는 혼란의 기술,

딥페이크에 대해 이야기해보겠습니다.

 

 

 

 

거짓과 진실의 경계선, 딥페이크(Deepfake)

 

딥페이크는 딥러닝(deep learning)과

페이크(fake)의 합성어입니다.

 

여기서 딥러닝이란 컴퓨터가 여러 데이터를

활용하여 인간처럼 스스로 학습할 수 있도록

인공 신경망을 기반으로 구축한 기계 학습 기술로서

음성이나 이미지 인식, 분석 등에 사용되고 있습니다.

 

우리가 잘 알고 있는 구글과 알파고도

이러한 기술에 기반을 두고 있는데요.

이 기술이 카메라 앱에 적용되면서

문제가 발생했습니다.

딥페이크는 특정 인물의 얼굴을 인공지능의

기술을 활용하여 영상에 합성한 편집물로

포르노 영상에 유명인이나 일반인 얼굴을

합성하는 사례가 많다고 합니다.

 

딥페이크는 디지털 성범죄 논란의 중심에

서있는 기술이기도 한 것입니다.

 

 

 

 

딥페이크를 이용한 범죄 악용의 시작

 

미국에서 '딥페이크'라는 한 네티즌이

온라인 커뮤니티에 할리우드 유명 배우의

얼굴과 포르노를 합성해

올리면서 논란이 되었습니다.

 

초기에는 연예인, 정치인 등 유명인들의

얼굴을 합성했지만 점차 일반인들을

상대로 범죄를 넓히기 시작하면서

문제는 더욱 심각해졌습니다.

 

딥페이크는 정교한 기술력과 상관없이

손쉽게 제작이 가능하다고 하는데요.

때문에 디지털 성범죄로 악용이 되기 쉽다는

단점을 갖고 있습니다.

 

 

 

 

딥페이크가 위협하는 인권과 진실

 

인권위는 전 세계 딥페이크 영상의 96%가

포르노의 목적으로 제작되고 있으며,

피해자 중 한국 여성 연예인은

25%에 달하는 것으로 알려졌다고 말했습니다.

덧붙여 '이는 인간의 존엄성에 심각한 문제가

될 수 있다'고 문제를 짚었습니다.

 

지난 2019년 6월에는 페이스북의 CEO

마크 저커버그의 논란 섞인 발언을 담은 영상이

공개되며 큰 파장을 일으키기도 했습니다.

하지만 후에 이 영상은 딥페이크로 만들어진

조작된 영상으로 밝혀지면서

놀라움을 자아냈습니다. 

 

이를 통해 사람들은 진실이 얼마든지

조작될 수 있다는 것을 알게 되었습니다.

 

 

 

 

딥페이크에 대한 처벌

 

딥페이크 영상으로 인하여 피해가 늘어났지만

처벌 규정이 미비하여 적시에 처벌이 불가능하거나

명예훼손, 음란물 유포 조건에

충족되는 경우에만 처벌이 가능하다는

지적이 제기되었고 이를 개선해야 한다는

목소리가 커지면서 정부는

새로운 개정안을 내놓게 되었습니다.

 

올해 6월 25일부터 '딥페이크 포르노를 제작 및 반포하면

5년 이하의 징역 또는 5000만 원 이하의 벌금에 처하며

특히 영리 목적으로 제작 및 반포한 경우

7년 이하의 징역으로 가중 처벌된다' 등의 내용을 담은

성폭력 범죄의 처벌 등에 관한 특례법 개정안이 시행된다고 합니다.

 

 

 

 

 

딥페이크를 향한 논란은 여전히 계속되고 있는데요.

편리하게 발전된 기술력이 악용되고 있는

대표적인 사례라고 할 수 있습니다.

기술력은 높아지지만 미래는 불신으로

가득하게 된다는 아이러니 속에서 우리들은

또 하나의 문제를 떠안게 됩니다.

 

만약 우리가 알고 있는 진실이 알고 보니

딥페이크로 조작된 가짜라면?

 

반대로 우리가 알고 있는 거짓이

딥페이크로 가려진 진실이라면?

 

진짜 정보를 구별하는 것은 힘들어지고

사회의 혼란은 고조될 것입니다.