메뉴 건너뛰기

기획/연재

AI 기술의 심각한 악용, 딥페이크

posted Mar 09, 2021 Views 404 Likes 0 Replies 1
?

단축키

Prev이전 문서

Next다음 문서

+ - Up Down Comment Print Files
?

단축키

Prev이전 문서

Next다음 문서

+ - Up Down Comment Print Files
  딥페이크(Deep Fake), 즉 합성 영상이 발달되면서 사이버 성범죄가 속수무책으로 증가하였다. 최근 SBS 방송사의 프로그램인 ‘그것이 알고 싶다’에서 ‘보고, 듣고, 의심해라. 가짜와의 전쟁, 딥페이크’라는 제목으로 합성 기술에 대해 언급해 큰 관심을 받았다. 방송에서 딥페이크가 언급되자 대중들 사이에서 크게 이슈화되었고, 많은 사람이 이 기술이 악용되어 범죄가 일어나고 있음을 알게 되었다.


  딥페이크란, 인공지능의 한 분야인 딥러닝(Deep learning)을 활용해 사람의 얼굴이나 특정 부위를 합성한 가짜 동영상을 만들어내는 기술을 말한다. IT 산업은 물론 다양한 산업에서 쓰이고 있는 인공지능 기술 중 하나인 딥페이크는 윤리적인 면에서 긍정적인 반응을 보이고 있다. 예를 들어, 이미 사망한 사람의 모습을 AI로 재현해 가족들을 위로하고 감동을 전할 수 있으며, 신원 보호가 필요한 사람들을 위한 안전장치가 되기도 한다. 

1.jpg
▲ 혼성 그룹 거북이 리더 故 터틀맨

  실제로 지난해 12월 케이블 음악 채널 엠넷에서는 ‘다시 한번’이라는 프로그램을 통해 혼성 그룹 거북이의 리더인 고인 터틀맨의 무대를 되살려 선보였다. 거북이의 무대를 위해 제작진은 먼저 실제 터틀맨과 비슷한 체형을 가진 모델을 선정하여 모델의 동작을 촬영했다. 이후 터틀맨의 과거 사진과 동영상 자료들을 모아 AI를 학습시켰고, 최적의 얼굴 데이터를 추출했다. 이 얼굴 데이터들을 모델의 동작과 합성하여 터틀맨의 자연스러운 모습을 구현해냈다. 이는 딥페이크의 대표적인 알고리즘인 ‘생성적 적대 신경망(GAN)’을 활용한 사례이다. 

2.png
▲ AI로 옆모습을 보이는 윤봉길 의사

  이러한 딥페이크 기술은 역사적 인물들을 살아 움직이는 것처럼 재현하기도 했다. 해당 기술로 유관순 열사와 윤봉길 의사가 고개를 돌리며 웃는 모습을 동영상으로 담아냈다. AI를 이용해 맞춤형 알고리즘으로 정지된 얼굴 사진을 자연스럽게 움직이는 얼굴 동영상으로 변환시킨 것이다. 표정 변화까지 완벽하게 구현해냈다.


  위와 같이 감동적이고 추모적인 사례들도 있지만, 딥페이크를 악용하는 범죄가 나날이 증가하고 있다. 특히 인터넷이 발전해 사이버 성범죄가 많이 발생하고 있다. 딥페이크 기술을 이용해 얼굴을 합성하여 음란물을 만들고, 판매 혹은 협박을 하는 일이 벌어졌다. 딥페이크에 의한 불법 음란물이 제작되면서 연예인과 유명인은 물론 일반인들까지 많은 사람이 피해를 보고 있다. 


  경기대학교 범죄심리학과 이수정 교수는 “연예인 등 유명인을 대상으로 한 딥페이크 음란물은 수익을 노린 공급자, 즉 기술자들이 상품을 제작, 배포하고 이를 헤비 유저(다량 이용자)들이 구매하는 구조”라며 “공급자들은 금전적 이득을, 수요자들은 성적인 만족을 취한다는 목적이 가장 일반적 형태”라고 설명했다. 다시 말해, 딥페이크 기술을 악용하여 불법 음란물 시장이 형성되었다는 의미이다. 


  또한, 이수정 교수는 일반인을 대상으로 한 불법 음란물에 대해서도 언급했다. “일반인 대상 딥페이크 범죄는 악의적, 적대적 목적을 갖고 불법 영상을 만드는 공급자들이 대다수로 보인다.”라며, 자신의 성적 만족과 재미를 충족시키기 위해 소비하는 경우도 있다고 말했다. 다른 전문가 또한 평소 싫어하던 사람을 대상으로 성적 웃음거리를 만들려는 목적을 가지고 있을 수 있다고 언급하면서 이는 조롱과 아울러 본인이 피해자보다 우월한 존재임을 확인하는 심리도 적용했을 수 있다고 설명했다.


  그뿐만 아니라, 퀄리티는 크게 중요하지 않다는 시각도 나왔다. 정교한 화면보다 만들고 유포하는 것에 의미를 두었기 때문이다. 게다가 온라인상에서 딥페이크 영상 제작 방법이 공유되면서 “무료로 합성해준다.”, “연습으로 만들어 드린다.”와 같은 게시물이 늘어나고 있다. 

3.jpg
▲ 협박 메시지

  프로그램 ‘그것이 알고 싶다’에서는 딥페이크를 악용한 범죄를 추적했다. 피해자 A씨는 SNS 메시지를 통해 낯선 이에게 자신의 성관계 영상을 받았다. 하지만 직접 촬영한 영상도 아닐뿐더러 실제 있었던 일이 아니었지만, 영상 속 인물은 자신의 얼굴을 닮아있었다. 


  이러한 협박 메시지를 받은 사람은 피해자 A씨 뿐만이 아니다. 현재에도 딥페이크를 활용한 불법 음란물이 여러 성인사이트에서 유포되고 있으며, 위와 같은 협박의 메시지를 받고 있다. 


  ‘그것이 알고 싶다’ 제작진은 전문가의 조언으로 딥페이크 기술을 활용한 범죄 실험을 진행했다. 대상은 부모와 자녀였으며, 병원에 입원한 자녀가 부모를 속여 돈을 요구하는 피싱 사기 모의실험이었다. 딥페이크 영상을 받은 부모들은 “너 아닌데.”, “비슷한데 아닌 건 알 수 있었다.”라고 의심하면서도 “혹시 모른다.”라는 불안감에 신용카드 사진을 바로 전송했다. 이 실험과 같이 딥페이크 악용 범죄는 일상생활에서 쉽게 일어날 수 있다. 자신이 언제 어디서 피해자가 될지 모르기 때문에 항상 의심해야 한다. 

4.jpeg
▲ 일러스터

  이에 경찰이 딥페이크 등 인터넷 발달로 늘어난 사이버 성범죄에 대응하기 위해 집중단속에 나섰다. 특히 딥페이크 성착취 영상물을 용돈벌이로 악용한 10대, 20대가 주로 경찰에게 붙잡히고 있다. 경찰에 잡힌 A(18), B(10대), C(20대)군이 유통한 딥페이크 사진은 총 3,309건, 성착취 영상물은 총 1만 1,373건에 달하는 것으로 밝혀졌다. 이들은 연예인과 일반인 얼굴을 합성하였고, 이를 판매하여 수익금을 얻었다고 한다. 


  사이버 성범죄 집중수사와 함께 청소년 대상 교육, 홍보 등의 활동이 다양해지고 있다. 지난해 사이버 성범죄로 검거된 가해자 30.5%, 피해자의 60.7%가 10대로 밝혀지면서 이에 대한 심각성이 부각되었다. 이들의 상당수는 불법합성물을 범죄로 인식하지 못하고 공유 및 유포한 것으로 파악되어 관련 교육이 시급한 상황이다. 

5.jpg
▲ 불법 음란물 유포 사이트

  지난해 6월부터 성폭력 처벌법이 개정되면서 사이버 성범죄에 대한 수사력이 강화되었다. 하지만 인터넷과 기술이 발전함에 따라 사이버 범죄가 더 늘어나고 있으며, 피해자가 증가하여 심각성이 고조되고 있다. 딥페이크 등과 같은 기술이 위처럼 악용되지 않도록 빠른 조치가 필요하다. 또한, 협박 메시지와 영상물을 대처할 수 있도록 피해자가 손쉽게 경찰에게 신고할 수 있게 안내해야 한다. 이러한 기술을 악용하는 것이 아닌, 도덕적인 면으로 이용하는 것은 어떨까.


2021 웹진 명함_손예진.png


이미지 출처
https://www.sedaily.com/NewsView/22HDOPL0Z9
http://news.heraldcorp.com/view.php?ud=20210303000453
https://www.hankyung.com/society/article/2021022899967
https://news.mt.co.kr/mtview.php?no=2021012114580855686
https://www.nocutnews.co.kr/news/5506252
?

  1. 11
    May 2021
    17:41

    경기대학교 청소년전공 학우들이 주도하는 ‘역량 강화 프로그램’

      연무동 지역사회의 발전과 주민참여를 위해 연무동 도시재생현장지원센터에서 도시재생 뉴딜사업을 개최했다. 도시재생이란 인구감소, 산업구조의 변화, 도시의 무분별한 확장, 주거환경의 노후화 등으로 쇠퇴하는 도시를 지역 역량의 강화, 새로운 기능의 ...
    Reply0 Views176 Votes0 file
    Read More
  2. 10
    May 2021
    22:01

    코로나로 변화되는 여행 트랜드

      코로나19 사태로 국내 유명 관광지 대신 상대적으로 한적한 지방 소도시가 여행객의 주목을 받고 있다. 도시 여행보다는 한적한 소도시로 떠나는 여행과 차박, 글램핑 등 야외활동 중심의 여행, 일상 공간을 벗어난 워케이션 등이 주류가 될 전망이다.   ...
    Reply0 Views133 Votes0 file
    Read More
  3. 06
    May 2021
    16:29

    드디어 도입되는 ‘구하라법’

    ▲ 법무부가 발표한 5월 가족 관련 정책 과제   법무부가 5월 가정의 달을 맞아 가족 관련 법 제도를 개선하기 위해 나섰다. 지난 3일 법무부는 ‘가족 구성원 모두가 행복한 나라’라는 취지로 가족 관련 정책 과제를 소개했다. 5일 어린이날부터 아동 인...
    Reply0 Views150 Votes0 file
    Read More
  4. 05
    May 2021
    21:40

    탈(脫)플라스틱을 위한 움직임

    ▲가정에서 발생하는 플라스틱 포장재   플라스틱은 쉽게 사용하고 쉽게 버릴 수 있다는 점에서 우리 생활 전반에 녹아들었다. 우리가 사용하는 칫솔, 컵, 침대, 스마트폰 등에는 다양한 형태의 플라스틱이 함유되어 있다. 심지어 코로나 시대의 필수품이 ...
    Reply0 Views198 Votes0 file
    Read More
  5. 04
    May 2021
    14:53

    일상 속 ‘범죄’ 알고 가자 ① 사이버 범죄

    ▲ 일상 속 ‘범죄’ 알고 가자 1편   오늘날 우리는 일상생활 속에서 우리도 모르게 법을 위반하는 행위를 할 때가 있다. 보통 잘 알고 있는 일상에서의 범죄는 무단횡단, 불법주차, 쓰레기 무단투기, 성범죄 등이 있다. 반면, 잘 알려지지 않은 불법 행위는 ...
    Reply0 Views141 Votes0 file
    Read More
  6. 03
    May 2021
    15:33

    봄마다 당신을 괴롭히는 알레르기

      거리마다 화사하게 피어있는 꽃들과 함께 우리는 봄을 맞이한다. 마냥 예쁘게만 보이는 꽃이지만 봄철 꽃가루가 날리기 시작하면 콧물, 재채기, 기침 등의 증상으로 괴로워하는 사람들이 많다. 꽃가루와 함께 찾아오는 황사와 미세먼지, 건조하고 일교차가 ...
    Reply0 Views163 Votes0 file
    Read More
  7. 02
    May 2021
    20:05

    배우 윤여정, 그리고 영화 미나리

      55년 차 배우 윤여정(74)이 영화 ‘미나리’로 아카데미 여우조연상을 수상했다. 아카데미 시상식에서 연기상을 받은 한국 배우는 윤여정이 최초이다.   ▲아카데미영화제에서 여우조연상을 받은 배우 윤여정의 모습   윤여정의 센스 넘치는 수상 소감...
    Reply0 Views165 Votes0 file
    Read More
  8. 29
    Apr 2021
    17:29

    점점 다양해지는 피싱 수법

      최근 가족이나 지인의 이름으로 상품권 번호나 금전을 요구하는 문자를 받는 사람이 많아지고 있다. 이는 문자를 활용한 신종 보이스피싱인 문자피싱으로 전화가 되지 않는 상황을 만들고 문자로만 소통하여 사람들을 속이는 신종 사기 수법이다. ▲ 자...
    Reply0 Views203 Votes0 file
    Read More
  9. 28
    Apr 2021
    19:27

    백지장, 경기대학교 학생에게 무료로 공간대여

    ▲백지장 사업 소개   백지장은 도시 속 비어있던 6개의 노후 공실을 개조해 만든 공간을 대여해주는 소셜 벤처이다. 공간은 서대문 빈 사택, 서대문 대동인쇄, 서대문 다락, 대림 지하창고, 문래 조명공장, 문래 철공소, 신도림 고가옥탑, 신도림 지하철...
    Reply0 Views246 Votes0 file
    Read More
  10. 27
    Apr 2021
    22:12

    얼마 남지 않은 세월호 공소시효

      우리 모두가 잊지 못하는 7년 전 2014년 4월 16일은 수많은 희생이 있었다. 제주도로 항해하던 세월호가 해상에서 침몰했고, 그로 인해 탑승자 476명 중 304명이 희생됐다. 희생자 295명이 안산 단원고등학교의 학생들이었으며, 수학여행을 가던 중 사고가 ...
    Reply0 Views122 Votes0 file
    Read More
  11. 13
    Apr 2021
    01:43

    코로나19로 인해 심각해진 아시아계 혐오

      코로나19 유행이 심해지던 2020년부터 아시아계 인종 차별이 극대화되기 시작했다. 코로나19가 중국 우한에서 시작됐다는 이유로 몇몇 사람들은 아시아 사람을 혐오한다. 차별은 날이 갈수록 심해져 폭력으로 이어지고 있으며, 심지어 총격 사건도 적지 않게...
    Reply0 Views232 Votes0 file
    Read More
  12. 07
    Apr 2021
    14:22

    제주 4.3 사건

      매년 4월이 다가오면 상기되는 여러 역사적 사건, 사고가 있다. 그중 하나는 제주 4.3 사건이다. 제주 4.3 사건은 1947년으로 거슬러 올라간다. 본 사건은 제주읍 관덕정 마당에서 열린 삼일절 28돌 기념집회에서 시작되었다. ▲ 왼쪽부터 제9연대 송요찬 ...
    Reply0 Views279 Votes0 file
    Read More
  13. 30
    Mar 2021
    15:20

    추첨을 통한 여의도 벚꽃 축제

      벚꽃의 명소라고 불리는 서울 여의도 한강은 코로나19 사태로 인해 추첨을 통한 벚꽃축제를 실시했다. 여의도 석촌호수의 벚꽃축제는 작년과 마찬가지로 진행되지 않으며, 여의도 윤중로 벚꽃축제는 최소규모로 축소할 예정이다. 코로나19 대유행을 막기 위...
    Reply0 Views260 Votes0 file
    Read More
  14. 17
    Mar 2021
    21:37

    늘어나는 청년실업과 변화하는 채용 시장

    ▲니트 및 니스의 정의와 범위   ‘니스족’이라는 신조어를 들어본 적이 있는가? 니스족이란 경제활동과 교육활동, 사회활동을 모두 하지 않는 사람을 의미한다. 이는 교육이나 취업훈련을 받지 않으면서 취업을 포기한 청년층을 지칭하는 니트(Not in Educa...
    Reply0 Views303 Votes0 file
    Read More
  15. 16
    Mar 2021
    16:21

    언택트 마라톤

      오늘날 코로나19 사태로 인해 많은 활동이 취소되고 있다. 이때 운동경기도 많이 취소 또는 지연되고 있는데, 다양한 연령층이 참가하는 마라톤 활동도 포함된다. 특히 세계 4대 마라톤이라고 불리는 대회 중 하나인 보스턴 마라톤은 지난해 9월 취소되었다....
    Reply0 Views293 Votes0 file
    Read More
  16. 14
    Mar 2021
    12:42

    1980년 광주와 닮은 미얀마 쿠데타와 시민저항

      최근 미얀마에서 군부의 총탄에 의한 시위대의 사망 소식이 전해지고 있다. 미얀마 소속 군대는 2021년 2월 1일 쿠데타를 일으켰다. 미얀마 군대는 쿠데타를 일으킨 동시에 아웅산 수지 국가고문 등 미얀마 정부 내 주요 고위 인사들을 감옥에 구금시키고 1...
    Reply0 Views445 Votes0 file
    Read More
  17. 13
    Mar 2021
    18:36

    '이루다'를 통해 확인하는 AI 윤리의 필요성

    ▲MBC VR 휴먼다큐 ‘너를 만났다’   AI는 다양한 형태로 우리 앞에 선보여지고 있다. 최근에는 다양한 TV 프로그램을 통해서도 AI의 성장을 확인할 수 있다. 엠넷에서 방영된 ‘AI 프로젝트 다시 한 번’과 MBC VR 휴먼다큐 ‘너를 만났다’에서는 사별한 이...
    Reply0 Views357 Votes0 file
    Read More
  18. 09
    Mar 2021
    00:06

    AI 기술의 심각한 악용, 딥페이크

      딥페이크(Deep Fake), 즉 합성 영상이 발달되면서 사이버 성범죄가 속수무책으로 증가하였다. 최근 SBS 방송사의 프로그램인 ‘그것이 알고 싶다’에서 ‘보고, 듣고, 의심해라. 가짜와의 전쟁, 딥페이크’라는 제목으로 합성 기술에 대해 언급해 큰 관심을 받았...
    Reply1 Views404 Votes0 file
    Read More
  19. 03
    Mar 2021
    22:12

    2021년 새로운 트렌드, 레이블링 게임

      MBTI 테스트에 참여해본 경험이 있는가. 10분 남짓한 짧은 시간을 투자하면 ‘나는 어떤 사람인가’에 대한 답을 보여준다는 점에서 이 테스트는 많은 사람의 흥미를 이끌어 참여를 유도한다. 페이스북과 인스타그램, 트위터를 비롯한 다양한 SNS에서 검사 결...
    Reply0 Views860 Votes0 file
    Read More
  20. 03
    Mar 2021
    03:19

    나는 견주로소이다 ④ 미용상, 위생상 단미 올바른 선택일까

      과거에서부터 오늘날까지 태어난 지 얼마 되지 않은 어린 강아지의 꼬리를 자르는 수술은 빈번히 일어나고 있다. 현재 꼬리를 자르는 수술, 즉 단미 수술은 강아지의 의사소통에 장애를 부르는 심각한 문제라고 지적되고 있으며, 해외 애견 선진국에서는 단...
    Reply0 Views279 Votes0 file
    Read More
목록
Board Pagination ‹ Prev 1 2 3 4 5 6 7 8 9 10 ... 43 Next ›
/ 43

나눔글꼴 설치 안내


이 PC에는 나눔글꼴이 설치되어 있지 않습니다.

이 사이트를 나눔글꼴로 보기 위해서는
나눔글꼴을 설치해야 합니다.

설치 취소

Designed by sketchbooks.co.kr / sketchbook5 board skin

Sketchbook5, 스케치북5

Sketchbook5, 스케치북5

Sketchbook5, 스케치북5

Sketchbook5, 스케치북5