메뉴 건너뛰기

기획/연재

AI 기술의 심각한 악용, 딥페이크

posted Mar 09, 2021 Views 1453 Likes 0 Replies 1
?

단축키

Prev이전 문서

Next다음 문서

+ - Up Down Comment Print Files
?

단축키

Prev이전 문서

Next다음 문서

+ - Up Down Comment Print Files
  딥페이크(Deep Fake), 즉 합성 영상이 발달되면서 사이버 성범죄가 속수무책으로 증가하였다. 최근 SBS 방송사의 프로그램인 ‘그것이 알고 싶다’에서 ‘보고, 듣고, 의심해라. 가짜와의 전쟁, 딥페이크’라는 제목으로 합성 기술에 대해 언급해 큰 관심을 받았다. 방송에서 딥페이크가 언급되자 대중들 사이에서 크게 이슈화되었고, 많은 사람이 이 기술이 악용되어 범죄가 일어나고 있음을 알게 되었다.


  딥페이크란, 인공지능의 한 분야인 딥러닝(Deep learning)을 활용해 사람의 얼굴이나 특정 부위를 합성한 가짜 동영상을 만들어내는 기술을 말한다. IT 산업은 물론 다양한 산업에서 쓰이고 있는 인공지능 기술 중 하나인 딥페이크는 윤리적인 면에서 긍정적인 반응을 보이고 있다. 예를 들어, 이미 사망한 사람의 모습을 AI로 재현해 가족들을 위로하고 감동을 전할 수 있으며, 신원 보호가 필요한 사람들을 위한 안전장치가 되기도 한다. 

1.jpg
▲ 혼성 그룹 거북이 리더 故 터틀맨

  실제로 지난해 12월 케이블 음악 채널 엠넷에서는 ‘다시 한번’이라는 프로그램을 통해 혼성 그룹 거북이의 리더인 고인 터틀맨의 무대를 되살려 선보였다. 거북이의 무대를 위해 제작진은 먼저 실제 터틀맨과 비슷한 체형을 가진 모델을 선정하여 모델의 동작을 촬영했다. 이후 터틀맨의 과거 사진과 동영상 자료들을 모아 AI를 학습시켰고, 최적의 얼굴 데이터를 추출했다. 이 얼굴 데이터들을 모델의 동작과 합성하여 터틀맨의 자연스러운 모습을 구현해냈다. 이는 딥페이크의 대표적인 알고리즘인 ‘생성적 적대 신경망(GAN)’을 활용한 사례이다. 

2.png
▲ AI로 옆모습을 보이는 윤봉길 의사

  이러한 딥페이크 기술은 역사적 인물들을 살아 움직이는 것처럼 재현하기도 했다. 해당 기술로 유관순 열사와 윤봉길 의사가 고개를 돌리며 웃는 모습을 동영상으로 담아냈다. AI를 이용해 맞춤형 알고리즘으로 정지된 얼굴 사진을 자연스럽게 움직이는 얼굴 동영상으로 변환시킨 것이다. 표정 변화까지 완벽하게 구현해냈다.


  위와 같이 감동적이고 추모적인 사례들도 있지만, 딥페이크를 악용하는 범죄가 나날이 증가하고 있다. 특히 인터넷이 발전해 사이버 성범죄가 많이 발생하고 있다. 딥페이크 기술을 이용해 얼굴을 합성하여 음란물을 만들고, 판매 혹은 협박을 하는 일이 벌어졌다. 딥페이크에 의한 불법 음란물이 제작되면서 연예인과 유명인은 물론 일반인들까지 많은 사람이 피해를 보고 있다. 


  경기대학교 범죄심리학과 이수정 교수는 “연예인 등 유명인을 대상으로 한 딥페이크 음란물은 수익을 노린 공급자, 즉 기술자들이 상품을 제작, 배포하고 이를 헤비 유저(다량 이용자)들이 구매하는 구조”라며 “공급자들은 금전적 이득을, 수요자들은 성적인 만족을 취한다는 목적이 가장 일반적 형태”라고 설명했다. 다시 말해, 딥페이크 기술을 악용하여 불법 음란물 시장이 형성되었다는 의미이다. 


  또한, 이수정 교수는 일반인을 대상으로 한 불법 음란물에 대해서도 언급했다. “일반인 대상 딥페이크 범죄는 악의적, 적대적 목적을 갖고 불법 영상을 만드는 공급자들이 대다수로 보인다.”라며, 자신의 성적 만족과 재미를 충족시키기 위해 소비하는 경우도 있다고 말했다. 다른 전문가 또한 평소 싫어하던 사람을 대상으로 성적 웃음거리를 만들려는 목적을 가지고 있을 수 있다고 언급하면서 이는 조롱과 아울러 본인이 피해자보다 우월한 존재임을 확인하는 심리도 적용했을 수 있다고 설명했다.


  그뿐만 아니라, 퀄리티는 크게 중요하지 않다는 시각도 나왔다. 정교한 화면보다 만들고 유포하는 것에 의미를 두었기 때문이다. 게다가 온라인상에서 딥페이크 영상 제작 방법이 공유되면서 “무료로 합성해준다.”, “연습으로 만들어 드린다.”와 같은 게시물이 늘어나고 있다. 

3.jpg
▲ 협박 메시지

  프로그램 ‘그것이 알고 싶다’에서는 딥페이크를 악용한 범죄를 추적했다. 피해자 A씨는 SNS 메시지를 통해 낯선 이에게 자신의 성관계 영상을 받았다. 하지만 직접 촬영한 영상도 아닐뿐더러 실제 있었던 일이 아니었지만, 영상 속 인물은 자신의 얼굴을 닮아있었다. 


  이러한 협박 메시지를 받은 사람은 피해자 A씨 뿐만이 아니다. 현재에도 딥페이크를 활용한 불법 음란물이 여러 성인사이트에서 유포되고 있으며, 위와 같은 협박의 메시지를 받고 있다. 


  ‘그것이 알고 싶다’ 제작진은 전문가의 조언으로 딥페이크 기술을 활용한 범죄 실험을 진행했다. 대상은 부모와 자녀였으며, 병원에 입원한 자녀가 부모를 속여 돈을 요구하는 피싱 사기 모의실험이었다. 딥페이크 영상을 받은 부모들은 “너 아닌데.”, “비슷한데 아닌 건 알 수 있었다.”라고 의심하면서도 “혹시 모른다.”라는 불안감에 신용카드 사진을 바로 전송했다. 이 실험과 같이 딥페이크 악용 범죄는 일상생활에서 쉽게 일어날 수 있다. 자신이 언제 어디서 피해자가 될지 모르기 때문에 항상 의심해야 한다. 

4.jpeg
▲ 일러스터

  이에 경찰이 딥페이크 등 인터넷 발달로 늘어난 사이버 성범죄에 대응하기 위해 집중단속에 나섰다. 특히 딥페이크 성착취 영상물을 용돈벌이로 악용한 10대, 20대가 주로 경찰에게 붙잡히고 있다. 경찰에 잡힌 A(18), B(10대), C(20대)군이 유통한 딥페이크 사진은 총 3,309건, 성착취 영상물은 총 1만 1,373건에 달하는 것으로 밝혀졌다. 이들은 연예인과 일반인 얼굴을 합성하였고, 이를 판매하여 수익금을 얻었다고 한다. 


  사이버 성범죄 집중수사와 함께 청소년 대상 교육, 홍보 등의 활동이 다양해지고 있다. 지난해 사이버 성범죄로 검거된 가해자 30.5%, 피해자의 60.7%가 10대로 밝혀지면서 이에 대한 심각성이 부각되었다. 이들의 상당수는 불법합성물을 범죄로 인식하지 못하고 공유 및 유포한 것으로 파악되어 관련 교육이 시급한 상황이다. 

5.jpg
▲ 불법 음란물 유포 사이트

  지난해 6월부터 성폭력 처벌법이 개정되면서 사이버 성범죄에 대한 수사력이 강화되었다. 하지만 인터넷과 기술이 발전함에 따라 사이버 범죄가 더 늘어나고 있으며, 피해자가 증가하여 심각성이 고조되고 있다. 딥페이크 등과 같은 기술이 위처럼 악용되지 않도록 빠른 조치가 필요하다. 또한, 협박 메시지와 영상물을 대처할 수 있도록 피해자가 손쉽게 경찰에게 신고할 수 있게 안내해야 한다. 이러한 기술을 악용하는 것이 아닌, 도덕적인 면으로 이용하는 것은 어떨까.


2021 웹진 명함_손예진.png


이미지 출처
https://www.sedaily.com/NewsView/22HDOPL0Z9
http://news.heraldcorp.com/view.php?ud=20210303000453
https://www.hankyung.com/society/article/2021022899967
https://news.mt.co.kr/mtview.php?no=2021012114580855686
https://www.nocutnews.co.kr/news/5506252
?

  1. 13
    Mar 2021
    18:36

    '이루다'를 통해 확인하는 AI 윤리의 필요성

    ▲MBC VR 휴먼다큐 ‘너를 만났다’   AI는 다양한 형태로 우리 앞에 선보여지고 있다. 최근에는 다양한 TV 프로그램을 통해서도 AI의 성장을 확인할 수 있다. 엠넷에서 방영된 ‘AI 프로젝트 다시 한 번’과 MBC VR 휴먼다큐 ‘너를 만났다’에서는 사별한 이...
    Reply0 Views891 Votes0 file
    Read More
  2. 09
    Mar 2021
    00:06

    AI 기술의 심각한 악용, 딥페이크

      딥페이크(Deep Fake), 즉 합성 영상이 발달되면서 사이버 성범죄가 속수무책으로 증가하였다. 최근 SBS 방송사의 프로그램인 ‘그것이 알고 싶다’에서 ‘보고, 듣고, 의심해라. 가짜와의 전쟁, 딥페이크’라는 제목으로 합성 기술에 대해 언급해 큰 관심을 받았...
    Reply1 Views1453 Votes0 file
    Read More
  3. 03
    Mar 2021
    22:12

    2021년 새로운 트렌드, 레이블링 게임

      MBTI 테스트에 참여해본 경험이 있는가. 10분 남짓한 짧은 시간을 투자하면 ‘나는 어떤 사람인가’에 대한 답을 보여준다는 점에서 이 테스트는 많은 사람의 흥미를 이끌어 참여를 유도한다. 페이스북과 인스타그램, 트위터를 비롯한 다양한 SNS에서 검사 결...
    Reply0 Views2045 Votes0 file
    Read More
  4. 03
    Mar 2021
    03:19

    나는 견주로소이다 ④ 미용상, 위생상 단미 올바른 선택일까

      과거에서부터 오늘날까지 태어난 지 얼마 되지 않은 어린 강아지의 꼬리를 자르는 수술은 빈번히 일어나고 있다. 현재 꼬리를 자르는 수술, 즉 단미 수술은 강아지의 의사소통에 장애를 부르는 심각한 문제라고 지적되고 있으며, 해외 애견 선진국에서는 단...
    Reply0 Views791 Votes0 file
    Read More
  5. 23
    Feb 2021
    19:11

    나는 견주로소이다 ③ 반려견의 개춘기

      흔히 사람이 육체적, 정신적으로 어린이에서 성인으로 성장하는 제2차 성장을 ‘사춘기’ 또는 ‘질풍노도의 시기’라고 부른다. 이러한 사춘기 시절은 사람만이 아니라 다른 포유동물도 겪게 되는데, 그중 사람과 가장 가까이 지내는 동물인 강아지도 이에 포함...
    Reply0 Views839 Votes0 file
    Read More
  6. 23
    Feb 2021
    13:23

    아쿠아포닉스, 물고기로 키우는 채소

      우리가 식품을 섭취하기까지의 과정이 많은 환경파괴를 초래하고 있다는 사실을 알고 있는가. 환경파괴는 비단 육류 소비 과정에서만 발생하는 문제가 아니다. 식물 식량 재배를 위해 사용되는 비료와 농약은 복구할 수 없는 토양오염을 일으킨다.     흙...
    Reply0 Views1109 Votes0 file
    Read More
  7. 16
    Feb 2021
    15:50

    나는 견주로소이다 ② 꼬리를 쫓는 이유

      강아지가 자신의 꼬리를 쫓아 빙빙 돌거나 물고 있는 모습은 반려견을 키우는 가정에서는 흔하게 볼 수 있다. 이러한 모습을 행동전문가들은 ‘꼬리 쫓기(tail chasing)’라고 부른다. 우스꽝스러운 행동에 사람들은 보통 ‘꼬리 쫓기’가 강아지의 놀이라고 생...
    Reply0 Views869 Votes0 file
    Read More
  8. 12
    Feb 2021
    23:58

    방치된 동물들, 대구 동물원 학대 논란

      최근 대구시 한 동물원 사진이 블로그에 올라와 논란이 일고 있다. 해당 동물원은 코로나19로 인해 지난해 11월 영업을 중단했으며, 사육장 청소 등 관리를 하지 않은 것은 물론 동물들에게 물과 사료도 주지 않고 방치해 사람들에게 충격을 주었다. 휴장 이...
    Reply0 Views1068 Votes0 file
    Read More
  9. 09
    Feb 2021
    03:36

    나는 견주로소이다 ① 강아지의 편식과 공복 구토

      오늘날에는 많은 가정에서 반려견을 키우고 있다. 그래서 동물을 사랑하는 인도적 모습을 어디서나 흔하게 볼 수 있다. 한 생명의 보호자가 된 만큼 그에 대한 책임과 정성을 다하는 것이 바람직하다. 하지만 강아지와 인간은 소통의 언어가 달라 보호자는 ...
    Reply0 Views1073 Votes0 file
    Read More
  10. 05
    Feb 2021
    00:38

    ‘세계 습지의 날’에 대해 알아보자

      ‘세계 습지의 날’을 들어본 적이 있는가? 전 세계는 매년 2월 2일을 세계 습지의 날로 지정해 기념하고 있다. 1971년 2월 2일 이란 람사르에서 18개국 대표가 모여 물새 서식지로서 국제적으로 중요한 습지에 관한 협약인 ‘람사르협약’을 체결하고, 이를 기...
    Reply0 Views1354 Votes0 file
    Read More
  11. 02
    Feb 2021
    00:35

    청각장애인의 음악치료

       청각장애는 흔히들 알고 있듯이 소리를 들을 수 있는 능력이 상당히 떨어지거나 소리가 전혀 들리지 않는 상태를 말한다. 이는 한쪽 귀에서만 발생할 수도 있고, 양쪽 귀에서 발생할 수 있다. 이러한 점을 기준으로 청각장애는 5개의 등급으로 나뉜다. 조용...
    Reply0 Views1572 Votes0 file
    Read More
  12. 28
    Jan 2021
    23:54

    반려동물 코로나 감염, 알아야 할 것들

      지난 24일 국내서도 처음으로 반려동물의 코로나 19 감염이 확인되어 사람들 사이에선 불안감이 확산되고 있다. 감염된 동물은 얼마 전 집단감염이 발생한 진주 국제기도원에서 기르던 새끼 고양이로 파악됐다. 이 기도원에서는 전국적으로 100여 명이 넘는 ...
    Reply0 Views925 Votes0 file
    Read More
  13. 26
    Jan 2021
    00:58

    코로나19 시국 집에서 참여하는 봉사활동

      코로나19 확산으로 인해 여러 활동을 자제해야 하는 가운데 봉사활동 역시 참여하기 어려운 상황이다. 특히 봉사활동의 도움을 받던 취약계층은 어느 때보다 어려운 겨울을 보내고 있다. 하지만 현재 시국에서 대면 봉사활동은 건강과 위생상 감염 우려가 있...
    Reply0 Views881 Votes0 file
    Read More
  14. 22
    Jan 2021
    14:12

    드론의 발전과 활용

      드론은 예전부터 떠오르는 산업 분야 중 하나이다. 최근 제주는 드론 메카 조성에 착수하여 국내 최첨단, 친환경 스마트시티를 만드는 프로젝트를 진행했다. ▲제주 드론 고도화 방안   이 프로젝트는 크게 해양오염 방지와 강력 범죄 억제, 드론을 통...
    Reply0 Views1070 Votes0 file
    Read More
  15. 22
    Jan 2021
    00:28

    가치 있는 컨셔스(Conscious) 소비

      컨셔스(Conscious) 소비에 대해 들어본 적이 있는가? 식품, 패션계 등에서 컨셔스 소비가 주목받고 있다. 컨셔스 소비란 단순히 브랜드 제품 및 서비스를 소비하는 것이 아니라 브랜드 철학과 가치관을 고려해 ‘의식있는 소비’를 하는 것을 뜻한다   코로...
    Reply0 Views1286 Votes0 file
    Read More
  16. 20
    Jan 2021
    16:35

    독도, 수중 보물 창고

      경상북도 울릉도 동남쪽으로 87.4km 떨어진 곳에 위치한 독도는 한반도에서 가장 오래된 화산섬이다. 울릉도에서 날씨가 맑은 날엔 독도가 보일 정도로 비교적 가깝기 때문에 삼국시대 때부터 독도는 울릉도에 부속된 섬으로 인식되어져 왔다. 하지만 대한민...
    Reply0 Views889 Votes0 file
    Read More
  17. 20
    Jan 2021
    16:28

    정인이 사건의 정인이법 국회 통과

      최근 SBS 방송사 ‘그것이 알고 싶다’라는 프로그램에서 정인이라는 여아가 양부모에게 아동학대를 당한 이야기를 다루었다. 입양된 정인이는 양부모에게 가혹한 아동학대를 당하다 결국 지난해 10월 13일 복부 손상으로 사망에 이르렀다. 부검 결과 정인이의...
    Reply0 Views1038 Votes0 file
    Read More
  18. 15
    Jan 2021
    23:59

    코로나 19와 음압 병동

      코로나 19로 인한 혼란이 계속되는 요즘 한국과학기술원(카이스트)은 7일 남택진 산업디자인학과 교수 연구팀이 고급 의료 설비를 갖춘 음압 격리 시설로 신속하게 변형하거나 개조해 사용할 수 있는 중증환자용 ‘이동형 음압 병동(Mobile Clinic Module, 이...
    Reply0 Views1159 Votes0 file
    Read More
  19. 15
    Jan 2021
    20:29

    갈 곳 없는 학대 피해 장애아동

      한국장애인개발원의 장애아동 학대 실태분석 및 지원방안 연구에 따르면 2012년 전체아동 중 등록 장애아동은 0.8%을 나타냈다. 이에 비해 장애아동 피해 사례는 4.0%로 높은 비율을 보인다. 하지만 학대받은 장애아동을 전담할 수 있는 시설이 부족해 어려...
    Reply0 Views1025 Votes0 file
    Read More
  20. 08
    Jan 2021
    15:30

    코로나 19의 백신 확보 현황 및 종류와 부작용

      보건복지부는 지난 12월 18일(금)에 코로나 19 백신 관련 현황에 대한 자료를 올렸다. 자료에 따르면, 2020년 7월부터 선구매 협상을 추진해왔고, 4,400만 명분의 백신을 확보했다고 한다.  ▲기업별 공급 가능 조건 및 물량   보건복지부에 따르면 ...
    Reply0 Views1518 Votes0 file
    Read More
목록
Board Pagination ‹ Prev 1 2 3 4 5 6 7 8 9 10 ... 46 Next ›
/ 46

나눔글꼴 설치 안내


이 PC에는 나눔글꼴이 설치되어 있지 않습니다.

이 사이트를 나눔글꼴로 보기 위해서는
나눔글꼴을 설치해야 합니다.

설치 취소

Designed by sketchbooks.co.kr / sketchbook5 board skin

Sketchbook5, 스케치북5

Sketchbook5, 스케치북5

Sketchbook5, 스케치북5

Sketchbook5, 스케치북5