메뉴 건너뛰기

기획/연재

'이루다'를 통해 확인하는 AI 윤리의 필요성

posted Mar 13, 2021 Views 1651 Likes 0 Replies 0
?

단축키

Prev이전 문서

Next다음 문서

+ - Up Down Comment Print Files
?

단축키

Prev이전 문서

Next다음 문서

+ - Up Down Comment Print Files
11.jpg

MBC VR 휴먼다큐 너를 만났다


  AI는 다양한 형태로 우리 앞에 선보여지고 있다. 최근에는 다양한 TV 프로그램을 통해서도 AI의 성장을 확인할 수 있다. 엠넷에서 방영된 ‘AI 프로젝트 다시 한 번MBC VR 휴먼다큐 너를 만났다에서는 사별한 이들의 생전 모습을 재연해내며 사람들에게 감동을 주었다. 또한, SBS '세기의 대결! AI vs 인간을 통해 인간에게도 맞설 법한 AI의 다양한 분야에서의 성장세를 보여주며 놀라움을 안겨주기도 했다.


22.jpg

인공지능 스타트업 스캐터랩에서 출시한 AI 챗봇 이루다


  최근에는 AI 챗봇인 이루다가 등장하며 큰 이슈를 낳았다. 이루다는 AI 전문 스타트업 기업인 스캐터랩에서 작년 1223일 출시한 인공지능 챗봇이다. 딥러닝 알고리즘 기능을 통한 100억 건 이상의 많은 양의 카카오톡 대화 데이터가 학습되어 있어 놀라울 정도로 자연스러운 대화를 구현해낸다. 20세 대학생 여성의 친근한 컨셉으로 출시된 이루다는 출시 한 달 만인 올해 1월 사용자 수 40만 명을 돌파하며 Z세대에게 엄청난 인기를 끌었다.


33.png

이루다공식 홈페이지의 서비스 중단 공지


  그러나 스케터랩은 이루다 운영 3주 만에 잠정 중단 결정을 내렸다. 데이터 수집 과정에서의 심각한 개인정보 유출 문제와 소수집단에 대한 차별발언, 성희롱 문제가 발생했기 때문이다. 이루다의 자연스러운 대화 구현의 배경인 카카오톡 대화 데이터는 어플 연애의 과학에서 수집된 것인데, 이 데이터 수집 과정에서 대화 내용의 사용에 대한 적절한 안내가 없었던 것으로 알려지며 개인정보 유출 문제를 낳았다. 또한, 이루다는 공공연하게 이루어진 성차별과 혐오 표현과 같은 사회의 비윤리적 행태까지 학습한 점에서 이용자들에게 강한 비판을 받으며 잠정 중단의 결론을 내렸다.


  스케터랩은 이루다 서비스의 잠정 중단 직후 게시한 공식 입장문을 통해 이루다의 차별적 발언 사례에 대해 사과드린다.”라며 이루다의 차별적 발언에 대해 동의하지 않으며, 회사의 의견을 반영하고 있지 않다.”고 공식적인 입장을 밝혔다. 이어 향후 데이터 사용 동의 절차를 명확하게 하고 식별이 불가능한 정보라도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘 개선을 통해 보완하겠다.”고 말했다.


  김재인 경희대 비교문화연구소 교수는 이루다 사건을 두고 알파고-이세돌 9단의 대결 이후 한국 사회에서 가장 중요한 사건이었다.”라며 알파고는 인공지능이 어떤 능력과 힘을 가졌는지 충격적으로 일깨워준 사건이었다면, 이루다는 인공지능 기술이 인간의 굉장히 깊숙한 영역까지 들어왔고 그만큼 이롭거나 해로울 수 있는 윤리적이고 사회적인 기술이라는 점을 깨닫는 계기가 됐다.”라고 말했다.


  이루다 사건을 통해 AI 윤리 기준 및 점검사항의 구체화가 필요하다는 의견이 각계에서 제시되고 있다. 변순용 서울교육대학교 교수는 미국, 핀란드, 호주의 경우 AI 윤리를 고려하는 다양한 학교교육을 시행하고 있는 반면에 우리나라는 각종 신기술 체험 교육과정으로만 이루어져 있다는 점을 지적하며, AI 전문가나 개발자가 아닌 국민 모두를 위한 AI 교육이 필요하다고 강조했다.


44.jpg

온라인 간담회를 진행하는 IBM 세뜨 도브린 박사


  또한, IBM 최고데이터책임자로서 AI·클라우드 전환 비즈니스를 총괄하는 세뜨 도브린 박사는 화상 미디어 브리핑을 통해 AI 윤리 문제를 해소할 수 있는 방법론에 대해 "인공지능(AI)을 알고리즘 모델로만 국한해서 볼 게 아니라 전체적인 구조를 봐야 한다. 모델 관리 체계와 모델을 제어하는 방법, 학습 데이터에 대한 보안 문제 등 총체적인 관점에서 AI를 살펴야 한다. AI가 무엇을 하는지 이해하고, 문제없는 과정을 거쳐 결과를 도출하는지 항상 모니터링 할 수 있어야 한다."라고 설명했다.


55.png

IBM 제공의 ‘AI 거버넌스 역량


  도브린 박사는 신뢰성을 향상시킬 수 있는 조건으로 세 가지의 'AI 거버넌스 역량'을 제시했다. 이는 AI의 시장 출시 후의 투명성과 신뢰성을 확보하기 위한 역량을 의미한다.


  AI 거버넌스 역량의 첫 번째로 모델 이해 역량이 있다. 이 역량을 위해서 AI 메타 데이터를 자동으로 캡처하여 항상 데이터 추적을 가능하게 해 투명성을 제고하는 것이다. 또한, AI가 새롭게 학습하는 것에 대해 문서를 통한 관리가 필요하다고 말한다. 두 번째는 모델의 신뢰성 확보 역량이다. 여기서 세뜨 도브린 박사는 AI를 사용하는 기업에서 적절한 규제와 정책을 세울 필요성에 대해 언급했다. 마지막으로 모델 사용 역량을 통해 AI가 학습할 편견이나 편향을 감시하고 관리할 수 있어야 함을 주장한다.


  AI는 인간의 친구가 될 수 있을까. 최근 논란이 불거지며 비판의 대상이 된 인공지능 챗봇 이루다가 우리에게 남긴 질문이다. AI와 인간의 공존을 위해서는 AI 기술에 대한 적절한 이해와 학습, AI 윤리 규범 정립에 관한 우리의 지속적인 관심과 노력이 필요해 보인다



다운로드.png


사진출처

http://www.pdjournal.com/news/articleView.html?idxno=72201

http://www.ildaro.com/8973

https://luda.ai/

https://www.etnews.com/20210223000135

https://zdnet.co.kr/view/?no=20210223132121


?

  1. 30
    Mar 2021
    15:20

    추첨을 통한 여의도 벚꽃 축제

      벚꽃의 명소라고 불리는 서울 여의도 한강은 코로나19 사태로 인해 추첨을 통한 벚꽃축제를 실시했다. 여의도 석촌호수의 벚꽃축제는 작년과 마찬가지로 진행되지 않으며, 여의도 윤중로 벚꽃축제는 최소규모로 축소할 예정이다. 코로나19 대유행을 막기 위...
    Reply0 Views1290 Votes0 file
    Read More
  2. 17
    Mar 2021
    21:37

    늘어나는 청년실업과 변화하는 채용 시장

    ▲니트 및 니스의 정의와 범위   ‘니스족’이라는 신조어를 들어본 적이 있는가? 니스족이란 경제활동과 교육활동, 사회활동을 모두 하지 않는 사람을 의미한다. 이는 교육이나 취업훈련을 받지 않으면서 취업을 포기한 청년층을 지칭하는 니트(Not in Educa...
    Reply0 Views1642 Votes0 file
    Read More
  3. 16
    Mar 2021
    16:21

    언택트 마라톤

      오늘날 코로나19 사태로 인해 많은 활동이 취소되고 있다. 이때 운동경기도 많이 취소 또는 지연되고 있는데, 다양한 연령층이 참가하는 마라톤 활동도 포함된다. 특히 세계 4대 마라톤이라고 불리는 대회 중 하나인 보스턴 마라톤은 지난해 9월 취소되었다....
    Reply0 Views1543 Votes0 file
    Read More
  4. 14
    Mar 2021
    12:42

    1980년 광주와 닮은 미얀마 쿠데타와 시민저항

      최근 미얀마에서 군부의 총탄에 의한 시위대의 사망 소식이 전해지고 있다. 미얀마 소속 군대는 2021년 2월 1일 쿠데타를 일으켰다. 미얀마 군대는 쿠데타를 일으킨 동시에 아웅산 수지 국가고문 등 미얀마 정부 내 주요 고위 인사들을 감옥에 구금시키고 1...
    Reply0 Views1878 Votes0 file
    Read More
  5. 13
    Mar 2021
    18:36

    '이루다'를 통해 확인하는 AI 윤리의 필요성

    ▲MBC VR 휴먼다큐 ‘너를 만났다’   AI는 다양한 형태로 우리 앞에 선보여지고 있다. 최근에는 다양한 TV 프로그램을 통해서도 AI의 성장을 확인할 수 있다. 엠넷에서 방영된 ‘AI 프로젝트 다시 한 번’과 MBC VR 휴먼다큐 ‘너를 만났다’에서는 사별한 이...
    Reply0 Views1651 Votes0 file
    Read More
  6. 09
    Mar 2021
    00:06

    AI 기술의 심각한 악용, 딥페이크

      딥페이크(Deep Fake), 즉 합성 영상이 발달되면서 사이버 성범죄가 속수무책으로 증가하였다. 최근 SBS 방송사의 프로그램인 ‘그것이 알고 싶다’에서 ‘보고, 듣고, 의심해라. 가짜와의 전쟁, 딥페이크’라는 제목으로 합성 기술에 대해 언급해 큰 관심을 받았...
    Reply1 Views2841 Votes0 file
    Read More
  7. 03
    Mar 2021
    22:12

    2021년 새로운 트렌드, 레이블링 게임

      MBTI 테스트에 참여해본 경험이 있는가. 10분 남짓한 짧은 시간을 투자하면 ‘나는 어떤 사람인가’에 대한 답을 보여준다는 점에서 이 테스트는 많은 사람의 흥미를 이끌어 참여를 유도한다. 페이스북과 인스타그램, 트위터를 비롯한 다양한 SNS에서 검사 결...
    Reply0 Views3359 Votes0 file
    Read More
  8. 03
    Mar 2021
    03:19

    나는 견주로소이다 ④ 미용상, 위생상 단미 올바른 선택일까

      과거에서부터 오늘날까지 태어난 지 얼마 되지 않은 어린 강아지의 꼬리를 자르는 수술은 빈번히 일어나고 있다. 현재 꼬리를 자르는 수술, 즉 단미 수술은 강아지의 의사소통에 장애를 부르는 심각한 문제라고 지적되고 있으며, 해외 애견 선진국에서는 단...
    Reply0 Views1527 Votes0 file
    Read More
  9. 23
    Feb 2021
    19:11

    나는 견주로소이다 ③ 반려견의 개춘기

      흔히 사람이 육체적, 정신적으로 어린이에서 성인으로 성장하는 제2차 성장을 ‘사춘기’ 또는 ‘질풍노도의 시기’라고 부른다. 이러한 사춘기 시절은 사람만이 아니라 다른 포유동물도 겪게 되는데, 그중 사람과 가장 가까이 지내는 동물인 강아지도 이에 포함...
    Reply0 Views1722 Votes0 file
    Read More
  10. 23
    Feb 2021
    13:23

    아쿠아포닉스, 물고기로 키우는 채소

      우리가 식품을 섭취하기까지의 과정이 많은 환경파괴를 초래하고 있다는 사실을 알고 있는가. 환경파괴는 비단 육류 소비 과정에서만 발생하는 문제가 아니다. 식물 식량 재배를 위해 사용되는 비료와 농약은 복구할 수 없는 토양오염을 일으킨다.     흙...
    Reply0 Views1814 Votes0 file
    Read More
  11. 16
    Feb 2021
    15:50

    나는 견주로소이다 ② 꼬리를 쫓는 이유

      강아지가 자신의 꼬리를 쫓아 빙빙 돌거나 물고 있는 모습은 반려견을 키우는 가정에서는 흔하게 볼 수 있다. 이러한 모습을 행동전문가들은 ‘꼬리 쫓기(tail chasing)’라고 부른다. 우스꽝스러운 행동에 사람들은 보통 ‘꼬리 쫓기’가 강아지의 놀이라고 생...
    Reply0 Views1682 Votes0 file
    Read More
  12. 12
    Feb 2021
    23:58

    방치된 동물들, 대구 동물원 학대 논란

      최근 대구시 한 동물원 사진이 블로그에 올라와 논란이 일고 있다. 해당 동물원은 코로나19로 인해 지난해 11월 영업을 중단했으며, 사육장 청소 등 관리를 하지 않은 것은 물론 동물들에게 물과 사료도 주지 않고 방치해 사람들에게 충격을 주었다. 휴장 이...
    Reply0 Views1825 Votes0 file
    Read More
  13. 09
    Feb 2021
    03:36

    나는 견주로소이다 ① 강아지의 편식과 공복 구토

      오늘날에는 많은 가정에서 반려견을 키우고 있다. 그래서 동물을 사랑하는 인도적 모습을 어디서나 흔하게 볼 수 있다. 한 생명의 보호자가 된 만큼 그에 대한 책임과 정성을 다하는 것이 바람직하다. 하지만 강아지와 인간은 소통의 언어가 달라 보호자는 ...
    Reply0 Views2037 Votes0 file
    Read More
  14. 05
    Feb 2021
    00:38

    ‘세계 습지의 날’에 대해 알아보자

      ‘세계 습지의 날’을 들어본 적이 있는가? 전 세계는 매년 2월 2일을 세계 습지의 날로 지정해 기념하고 있다. 1971년 2월 2일 이란 람사르에서 18개국 대표가 모여 물새 서식지로서 국제적으로 중요한 습지에 관한 협약인 ‘람사르협약’을 체결하고, 이를 기...
    Reply0 Views2476 Votes0 file
    Read More
  15. 02
    Feb 2021
    00:35

    청각장애인의 음악치료

       청각장애는 흔히들 알고 있듯이 소리를 들을 수 있는 능력이 상당히 떨어지거나 소리가 전혀 들리지 않는 상태를 말한다. 이는 한쪽 귀에서만 발생할 수도 있고, 양쪽 귀에서 발생할 수 있다. 이러한 점을 기준으로 청각장애는 5개의 등급으로 나뉜다. 조용...
    Reply0 Views2637 Votes0 file
    Read More
  16. 28
    Jan 2021
    23:54

    반려동물 코로나 감염, 알아야 할 것들

      지난 24일 국내서도 처음으로 반려동물의 코로나 19 감염이 확인되어 사람들 사이에선 불안감이 확산되고 있다. 감염된 동물은 얼마 전 집단감염이 발생한 진주 국제기도원에서 기르던 새끼 고양이로 파악됐다. 이 기도원에서는 전국적으로 100여 명이 넘는 ...
    Reply0 Views1583 Votes0 file
    Read More
  17. 26
    Jan 2021
    00:58

    코로나19 시국 집에서 참여하는 봉사활동

      코로나19 확산으로 인해 여러 활동을 자제해야 하는 가운데 봉사활동 역시 참여하기 어려운 상황이다. 특히 봉사활동의 도움을 받던 취약계층은 어느 때보다 어려운 겨울을 보내고 있다. 하지만 현재 시국에서 대면 봉사활동은 건강과 위생상 감염 우려가 있...
    Reply0 Views1559 Votes0 file
    Read More
  18. 22
    Jan 2021
    14:12

    드론의 발전과 활용

      드론은 예전부터 떠오르는 산업 분야 중 하나이다. 최근 제주는 드론 메카 조성에 착수하여 국내 최첨단, 친환경 스마트시티를 만드는 프로젝트를 진행했다. ▲제주 드론 고도화 방안   이 프로젝트는 크게 해양오염 방지와 강력 범죄 억제, 드론을 통...
    Reply0 Views1836 Votes0 file
    Read More
  19. 22
    Jan 2021
    00:28

    가치 있는 컨셔스(Conscious) 소비

      컨셔스(Conscious) 소비에 대해 들어본 적이 있는가? 식품, 패션계 등에서 컨셔스 소비가 주목받고 있다. 컨셔스 소비란 단순히 브랜드 제품 및 서비스를 소비하는 것이 아니라 브랜드 철학과 가치관을 고려해 ‘의식있는 소비’를 하는 것을 뜻한다   코로...
    Reply0 Views2095 Votes0 file
    Read More
  20. 20
    Jan 2021
    16:35

    독도, 수중 보물 창고

      경상북도 울릉도 동남쪽으로 87.4km 떨어진 곳에 위치한 독도는 한반도에서 가장 오래된 화산섬이다. 울릉도에서 날씨가 맑은 날엔 독도가 보일 정도로 비교적 가깝기 때문에 삼국시대 때부터 독도는 울릉도에 부속된 섬으로 인식되어져 왔다. 하지만 대한민...
    Reply0 Views1544 Votes0 file
    Read More
목록
Board Pagination ‹ Prev 1 ... 5 6 7 8 9 10 11 12 13 14 ... 50 Next ›
/ 50

나눔글꼴 설치 안내


이 PC에는 나눔글꼴이 설치되어 있지 않습니다.

이 사이트를 나눔글꼴로 보기 위해서는
나눔글꼴을 설치해야 합니다.

설치 취소

Designed by sketchbooks.co.kr / sketchbook5 board skin

Sketchbook5, 스케치북5

Sketchbook5, 스케치북5

Sketchbook5, 스케치북5

Sketchbook5, 스케치북5