메뉴 건너뛰기

기획/연재

'이루다'를 통해 확인하는 AI 윤리의 필요성

posted Mar 13, 2021 Views 892 Likes 0 Replies 0
?

단축키

Prev이전 문서

Next다음 문서

+ - Up Down Comment Print Files
?

단축키

Prev이전 문서

Next다음 문서

+ - Up Down Comment Print Files
11.jpg

MBC VR 휴먼다큐 너를 만났다


  AI는 다양한 형태로 우리 앞에 선보여지고 있다. 최근에는 다양한 TV 프로그램을 통해서도 AI의 성장을 확인할 수 있다. 엠넷에서 방영된 ‘AI 프로젝트 다시 한 번MBC VR 휴먼다큐 너를 만났다에서는 사별한 이들의 생전 모습을 재연해내며 사람들에게 감동을 주었다. 또한, SBS '세기의 대결! AI vs 인간을 통해 인간에게도 맞설 법한 AI의 다양한 분야에서의 성장세를 보여주며 놀라움을 안겨주기도 했다.


22.jpg

인공지능 스타트업 스캐터랩에서 출시한 AI 챗봇 이루다


  최근에는 AI 챗봇인 이루다가 등장하며 큰 이슈를 낳았다. 이루다는 AI 전문 스타트업 기업인 스캐터랩에서 작년 1223일 출시한 인공지능 챗봇이다. 딥러닝 알고리즘 기능을 통한 100억 건 이상의 많은 양의 카카오톡 대화 데이터가 학습되어 있어 놀라울 정도로 자연스러운 대화를 구현해낸다. 20세 대학생 여성의 친근한 컨셉으로 출시된 이루다는 출시 한 달 만인 올해 1월 사용자 수 40만 명을 돌파하며 Z세대에게 엄청난 인기를 끌었다.


33.png

이루다공식 홈페이지의 서비스 중단 공지


  그러나 스케터랩은 이루다 운영 3주 만에 잠정 중단 결정을 내렸다. 데이터 수집 과정에서의 심각한 개인정보 유출 문제와 소수집단에 대한 차별발언, 성희롱 문제가 발생했기 때문이다. 이루다의 자연스러운 대화 구현의 배경인 카카오톡 대화 데이터는 어플 연애의 과학에서 수집된 것인데, 이 데이터 수집 과정에서 대화 내용의 사용에 대한 적절한 안내가 없었던 것으로 알려지며 개인정보 유출 문제를 낳았다. 또한, 이루다는 공공연하게 이루어진 성차별과 혐오 표현과 같은 사회의 비윤리적 행태까지 학습한 점에서 이용자들에게 강한 비판을 받으며 잠정 중단의 결론을 내렸다.


  스케터랩은 이루다 서비스의 잠정 중단 직후 게시한 공식 입장문을 통해 이루다의 차별적 발언 사례에 대해 사과드린다.”라며 이루다의 차별적 발언에 대해 동의하지 않으며, 회사의 의견을 반영하고 있지 않다.”고 공식적인 입장을 밝혔다. 이어 향후 데이터 사용 동의 절차를 명확하게 하고 식별이 불가능한 정보라도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘 개선을 통해 보완하겠다.”고 말했다.


  김재인 경희대 비교문화연구소 교수는 이루다 사건을 두고 알파고-이세돌 9단의 대결 이후 한국 사회에서 가장 중요한 사건이었다.”라며 알파고는 인공지능이 어떤 능력과 힘을 가졌는지 충격적으로 일깨워준 사건이었다면, 이루다는 인공지능 기술이 인간의 굉장히 깊숙한 영역까지 들어왔고 그만큼 이롭거나 해로울 수 있는 윤리적이고 사회적인 기술이라는 점을 깨닫는 계기가 됐다.”라고 말했다.


  이루다 사건을 통해 AI 윤리 기준 및 점검사항의 구체화가 필요하다는 의견이 각계에서 제시되고 있다. 변순용 서울교육대학교 교수는 미국, 핀란드, 호주의 경우 AI 윤리를 고려하는 다양한 학교교육을 시행하고 있는 반면에 우리나라는 각종 신기술 체험 교육과정으로만 이루어져 있다는 점을 지적하며, AI 전문가나 개발자가 아닌 국민 모두를 위한 AI 교육이 필요하다고 강조했다.


44.jpg

온라인 간담회를 진행하는 IBM 세뜨 도브린 박사


  또한, IBM 최고데이터책임자로서 AI·클라우드 전환 비즈니스를 총괄하는 세뜨 도브린 박사는 화상 미디어 브리핑을 통해 AI 윤리 문제를 해소할 수 있는 방법론에 대해 "인공지능(AI)을 알고리즘 모델로만 국한해서 볼 게 아니라 전체적인 구조를 봐야 한다. 모델 관리 체계와 모델을 제어하는 방법, 학습 데이터에 대한 보안 문제 등 총체적인 관점에서 AI를 살펴야 한다. AI가 무엇을 하는지 이해하고, 문제없는 과정을 거쳐 결과를 도출하는지 항상 모니터링 할 수 있어야 한다."라고 설명했다.


55.png

IBM 제공의 ‘AI 거버넌스 역량


  도브린 박사는 신뢰성을 향상시킬 수 있는 조건으로 세 가지의 'AI 거버넌스 역량'을 제시했다. 이는 AI의 시장 출시 후의 투명성과 신뢰성을 확보하기 위한 역량을 의미한다.


  AI 거버넌스 역량의 첫 번째로 모델 이해 역량이 있다. 이 역량을 위해서 AI 메타 데이터를 자동으로 캡처하여 항상 데이터 추적을 가능하게 해 투명성을 제고하는 것이다. 또한, AI가 새롭게 학습하는 것에 대해 문서를 통한 관리가 필요하다고 말한다. 두 번째는 모델의 신뢰성 확보 역량이다. 여기서 세뜨 도브린 박사는 AI를 사용하는 기업에서 적절한 규제와 정책을 세울 필요성에 대해 언급했다. 마지막으로 모델 사용 역량을 통해 AI가 학습할 편견이나 편향을 감시하고 관리할 수 있어야 함을 주장한다.


  AI는 인간의 친구가 될 수 있을까. 최근 논란이 불거지며 비판의 대상이 된 인공지능 챗봇 이루다가 우리에게 남긴 질문이다. AI와 인간의 공존을 위해서는 AI 기술에 대한 적절한 이해와 학습, AI 윤리 규범 정립에 관한 우리의 지속적인 관심과 노력이 필요해 보인다



다운로드.png


사진출처

http://www.pdjournal.com/news/articleView.html?idxno=72201

http://www.ildaro.com/8973

https://luda.ai/

https://www.etnews.com/20210223000135

https://zdnet.co.kr/view/?no=20210223132121


?

  1. 13
    Mar 2021
    18:36

    '이루다'를 통해 확인하는 AI 윤리의 필요성

    ▲MBC VR 휴먼다큐 ‘너를 만났다’   AI는 다양한 형태로 우리 앞에 선보여지고 있다. 최근에는 다양한 TV 프로그램을 통해서도 AI의 성장을 확인할 수 있다. 엠넷에서 방영된 ‘AI 프로젝트 다시 한 번’과 MBC VR 휴먼다큐 ‘너를 만났다’에서는 사별한 이...
    Reply0 Views892 Votes0 file
    Read More
  2. 09
    Mar 2021
    00:06

    AI 기술의 심각한 악용, 딥페이크

      딥페이크(Deep Fake), 즉 합성 영상이 발달되면서 사이버 성범죄가 속수무책으로 증가하였다. 최근 SBS 방송사의 프로그램인 ‘그것이 알고 싶다’에서 ‘보고, 듣고, 의심해라. 가짜와의 전쟁, 딥페이크’라는 제목으로 합성 기술에 대해 언급해 큰 관심을 받았...
    Reply1 Views1453 Votes0 file
    Read More
  3. 03
    Mar 2021
    22:12

    2021년 새로운 트렌드, 레이블링 게임

      MBTI 테스트에 참여해본 경험이 있는가. 10분 남짓한 짧은 시간을 투자하면 ‘나는 어떤 사람인가’에 대한 답을 보여준다는 점에서 이 테스트는 많은 사람의 흥미를 이끌어 참여를 유도한다. 페이스북과 인스타그램, 트위터를 비롯한 다양한 SNS에서 검사 결...
    Reply0 Views2045 Votes0 file
    Read More
  4. 03
    Mar 2021
    03:19

    나는 견주로소이다 ④ 미용상, 위생상 단미 올바른 선택일까

      과거에서부터 오늘날까지 태어난 지 얼마 되지 않은 어린 강아지의 꼬리를 자르는 수술은 빈번히 일어나고 있다. 현재 꼬리를 자르는 수술, 즉 단미 수술은 강아지의 의사소통에 장애를 부르는 심각한 문제라고 지적되고 있으며, 해외 애견 선진국에서는 단...
    Reply0 Views791 Votes0 file
    Read More
  5. 23
    Feb 2021
    19:11

    나는 견주로소이다 ③ 반려견의 개춘기

      흔히 사람이 육체적, 정신적으로 어린이에서 성인으로 성장하는 제2차 성장을 ‘사춘기’ 또는 ‘질풍노도의 시기’라고 부른다. 이러한 사춘기 시절은 사람만이 아니라 다른 포유동물도 겪게 되는데, 그중 사람과 가장 가까이 지내는 동물인 강아지도 이에 포함...
    Reply0 Views839 Votes0 file
    Read More
  6. 23
    Feb 2021
    13:23

    아쿠아포닉스, 물고기로 키우는 채소

      우리가 식품을 섭취하기까지의 과정이 많은 환경파괴를 초래하고 있다는 사실을 알고 있는가. 환경파괴는 비단 육류 소비 과정에서만 발생하는 문제가 아니다. 식물 식량 재배를 위해 사용되는 비료와 농약은 복구할 수 없는 토양오염을 일으킨다.     흙...
    Reply0 Views1109 Votes0 file
    Read More
  7. 16
    Feb 2021
    15:50

    나는 견주로소이다 ② 꼬리를 쫓는 이유

      강아지가 자신의 꼬리를 쫓아 빙빙 돌거나 물고 있는 모습은 반려견을 키우는 가정에서는 흔하게 볼 수 있다. 이러한 모습을 행동전문가들은 ‘꼬리 쫓기(tail chasing)’라고 부른다. 우스꽝스러운 행동에 사람들은 보통 ‘꼬리 쫓기’가 강아지의 놀이라고 생...
    Reply0 Views869 Votes0 file
    Read More
  8. 12
    Feb 2021
    23:58

    방치된 동물들, 대구 동물원 학대 논란

      최근 대구시 한 동물원 사진이 블로그에 올라와 논란이 일고 있다. 해당 동물원은 코로나19로 인해 지난해 11월 영업을 중단했으며, 사육장 청소 등 관리를 하지 않은 것은 물론 동물들에게 물과 사료도 주지 않고 방치해 사람들에게 충격을 주었다. 휴장 이...
    Reply0 Views1068 Votes0 file
    Read More
  9. 09
    Feb 2021
    03:36

    나는 견주로소이다 ① 강아지의 편식과 공복 구토

      오늘날에는 많은 가정에서 반려견을 키우고 있다. 그래서 동물을 사랑하는 인도적 모습을 어디서나 흔하게 볼 수 있다. 한 생명의 보호자가 된 만큼 그에 대한 책임과 정성을 다하는 것이 바람직하다. 하지만 강아지와 인간은 소통의 언어가 달라 보호자는 ...
    Reply0 Views1073 Votes0 file
    Read More
  10. 05
    Feb 2021
    00:38

    ‘세계 습지의 날’에 대해 알아보자

      ‘세계 습지의 날’을 들어본 적이 있는가? 전 세계는 매년 2월 2일을 세계 습지의 날로 지정해 기념하고 있다. 1971년 2월 2일 이란 람사르에서 18개국 대표가 모여 물새 서식지로서 국제적으로 중요한 습지에 관한 협약인 ‘람사르협약’을 체결하고, 이를 기...
    Reply0 Views1354 Votes0 file
    Read More
  11. 02
    Feb 2021
    00:35

    청각장애인의 음악치료

       청각장애는 흔히들 알고 있듯이 소리를 들을 수 있는 능력이 상당히 떨어지거나 소리가 전혀 들리지 않는 상태를 말한다. 이는 한쪽 귀에서만 발생할 수도 있고, 양쪽 귀에서 발생할 수 있다. 이러한 점을 기준으로 청각장애는 5개의 등급으로 나뉜다. 조용...
    Reply0 Views1572 Votes0 file
    Read More
  12. 28
    Jan 2021
    23:54

    반려동물 코로나 감염, 알아야 할 것들

      지난 24일 국내서도 처음으로 반려동물의 코로나 19 감염이 확인되어 사람들 사이에선 불안감이 확산되고 있다. 감염된 동물은 얼마 전 집단감염이 발생한 진주 국제기도원에서 기르던 새끼 고양이로 파악됐다. 이 기도원에서는 전국적으로 100여 명이 넘는 ...
    Reply0 Views925 Votes0 file
    Read More
  13. 26
    Jan 2021
    00:58

    코로나19 시국 집에서 참여하는 봉사활동

      코로나19 확산으로 인해 여러 활동을 자제해야 하는 가운데 봉사활동 역시 참여하기 어려운 상황이다. 특히 봉사활동의 도움을 받던 취약계층은 어느 때보다 어려운 겨울을 보내고 있다. 하지만 현재 시국에서 대면 봉사활동은 건강과 위생상 감염 우려가 있...
    Reply0 Views881 Votes0 file
    Read More
  14. 22
    Jan 2021
    14:12

    드론의 발전과 활용

      드론은 예전부터 떠오르는 산업 분야 중 하나이다. 최근 제주는 드론 메카 조성에 착수하여 국내 최첨단, 친환경 스마트시티를 만드는 프로젝트를 진행했다. ▲제주 드론 고도화 방안   이 프로젝트는 크게 해양오염 방지와 강력 범죄 억제, 드론을 통...
    Reply0 Views1070 Votes0 file
    Read More
  15. 22
    Jan 2021
    00:28

    가치 있는 컨셔스(Conscious) 소비

      컨셔스(Conscious) 소비에 대해 들어본 적이 있는가? 식품, 패션계 등에서 컨셔스 소비가 주목받고 있다. 컨셔스 소비란 단순히 브랜드 제품 및 서비스를 소비하는 것이 아니라 브랜드 철학과 가치관을 고려해 ‘의식있는 소비’를 하는 것을 뜻한다   코로...
    Reply0 Views1286 Votes0 file
    Read More
  16. 20
    Jan 2021
    16:35

    독도, 수중 보물 창고

      경상북도 울릉도 동남쪽으로 87.4km 떨어진 곳에 위치한 독도는 한반도에서 가장 오래된 화산섬이다. 울릉도에서 날씨가 맑은 날엔 독도가 보일 정도로 비교적 가깝기 때문에 삼국시대 때부터 독도는 울릉도에 부속된 섬으로 인식되어져 왔다. 하지만 대한민...
    Reply0 Views889 Votes0 file
    Read More
  17. 20
    Jan 2021
    16:28

    정인이 사건의 정인이법 국회 통과

      최근 SBS 방송사 ‘그것이 알고 싶다’라는 프로그램에서 정인이라는 여아가 양부모에게 아동학대를 당한 이야기를 다루었다. 입양된 정인이는 양부모에게 가혹한 아동학대를 당하다 결국 지난해 10월 13일 복부 손상으로 사망에 이르렀다. 부검 결과 정인이의...
    Reply0 Views1038 Votes0 file
    Read More
  18. 15
    Jan 2021
    23:59

    코로나 19와 음압 병동

      코로나 19로 인한 혼란이 계속되는 요즘 한국과학기술원(카이스트)은 7일 남택진 산업디자인학과 교수 연구팀이 고급 의료 설비를 갖춘 음압 격리 시설로 신속하게 변형하거나 개조해 사용할 수 있는 중증환자용 ‘이동형 음압 병동(Mobile Clinic Module, 이...
    Reply0 Views1159 Votes0 file
    Read More
  19. 15
    Jan 2021
    20:29

    갈 곳 없는 학대 피해 장애아동

      한국장애인개발원의 장애아동 학대 실태분석 및 지원방안 연구에 따르면 2012년 전체아동 중 등록 장애아동은 0.8%을 나타냈다. 이에 비해 장애아동 피해 사례는 4.0%로 높은 비율을 보인다. 하지만 학대받은 장애아동을 전담할 수 있는 시설이 부족해 어려...
    Reply0 Views1025 Votes0 file
    Read More
  20. 08
    Jan 2021
    15:30

    코로나 19의 백신 확보 현황 및 종류와 부작용

      보건복지부는 지난 12월 18일(금)에 코로나 19 백신 관련 현황에 대한 자료를 올렸다. 자료에 따르면, 2020년 7월부터 선구매 협상을 추진해왔고, 4,400만 명분의 백신을 확보했다고 한다.  ▲기업별 공급 가능 조건 및 물량   보건복지부에 따르면 ...
    Reply0 Views1518 Votes0 file
    Read More
목록
Board Pagination ‹ Prev 1 2 3 4 5 6 7 8 9 10 ... 46 Next ›
/ 46

나눔글꼴 설치 안내


이 PC에는 나눔글꼴이 설치되어 있지 않습니다.

이 사이트를 나눔글꼴로 보기 위해서는
나눔글꼴을 설치해야 합니다.

설치 취소

Designed by sketchbooks.co.kr / sketchbook5 board skin

Sketchbook5, 스케치북5

Sketchbook5, 스케치북5

Sketchbook5, 스케치북5

Sketchbook5, 스케치북5