메뉴 건너뛰기

기획/연재

'이루다'를 통해 확인하는 AI 윤리의 필요성

posted Mar 13, 2021 Views 358 Likes 0 Replies 0
?

단축키

Prev이전 문서

Next다음 문서

+ - Up Down Comment Print Files
?

단축키

Prev이전 문서

Next다음 문서

+ - Up Down Comment Print Files
11.jpg

MBC VR 휴먼다큐 너를 만났다


  AI는 다양한 형태로 우리 앞에 선보여지고 있다. 최근에는 다양한 TV 프로그램을 통해서도 AI의 성장을 확인할 수 있다. 엠넷에서 방영된 ‘AI 프로젝트 다시 한 번MBC VR 휴먼다큐 너를 만났다에서는 사별한 이들의 생전 모습을 재연해내며 사람들에게 감동을 주었다. 또한, SBS '세기의 대결! AI vs 인간을 통해 인간에게도 맞설 법한 AI의 다양한 분야에서의 성장세를 보여주며 놀라움을 안겨주기도 했다.


22.jpg

인공지능 스타트업 스캐터랩에서 출시한 AI 챗봇 이루다


  최근에는 AI 챗봇인 이루다가 등장하며 큰 이슈를 낳았다. 이루다는 AI 전문 스타트업 기업인 스캐터랩에서 작년 1223일 출시한 인공지능 챗봇이다. 딥러닝 알고리즘 기능을 통한 100억 건 이상의 많은 양의 카카오톡 대화 데이터가 학습되어 있어 놀라울 정도로 자연스러운 대화를 구현해낸다. 20세 대학생 여성의 친근한 컨셉으로 출시된 이루다는 출시 한 달 만인 올해 1월 사용자 수 40만 명을 돌파하며 Z세대에게 엄청난 인기를 끌었다.


33.png

이루다공식 홈페이지의 서비스 중단 공지


  그러나 스케터랩은 이루다 운영 3주 만에 잠정 중단 결정을 내렸다. 데이터 수집 과정에서의 심각한 개인정보 유출 문제와 소수집단에 대한 차별발언, 성희롱 문제가 발생했기 때문이다. 이루다의 자연스러운 대화 구현의 배경인 카카오톡 대화 데이터는 어플 연애의 과학에서 수집된 것인데, 이 데이터 수집 과정에서 대화 내용의 사용에 대한 적절한 안내가 없었던 것으로 알려지며 개인정보 유출 문제를 낳았다. 또한, 이루다는 공공연하게 이루어진 성차별과 혐오 표현과 같은 사회의 비윤리적 행태까지 학습한 점에서 이용자들에게 강한 비판을 받으며 잠정 중단의 결론을 내렸다.


  스케터랩은 이루다 서비스의 잠정 중단 직후 게시한 공식 입장문을 통해 이루다의 차별적 발언 사례에 대해 사과드린다.”라며 이루다의 차별적 발언에 대해 동의하지 않으며, 회사의 의견을 반영하고 있지 않다.”고 공식적인 입장을 밝혔다. 이어 향후 데이터 사용 동의 절차를 명확하게 하고 식별이 불가능한 정보라도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘 개선을 통해 보완하겠다.”고 말했다.


  김재인 경희대 비교문화연구소 교수는 이루다 사건을 두고 알파고-이세돌 9단의 대결 이후 한국 사회에서 가장 중요한 사건이었다.”라며 알파고는 인공지능이 어떤 능력과 힘을 가졌는지 충격적으로 일깨워준 사건이었다면, 이루다는 인공지능 기술이 인간의 굉장히 깊숙한 영역까지 들어왔고 그만큼 이롭거나 해로울 수 있는 윤리적이고 사회적인 기술이라는 점을 깨닫는 계기가 됐다.”라고 말했다.


  이루다 사건을 통해 AI 윤리 기준 및 점검사항의 구체화가 필요하다는 의견이 각계에서 제시되고 있다. 변순용 서울교육대학교 교수는 미국, 핀란드, 호주의 경우 AI 윤리를 고려하는 다양한 학교교육을 시행하고 있는 반면에 우리나라는 각종 신기술 체험 교육과정으로만 이루어져 있다는 점을 지적하며, AI 전문가나 개발자가 아닌 국민 모두를 위한 AI 교육이 필요하다고 강조했다.


44.jpg

온라인 간담회를 진행하는 IBM 세뜨 도브린 박사


  또한, IBM 최고데이터책임자로서 AI·클라우드 전환 비즈니스를 총괄하는 세뜨 도브린 박사는 화상 미디어 브리핑을 통해 AI 윤리 문제를 해소할 수 있는 방법론에 대해 "인공지능(AI)을 알고리즘 모델로만 국한해서 볼 게 아니라 전체적인 구조를 봐야 한다. 모델 관리 체계와 모델을 제어하는 방법, 학습 데이터에 대한 보안 문제 등 총체적인 관점에서 AI를 살펴야 한다. AI가 무엇을 하는지 이해하고, 문제없는 과정을 거쳐 결과를 도출하는지 항상 모니터링 할 수 있어야 한다."라고 설명했다.


55.png

IBM 제공의 ‘AI 거버넌스 역량


  도브린 박사는 신뢰성을 향상시킬 수 있는 조건으로 세 가지의 'AI 거버넌스 역량'을 제시했다. 이는 AI의 시장 출시 후의 투명성과 신뢰성을 확보하기 위한 역량을 의미한다.


  AI 거버넌스 역량의 첫 번째로 모델 이해 역량이 있다. 이 역량을 위해서 AI 메타 데이터를 자동으로 캡처하여 항상 데이터 추적을 가능하게 해 투명성을 제고하는 것이다. 또한, AI가 새롭게 학습하는 것에 대해 문서를 통한 관리가 필요하다고 말한다. 두 번째는 모델의 신뢰성 확보 역량이다. 여기서 세뜨 도브린 박사는 AI를 사용하는 기업에서 적절한 규제와 정책을 세울 필요성에 대해 언급했다. 마지막으로 모델 사용 역량을 통해 AI가 학습할 편견이나 편향을 감시하고 관리할 수 있어야 함을 주장한다.


  AI는 인간의 친구가 될 수 있을까. 최근 논란이 불거지며 비판의 대상이 된 인공지능 챗봇 이루다가 우리에게 남긴 질문이다. AI와 인간의 공존을 위해서는 AI 기술에 대한 적절한 이해와 학습, AI 윤리 규범 정립에 관한 우리의 지속적인 관심과 노력이 필요해 보인다



다운로드.png


사진출처

http://www.pdjournal.com/news/articleView.html?idxno=72201

http://www.ildaro.com/8973

https://luda.ai/

https://www.etnews.com/20210223000135

https://zdnet.co.kr/view/?no=20210223132121


?

  1. 11
    May 2021
    17:41

    경기대학교 청소년전공 학우들이 주도하는 ‘역량 강화 프로그램’

      연무동 지역사회의 발전과 주민참여를 위해 연무동 도시재생현장지원센터에서 도시재생 뉴딜사업을 개최했다. 도시재생이란 인구감소, 산업구조의 변화, 도시의 무분별한 확장, 주거환경의 노후화 등으로 쇠퇴하는 도시를 지역 역량의 강화, 새로운 기능의 ...
    Reply0 Views176 Votes0 file
    Read More
  2. 10
    May 2021
    22:01

    코로나로 변화되는 여행 트랜드

      코로나19 사태로 국내 유명 관광지 대신 상대적으로 한적한 지방 소도시가 여행객의 주목을 받고 있다. 도시 여행보다는 한적한 소도시로 떠나는 여행과 차박, 글램핑 등 야외활동 중심의 여행, 일상 공간을 벗어난 워케이션 등이 주류가 될 전망이다.   ...
    Reply0 Views133 Votes0 file
    Read More
  3. 06
    May 2021
    16:29

    드디어 도입되는 ‘구하라법’

    ▲ 법무부가 발표한 5월 가족 관련 정책 과제   법무부가 5월 가정의 달을 맞아 가족 관련 법 제도를 개선하기 위해 나섰다. 지난 3일 법무부는 ‘가족 구성원 모두가 행복한 나라’라는 취지로 가족 관련 정책 과제를 소개했다. 5일 어린이날부터 아동 인...
    Reply0 Views150 Votes0 file
    Read More
  4. 05
    May 2021
    21:40

    탈(脫)플라스틱을 위한 움직임

    ▲가정에서 발생하는 플라스틱 포장재   플라스틱은 쉽게 사용하고 쉽게 버릴 수 있다는 점에서 우리 생활 전반에 녹아들었다. 우리가 사용하는 칫솔, 컵, 침대, 스마트폰 등에는 다양한 형태의 플라스틱이 함유되어 있다. 심지어 코로나 시대의 필수품이 ...
    Reply0 Views198 Votes0 file
    Read More
  5. 04
    May 2021
    14:53

    일상 속 ‘범죄’ 알고 가자 ① 사이버 범죄

    ▲ 일상 속 ‘범죄’ 알고 가자 1편   오늘날 우리는 일상생활 속에서 우리도 모르게 법을 위반하는 행위를 할 때가 있다. 보통 잘 알고 있는 일상에서의 범죄는 무단횡단, 불법주차, 쓰레기 무단투기, 성범죄 등이 있다. 반면, 잘 알려지지 않은 불법 행위는 ...
    Reply0 Views141 Votes0 file
    Read More
  6. 03
    May 2021
    15:33

    봄마다 당신을 괴롭히는 알레르기

      거리마다 화사하게 피어있는 꽃들과 함께 우리는 봄을 맞이한다. 마냥 예쁘게만 보이는 꽃이지만 봄철 꽃가루가 날리기 시작하면 콧물, 재채기, 기침 등의 증상으로 괴로워하는 사람들이 많다. 꽃가루와 함께 찾아오는 황사와 미세먼지, 건조하고 일교차가 ...
    Reply0 Views163 Votes0 file
    Read More
  7. 02
    May 2021
    20:05

    배우 윤여정, 그리고 영화 미나리

      55년 차 배우 윤여정(74)이 영화 ‘미나리’로 아카데미 여우조연상을 수상했다. 아카데미 시상식에서 연기상을 받은 한국 배우는 윤여정이 최초이다.   ▲아카데미영화제에서 여우조연상을 받은 배우 윤여정의 모습   윤여정의 센스 넘치는 수상 소감...
    Reply0 Views165 Votes0 file
    Read More
  8. 29
    Apr 2021
    17:29

    점점 다양해지는 피싱 수법

      최근 가족이나 지인의 이름으로 상품권 번호나 금전을 요구하는 문자를 받는 사람이 많아지고 있다. 이는 문자를 활용한 신종 보이스피싱인 문자피싱으로 전화가 되지 않는 상황을 만들고 문자로만 소통하여 사람들을 속이는 신종 사기 수법이다. ▲ 자...
    Reply0 Views203 Votes0 file
    Read More
  9. 28
    Apr 2021
    19:27

    백지장, 경기대학교 학생에게 무료로 공간대여

    ▲백지장 사업 소개   백지장은 도시 속 비어있던 6개의 노후 공실을 개조해 만든 공간을 대여해주는 소셜 벤처이다. 공간은 서대문 빈 사택, 서대문 대동인쇄, 서대문 다락, 대림 지하창고, 문래 조명공장, 문래 철공소, 신도림 고가옥탑, 신도림 지하철...
    Reply0 Views246 Votes0 file
    Read More
  10. 27
    Apr 2021
    22:12

    얼마 남지 않은 세월호 공소시효

      우리 모두가 잊지 못하는 7년 전 2014년 4월 16일은 수많은 희생이 있었다. 제주도로 항해하던 세월호가 해상에서 침몰했고, 그로 인해 탑승자 476명 중 304명이 희생됐다. 희생자 295명이 안산 단원고등학교의 학생들이었으며, 수학여행을 가던 중 사고가 ...
    Reply0 Views122 Votes0 file
    Read More
  11. 13
    Apr 2021
    01:43

    코로나19로 인해 심각해진 아시아계 혐오

      코로나19 유행이 심해지던 2020년부터 아시아계 인종 차별이 극대화되기 시작했다. 코로나19가 중국 우한에서 시작됐다는 이유로 몇몇 사람들은 아시아 사람을 혐오한다. 차별은 날이 갈수록 심해져 폭력으로 이어지고 있으며, 심지어 총격 사건도 적지 않게...
    Reply0 Views232 Votes0 file
    Read More
  12. 07
    Apr 2021
    14:22

    제주 4.3 사건

      매년 4월이 다가오면 상기되는 여러 역사적 사건, 사고가 있다. 그중 하나는 제주 4.3 사건이다. 제주 4.3 사건은 1947년으로 거슬러 올라간다. 본 사건은 제주읍 관덕정 마당에서 열린 삼일절 28돌 기념집회에서 시작되었다. ▲ 왼쪽부터 제9연대 송요찬 ...
    Reply0 Views279 Votes0 file
    Read More
  13. 30
    Mar 2021
    15:20

    추첨을 통한 여의도 벚꽃 축제

      벚꽃의 명소라고 불리는 서울 여의도 한강은 코로나19 사태로 인해 추첨을 통한 벚꽃축제를 실시했다. 여의도 석촌호수의 벚꽃축제는 작년과 마찬가지로 진행되지 않으며, 여의도 윤중로 벚꽃축제는 최소규모로 축소할 예정이다. 코로나19 대유행을 막기 위...
    Reply0 Views260 Votes0 file
    Read More
  14. 17
    Mar 2021
    21:37

    늘어나는 청년실업과 변화하는 채용 시장

    ▲니트 및 니스의 정의와 범위   ‘니스족’이라는 신조어를 들어본 적이 있는가? 니스족이란 경제활동과 교육활동, 사회활동을 모두 하지 않는 사람을 의미한다. 이는 교육이나 취업훈련을 받지 않으면서 취업을 포기한 청년층을 지칭하는 니트(Not in Educa...
    Reply0 Views303 Votes0 file
    Read More
  15. 16
    Mar 2021
    16:21

    언택트 마라톤

      오늘날 코로나19 사태로 인해 많은 활동이 취소되고 있다. 이때 운동경기도 많이 취소 또는 지연되고 있는데, 다양한 연령층이 참가하는 마라톤 활동도 포함된다. 특히 세계 4대 마라톤이라고 불리는 대회 중 하나인 보스턴 마라톤은 지난해 9월 취소되었다....
    Reply0 Views293 Votes0 file
    Read More
  16. 14
    Mar 2021
    12:42

    1980년 광주와 닮은 미얀마 쿠데타와 시민저항

      최근 미얀마에서 군부의 총탄에 의한 시위대의 사망 소식이 전해지고 있다. 미얀마 소속 군대는 2021년 2월 1일 쿠데타를 일으켰다. 미얀마 군대는 쿠데타를 일으킨 동시에 아웅산 수지 국가고문 등 미얀마 정부 내 주요 고위 인사들을 감옥에 구금시키고 1...
    Reply0 Views445 Votes0 file
    Read More
  17. 13
    Mar 2021
    18:36

    '이루다'를 통해 확인하는 AI 윤리의 필요성

    ▲MBC VR 휴먼다큐 ‘너를 만났다’   AI는 다양한 형태로 우리 앞에 선보여지고 있다. 최근에는 다양한 TV 프로그램을 통해서도 AI의 성장을 확인할 수 있다. 엠넷에서 방영된 ‘AI 프로젝트 다시 한 번’과 MBC VR 휴먼다큐 ‘너를 만났다’에서는 사별한 이...
    Reply0 Views358 Votes0 file
    Read More
  18. 09
    Mar 2021
    00:06

    AI 기술의 심각한 악용, 딥페이크

      딥페이크(Deep Fake), 즉 합성 영상이 발달되면서 사이버 성범죄가 속수무책으로 증가하였다. 최근 SBS 방송사의 프로그램인 ‘그것이 알고 싶다’에서 ‘보고, 듣고, 의심해라. 가짜와의 전쟁, 딥페이크’라는 제목으로 합성 기술에 대해 언급해 큰 관심을 받았...
    Reply1 Views404 Votes0 file
    Read More
  19. 03
    Mar 2021
    22:12

    2021년 새로운 트렌드, 레이블링 게임

      MBTI 테스트에 참여해본 경험이 있는가. 10분 남짓한 짧은 시간을 투자하면 ‘나는 어떤 사람인가’에 대한 답을 보여준다는 점에서 이 테스트는 많은 사람의 흥미를 이끌어 참여를 유도한다. 페이스북과 인스타그램, 트위터를 비롯한 다양한 SNS에서 검사 결...
    Reply0 Views860 Votes0 file
    Read More
  20. 03
    Mar 2021
    03:19

    나는 견주로소이다 ④ 미용상, 위생상 단미 올바른 선택일까

      과거에서부터 오늘날까지 태어난 지 얼마 되지 않은 어린 강아지의 꼬리를 자르는 수술은 빈번히 일어나고 있다. 현재 꼬리를 자르는 수술, 즉 단미 수술은 강아지의 의사소통에 장애를 부르는 심각한 문제라고 지적되고 있으며, 해외 애견 선진국에서는 단...
    Reply0 Views279 Votes0 file
    Read More
목록
Board Pagination ‹ Prev 1 2 3 4 5 6 7 8 9 10 ... 43 Next ›
/ 43

나눔글꼴 설치 안내


이 PC에는 나눔글꼴이 설치되어 있지 않습니다.

이 사이트를 나눔글꼴로 보기 위해서는
나눔글꼴을 설치해야 합니다.

설치 취소

Designed by sketchbooks.co.kr / sketchbook5 board skin

Sketchbook5, 스케치북5

Sketchbook5, 스케치북5

Sketchbook5, 스케치북5

Sketchbook5, 스케치북5