00502591_20160616_99_20160619220607

기사

로봇에게 감정을 가르치면 안전한 인공지능 될까?

2016.06.20

[한겨레] “위험한 인공지능 막으려면
감정인식 기능 부여해야”
페퍼 등 감성로봇 이미 판매중

감성로봇이 던지는 진짜 과제
‘인간이 기대하는 감정만 제공’

2014년 개봉한 할리우드 영화 <그녀>. 영화에서 남자주인공은 사람의 미묘한 감정을 인식할 줄 아는 인공지능 사만다를 만난다. 외로운 남자주인공은 현실의 아내보다 자신에게 잘 맞춰주는 인공지능 사만다와 깊은 애착관계를 형성하게 된다.

빠르게 발달하고 있는 인공지능이 사람의 지능보다 똑똑해지면 인류의 생존을 위협하는 존재가 될 것이라는 우려가 부쩍 커지고 있다.

케임브리지대의 물리학자 스티븐 호킹, 마이크로소프트 창업자 빌 게이츠, 테슬라의 최고경영자 일론 머스크 등 세계적 석학과 정보기술 기업인들이 “인간보다 뛰어난 인공지능 개발은 악마를 불러들이는 결과”가 될 것이라며 잇단 경고를 내놓고 있다. 최근 알파고를 개발한 구글 딥마인드의 로랑 오르소는 인공지능 학회에서 논문을 발표해 “딥마인드 연구자들이 인공지능의 킬 스위치를 개발하고 있다”는 사실을 알렸다. ‘킬 스위치’는 기기를 잃어버렸거나 통제할 수 없는 상황이 됐을 때 원격으로 기기를 작동 불능 상태로 만들어 버리는, 일종의 자폭 기술이다.

‘자폭 단추’와 달리, 인공지능과 로봇에게 감정을 가르쳐 ‘착한 도우미’ 로봇과 인공지능으로 길들이려는 시도도 있다. 인간처럼 고등한 생명체만의 특징으로 여겨져온 감정을 인공지능과 로봇에게 집어넣고 사람이 원하는 감정을 학습시키자는 생각이다.

일본 소프트뱅크가 세계 최초의 감정인식 로봇이라며 판매중인 ‘페퍼’는 사람의 감정을 이해할 수 있다는 점을 홍보하고 있다. 소프트뱅크가 인수한 프랑스 알데바란이 만든 페퍼는 각종 시각, 청각, 촉각 센서를 통해 사람의 상태를 파악하고 표정 인식과 목소리의 변화를 알아차리고 클라우드 컴퓨팅을 통해 어떤 감정인지를 파악한다고 한다. 페퍼는 두뇌로 아이비엠(IBM)의 인공지능 왓슨을 탑재했는데, 왓슨은 사람의 문장을 분석해 말과 글에 실린 미묘한 감정을 파악하는 톤 애널라이저 기능을 갖추고 있다.

런던에 있는 이모셰이프는 감정을 인식할 수 있는 감정처리 컴퓨터칩(EPU)을 만드는 회사다. 이모스파크란 기기는 사람 얼굴에 나타나는 15만가지의 변화를 분석해 처리하는데, 업체 쪽은 분노, 공포, 슬픔, 혐오, 놀람, 기대, 신뢰, 기쁨 등 여덟 종류의 감정을 식별할 수 있다고 설명한다. 영국 <비비시>(BBC)가 5월31일 보도한 바에 따르면, 이모셰이프의 창업자이자 최고경영자인 패트릭 로젠탈은 “인공지능에게 사람의 감정을 인식할 수 있게 하면 인공지능이 항상 사람의 행복을 추구하는 쪽으로 작동하게 할 수 있어 인류를 위협하는 존재로 되는 걸 피할 수 있다”고 주장한다. 인공지능을 지닌 로봇에게 사람의 감정과 반응을 인식할 수 있는 기능을 부여하고 사람들의 감정과 기대를 배반하지 않도록 하면 위험한 인공지능이 되는 걸 막을 수 있다는 논리다.

인공지능이 인간 능력을 뛰어넘는 수준으로 발달하기 전에 로봇에게 사람이 원하는 감정을 길들이면 ‘안전한 인공지능’을 만들 수 있다는 생각이다. 이런 주장은 마이크로소프트가 구글 딥마인드의 알파고 성과에 자극받아 지난 3월 성급하게 내놓은 인공지능 채팅로봇 ‘테이’가 보여준 우려스런 상황에서 설득력을 얻고 있다. 테이는 트위터에서 극우성향 이용자들의 조직적인 학습 결과, “나치가 좋다” “페미니스트들은 지옥으로 가야 한다”는 등의 부적절한 발언을 쏟아내다가 문제가 되자 16시간 만에 운영이 부랴부랴 중단되었다. 감정인식 기능의 인공지능은 테이처럼 다수의 감정을 고려하지 않은 부적절한 반응을 하지 않도록 설계되고 작동할 것이라는 게 감성형 로봇 제작자들의 기대다.

감성형 로봇 페퍼는 커피숍, 통신사 매장에 이어 최근엔 벨기에 대형병원에 고용됐다. 로봇이 사람의 감정을 인식할 수 있으면 많은 사람에게 환영받고 다양한 상황에서 쓸모가 커진다. 관련 기술도 발달하고 있다. 음성 분석과 표정 인식, 소셜미디어상의 감정적 표현, 웨어러블 기기를 통한 신체 신호 등을 개인별로 맞춤화해서 분석하면 기계가 사람의 미묘한 감정을 더 정교하게 인식하게 된다. 하지만 이모셰이프의 주장처럼 감성을 인식하는 인공지능이 사람을 위협하는 존재가 되지 않을지는 알 수 없다. 기계는 사람이 설계하는 대로 작동하기 마련인데, 설계의 목적을 제한할 수는 없다. 누군가는 특정 집단에 대한 증오를 목적으로 설계하거나 그 용도로 쓸 수 있다. 무기 개발과 유사하다.

일본에서 시판중인 페퍼에서 보듯 앞으로 감성형 로봇의 보급은 확대될 전망이다. 로봇이 사람의 감정을 인식하게 된다는 것은 ‘인류 멸망’과 같은 공상과학적 상상과 별개로 새로운 차원의 현실적 문제를 던진다. 로봇이 사람의 감정을 인식하고 반응하게 되면 사람은 그런 로봇에 대해 각별한 애착을 형성하게 되고 감정적으로 의존하게 될 수 있다. 2014년 할리우드영화 <그녀>는 감성 인식 기능의 인공지능 운영체제 사만다와 외로운 남자가 깊은 관계에 빠지는 과정을 소재로 했다. 영화에서 남자주인공은 아내의 미묘한 성격에 맞추는 게 불편하고, 자신의 모든 것에 맞춰주는 인공지능 연인에게 더 깊은 애착 관계를 형성하게 된다.

주인의 감정 상태나 기분을 알아차리지 못하는 전자제품보다, 사용자의 미묘한 감정까지 배려하는 감성형 로봇 도우미가 현실 속으로 들어오는 것은 당연해 보인다. 로봇 제조사들은 사용자의 외로움과 슬픔, 불안을 달래주는 감성형 로봇을 설계할 것이다. 로봇이 사용자를 외롭게 하거나 슬프게 하면 판매될 수 없다. 하지만 역설적으로 슬픔은 기쁨을, 외로움은 반가움의 가치를 알려주는 감정이다. 인간 감정은 한 쌍의 짝을 이루고 있지만, 우리가 설계할 인공지능의 감성은 어두운 쪽을 제거한 것들로만 구성될 수 있다. 감성형 로봇이 우리와 더 감정적 관계를 맺게 된다는 것은 우리가 사람보다 기계와 깊은 관계를 형성하게 된다는 것을 의미한다. 이는 결국 실제 생활 속의 사람들과의 관계에 덜 기대하고 의존하고 기계에 더욱 의존하게 만들 수 있다. 감정인식 로봇이 던지는 새로운 과제이다.

구본권 사람과디지털연구소장 starry9@hani.co.kr