00501848_20180916

기사

‘속여야 살아남는다’ 사람과 인공지능의 숨바꼭질 경쟁

2018.09.17
자동번역과 매크로의 명암

‘자동번역’, 논문초록 작성엔 유용
번역 불가능한 한글 숙박후기 눈길
사람-기계, 새로운 ’튜링테스트’ 경쟁
기술보다 기본 설계구조 성찰해야
글로벌 숙박공유 서비스 에어비앤비(AirB&B)에서 종종 만나는 한국인들의 독특한 숙박 후기.
글로벌 숙박공유 서비스 에어비앤비(AirB&B)에서 종종 만나는 한국인들의 독특한 숙박 후기.

# “오 ㅐ 좋은지 ㅁㅗ ㄹㅡ게ㅆㅓ요 시설은 사진과 같은데, ㄷ ㅓㄹㅓ워ㅆㅓㅇㅕ 방ㅇㅔ ㅁ ㅓㄹ ㅣㅋ ㅏ라ㄱ 보ㅇㅕ서 ㄷㅏㄲ ㅇㅏㅆ ㄷㅓㄴㅣ ㅂㅏㄱㅇㅔ ㄷ ㅏ르ㄴ 게스트가 ㅁㅓㄱㄷㅏㅂㅓㄹㅣㄴ 물ㅂㅕㅇ ㄴㅏ오고 ㅅㅓ라ㅂ도 ㅈㅓㅇㄹㅣㅇㅏㄴ도ㅐㅇㅣㅆ고 오ㅅㅈㅏㅇ열ㅇㅓㅆㄷㅓㄴㅣ 이부ㄹ으ㄴ 개어놓으게 아니고 쑤셔너ㅎ어놔ㅆ더라구요 거기서 또 ㅁㅓㄹㅣㅋㅏ라ㄱ나오ㅁ ㅎㅗㅅㅡㅌㅡ가 후ㄱㅣ 사ㄱ제 할ㄲ ㅏㅂ ㅏ 이러ㅎ게 저ㄱ어요 동네는 좋았어요….” 글로벌 숙박공유 서비스 에어비앤비(AirB&B)에서 종종 만나는 한국인들의 독특한 숙박 후기의 하나다. 이 후기를 영어로 자동번역하면, 우호적인 내용만 영어로 표시된다. 자동번역이 낳은 현상이다.



# 지난 5월8일 구글의 연례개발자회의(I/O)에서 구글의 최고경영자 순다르 피차이가 인공지능 음성비서 ‘구글 어시스턴트(듀플렉스)’ 영상을 공개했다. 인공지능 비서가 미용실과 식당을 전화로 예약했지만 사람과 식별이 불가능했다. 구글의 지주회사 알파벳 이사회 의장 존 헤네시는 “구글이 예약 서비스 영역에서 튜링테스트를 통과하는 이정표에 도달했다”고 말했다. 튜링테스트는 심사위원 30% 이상을 속이면 사람 수준 지능을 가졌다고 판단해야 한다는, 인공지능 판별 기준이다. 2014년 유진 구스트만이 최초로 튜링테스트를 통과했지만, 영어에 익숙지 않은 우크라이나 소년이라는 점이 고려됐다는 논란이 있었다. 듀플렉스는 논란은커녕 튜링테스트 기준을 무의미하게 만든다.



최근 만난 한국과학기술원(KAIST)의 한 교수는 “대학원생들의 외국 학술지 발표 논문을 지도할 때 영어문장 고치는 게 수고로운 과정이었는데, 최근에는 번역기술이 좋아져 한글로 쓰고 번역기를 돌리라고 권한다. 연구와 논문에 집중할 수 있게 해주는 편리한 도구다”라고 말했다. 자동번역은 페이스북, 트위터와 같은 사회관계망에서 외국 언어로 만들어진 콘텐츠도 한국어로 자유롭게 이용할 수 있게 해준다. 숙박예약 앱에서 세계인들의 다양한 언어로 된 후기를 번역해주지만, 위 사례처럼 집주인이 노출을 꺼릴 후기는 기계를 속여야 한다는 동기도 만들었다.

캡차(CAPTCHA)는 ‘컴퓨터와 사람을 식별하는 완전 자동화한 튜링테스트’의 영문약자로, 이용자가 로봇이 아님을 입증하게 만드는 장치다.
캡차(CAPTCHA)는 ‘컴퓨터와 사람을 식별하는 완전 자동화한 튜링테스트’의 영문약자로, 이용자가 로봇이 아님을 입증하게 만드는 장치다.

사람 수고를 덜기 위한 목적으로 만들어진 편리한 도구가 진화함에 따라, 기계를 속이기 위해 정교한 작업을 하는 현상이 나타나고 있다. 튜링 테스트를 통과할 인공지능을 개발하는 과학자들의 특별한 임무가 아니라, 숙박 앱을 이용하고 수강신청을 하고 콘서트 예매를 하는 평범함 이들이 일상에서 마주치는 상황이다. 똑똑해진 기계와 사람이 서로를 속이기 위한 숨바꼭질 경쟁을 하는 형국이다. 문제는 놀이가 아니라, 기존의 약속과 질서를 뒤집어버리는 혼란이자 범죄로 이어진다는 점이다.


포털에서 반복적 정치 댓글을 달고 추천수를 조작하는 매크로 사용이 특검으로 이어지며 이슈화했지만, 매크로는 정형화된 업무의 반복 처리, 선착순, 줄서기 등이 필요한 영역에 널리 사용중인 보편적 기술이다. 매크로는 일련의 컴퓨터 조작을 반복적으로 수행하도록 한 간단한 프로그램으로, 복잡도에 따라 다양한 형태가 있다. 온라인 게임과 수식계산 프로그램에서는 오히려 매크로를 잘 활용하는 사람이 ‘달인’으로 인정받는다.


요즘 인기 콘서트는 예약 개시 직후 매진되고 상당량이 암표로 거래된다. 하지만 매크로 적발과 금지는 쉽지 않다. 창과 방패의 경쟁과 같아, 매크로 금지 기술을 적용해도 이를 우회하는 정교한 매크로가 등장하기 때문이다. 또한 사용자 피시에 매크로가 있는지 검사하면 부하가 커지고 편의도 저하되기 때문에 불만이 높아진다. 매크로 방지 도구가 첨단 매크로는 잡아내지 못하고 컴퓨터 능력이 떨어지는 사람의 접근만 차단하는 결과가 된다는 점은 딜레마다.


기존 질서와 가치를 무너뜨리는 매크로는 기술의 그늘이지만, 기술만으로 해결하기 힘들다. 댓글이나 온라인 예약에서 매크로를 막기 위해 흔하게 사용되는 방법은 ‘로봇이 아님을 증명하시오’라는 ‘캡차’ 창이다. 캡차(CAPTCHA)는 ‘컴퓨터와 사람을 식별하는 완전 자동화한 튜링테스트’의 영문약자다. 하지만 <사이언스> 지난해 10월호엔 미국의 인공지능 기업 바이케리어스가 개발한 프로그램이 캡차의 문자인증 체계를 근본적으로 무력화시켰다는 논문이 실렸다.


기술에만 의존하지 않는 종합적 접근법이 요구되는 배경이다. 대학들은 수강신청을 학년별·전공별로 순차 진행해 매크로 사용 동기를 줄였다. 예약 사이트에서 매크로가 사라지지 않는 이유는 판매자 이익에 차이가 없기 때문이다. 이용자 관점에서 고려하지 않아 피해가 방치되고 있다. 기계가 번역할 수 없는 숙박 후기는 집주인이 마음에 들지 않는 댓글을 감추거나 삭제할 수 있다는 환경설정에서 비롯했다.


김승주 고려대 정보보호대학원 교수는 “매크로를 막는 기술적 방법은 한계가 있다. 보안과 편의성을 함께 올려야 하는 어려운 과제는 기술만이 아니라 인문학적·심리학적 접근을 병행해야 한다. 아이폰이 인문학과 기술의 결합을 언급한 것처럼 보안도 인간에 대한 연구가 요구된다”고 말했다.


기술 발달로 사람과 기계의 식별은 점점 더 어려워지고, 서로를 속이기 위한 숨바꼭질 경쟁은 더 고도화될 전망이다. 문제는 기술로 불거졌지만, 해결은 종합적이어야 한다. 누구의 목적과 이익을 위해서 기술이 활용되고 있는지를 파악해, 기술을 지혜롭게 통제하는 길을 논의해야 한다.


구본권 <한겨레> 사람과디지털연구소장 starry9@hani.co.kr