챗봇과 정체성 (Identity)

벤처비트의 웹 사이트 (venturebeat [dot] com)에서 챗봇에 관한 글인 “Why only a few companies can make chatbots useful”을 옮겼습니다. 우리가 맞이할 미래는 유토피아일까요, 디스토피아일까요? 저는 읽으면서 이런 저런 생각이 들었습니다만.  

                                                             

                                                             

사람들은 말하는 것보다, 문자를 주고 받는 것을 더 좋아합니다. 우리들 가운데 65 퍼센트는, 1분 정도 걸리는 전화 통화나 얼굴을 마주보고 하는 회의보다는, 왓츠앱 (Whatsapp)을 통하여 하는 길고 짜증나는 문자 대화를 선호합니다. 사람들은 운전을 하면서도 문자를 보냅니다 – 이런 행동이 위험한 것을 알면서도 말입니다. 가족은 저녁 식사 테이블에 같이 앉아 있으면서도, 다른 사람들에게 문자를 보냅니다. 정말 신경을 써야 할 일이 많습니다 – 대화를 해야 할 사람이 많고, 또 유지해야 할 연락처가 많습니다 – 그래서 내성적인 디지털 (digital introvert) 성향의 사람으로 살면서 자신의 속도에 맞게 조절하며 사는 것이, 어떻게 시작해야 할지 어떻게 끝을 맺어야 할지 알지 못하는 실제 세계에서의 대화를 하며 힘을 낭비하는 것보다 낫다고 느끼는 것입니다. 이렇게 채팅 (chatting)이 인기있으니, 챗봇 (chatbots)이 많이 있는 것도 놀랄 일은 아닙니다. 어떤 경우는 실제의 회사를 대체하려 [챗봇을 만들어] 사용하는 경우도 있고, 또 어뗜 경우는 구체적인 기능을 담당하기도 합니다. 그리고 챗봇은 기업 측에서 많이 요구를 합니다: 챗봇은 그다지 대우를 잘해주지 않아도 되는 직원인 셈입니다. 챗봇은 감정도 없고, 프로그램이 된 대로 행동합니다. 텔레그램의 봇의 플랫폼이 전면적으로 (full-scale) API를 갖게 되었을 때, 챗봇에 대한 기대가 높아졌습니다. 많은 사업들이 챗봇을 만들기 시작했습니다: 고객 서비스 봇 (customer service bots), 지원 봇 (support bots), 훈련 봇 (training bots), 정보 봇 (information bots), 폰 봇 등등 많습니다. 이런 상황에서 하고 싶은 질문은, ‘실제 사람들도 있는데 거기에 더하여 그렇게 많은 봇이 필요한가’라는 것입니다. 인간은 약간 이상한 면이 있어서, 생명이 없도록 고안된 차라든가 아이폰(에 이름을 붙인다) 등등을 이런 물체를 대할 때에도 공감하는 경험이 있습니다. 챗봇의 경우에도, 우리는 적혀있는 대본에 감정을 투시하려는 성향이 있습니다: 그리고 우리는 [챗봇이] 살아있다고 생각하며, 사실상 챗봇이 지니고 있지 않은 개성 (personality)을 그들에게 부여하려는 성향이 있습니다. 이런 현상은 그렇게 새로운 것만은 아닙니다 – 현대의 봇의 어머니격인 애플의 시리 (Siri)를 생각해보세요. 그리고 가능성을 생각해보세요. 봇은 새로운 트렌드이며, 모든 회사가 하나 혹은 두 개의 봇을 – 혹은 백 개 정도의 봇, 마케팅 행위 하나에 봇 하나, 이런 식으로 – 개발한다고 추정해봅시다. 사실, 이것이 실제로 일어나고 있는 일입니다. 그렇다면 이 생태계는 과연 어떤 종류의 것일까요? 아주 긴 연락처와 인공적인 연결 (artificial connections)이 대부분이고, 실제 사람은 소수일 것입니다. 챗봇은 당신과 대화도 하고, 당신에게 이모티콘과 스티커와 귀여운 고양이 사진도 보내고, 링크 (links)도 보낼 것입니다. 그러나 당신 스스로에게 속지 마십시요 – 챗봇은 그들의 고용주가 ‘고객이 이런 물건을 구매하면 좋겠다’고 생각하는 물건을 [당신에게] 팔기위하여 모든 것을 할 것이며, 당신의 행동을 연구할 것입니다. 이것이 옛날식 교육에 의하여 관리되는 미래적인 기술을 당신이 접할 때, 일어나는 일입니다. 이것은 단지 일부분일 뿐입니다: 사이버 보안이라는 문제도 있습니다. 챗봇은 소셜 엔지니어링 (social engineering)과 범죄를 위한 금광입니다; 그들은 사람들의 행위를 분석하고 [그 행위/행동으로부터] 배웁니다. 피싱 (phishing), 랜섬웨어 (ransomeware), 자격증 (credentials)과 신원 (identity), 그리고 신용 카드의 도난 등 – (해커들이 이런 수단을 가지게 될 때) – 이런 새로운 도구들이 사람들의 행동/행위 패턴을 이용하여 사람들에게 문제를 일으킬 능력이 있을 때 – 해커들이 이런 도구를 수단으로 이용하면, 해커가 하고자 하는 일은 훨씬 쉬워집니다. 감염된 봇 (infected bot)이 당신이 듣고 싶은 말을 당신이 듣고 싶을 때에 하면, 당신은 이것을 의심하지 않을 것입니다.         

이런 것은 그냥 기본적인 해킹일 뿐입니다. 가장 끔찍한 테크닉은 아직 개발되지 않았습니다. 신원 (혹은 정체성)을 복제하는 것에 대하여 어떻게 생각하십니까? 챗봇은 양 방향입니다: 당신이 챗봇에게 말을 걸고 있을 때, 챗봇은 빨리 배우며, 적절한 상황에서라면, 챗봇은 당신에게 말하는 것도 점점 더 효율적으로 진화하지만, 동시에 당신이 제 3자에게 대하는 행동 양식과 대화를 배웁니다 (그대로 베낍니다, “but also to copy your behavior to talk with third parties”). 바로 이것이 구글의 알로 (Allo) 메시징 앱 (messaging app)이 지금 하고 있는 일입니다. 만약 사기꾼같은 봇이 당신의 신원/자격증 등에 접근 가능하며, 또 당신이 모바일 은행 계좌에서 말하는 법을 그대로 모방한다면? 혹은 슬랙 (Slack)이나 링크 (Lync)같은 채팅을 사용하는 기업 회의에서 당신이 말하는 법을 그대로 모방하여 배운다면? 공상 과학 영화 (science fiction)에서나 나올 법한 몇 몇 요소들이 이제 현실적으로 보이기 시작합니다. 잠시 생각해보세요 – 이런 것이 우리가 대화에서 필요로 하는 것일까요? 저의 생각으로는 단호하게 ‘아닙니다’ [이것은 원문을 쓴 저자의 생각입니다 – 역자 주]. 봇이 전체적으로 나쁜 것이라고 말하는 것이 아닙니다. 그리고 봇이 실패할 것이라고 생각하지도 않습니다. 그 반대로 성공할 것이라고 봅니다. 그럼에도, 제 생각으로는, 기술에 있어 인간 신체의 제한이 없는 한, 당신은 백 개나 되는 봇을 필요로 하지 않습니다. 봇 하나면 전부 할 수 있습니다: 지원하고, 당신과 대화하고, 당신의 회의를 관리하고, 그리고 다른 일들 전부 말입니다. 머신-러닝 조수 (machine-learning personal assitant) 하나면 모든 일을 할 수 있고, 또 과학적으로 그리고 경제적으로 놀라운 잠재력이 있습니다. 그리고 다른 종류의 ‘반대’가 있는데, 사이버 보안이라는 문제보다 더 심각합니다. 현실적으로, 지금 이 세계에서 ‘글로벌 봇 (global bot)’을 만들 수 있고 또한 그것으로 이익을 볼 수 있는 회사는 다섯 개 뿐입니다: 애플, 구글, 마이크로소프트, 아마존, 그리고 페이스북. 이 회사들은 엄청난 정보를 처리합니다. 그리고 가장 좋은 최고의 봇을 만들도록 할 수 있습니다. 개인 정보의 페타바이트 (petabytes)에까지 접근이 가능한 이들 회사의 봇은 가장 똑똑하며 가장 잘 적응하며, 정확하고 그리고 빨리 배웁니다. 그리고 오늘날의 챗봇은? 우리는 단지 이들 큰 회사들의 방법을 향상시켜줄 베타테스터 (beta-testers)일뿐입니다. 불행하게도, 당신이 보듯이, 챗봇은 채팅에 관한 것이 아닙니다; 그것은 단지 그들의 기능일 뿐, ‘목적’이 아닙니다. 챗봇의 목적은?  어마어마한 대규모의 마케팅 연구는 궁극적으로 매우 적은 수의 사업체/회사들에게 엄청난 수익을 가져다 줄 것입니다 – 사이버 범죄는 단지 여러가지 경우 중의 하나일 뿐입니다.