AI에 인격이 필요할까?

칼럼/아티클

AI에 인격이 필요할까?

MS 본사 전문가들, 초기 코타나 설계 방법론 소개

 

인공지능(AI)에 인격(personality)이 필요할까? AI의 역할이 사람과의 상호작용을 통해 궁극적으로 사람들을 돕는 것이라면 그렇다. 지난 2014년 세상에 모습을 드러낸 마이크로소프트(MS) 음성비서 코타나(Cortana)에 걸맞는 인격을 연구하고 불어넣은 MS 전문가들의 판단이다.


MS의 조나단 포스터 수석 콘텐츠 경험 매니저와 데보라 해리슨 선임 콘텐츠 경험 매니저, 두 전문가는 지난 8일 미국 시애틀 레드먼드 MS 본사 캠퍼스에 방문한 기자들을 대상으로 'AI와 인격(AI and Personality)'이라는 강연을 진행했다. 강연은 두 전문가가 고민했던 AI에 인격을 불어넣는다는 개념의 의미와, AI에 인격을 불어넣는 과정에서 마주친 현실의 문제들을 짚었다. 코타나뿐아니라 대화형 봇 기술을 활용해 AI 서비스를 제공하려는 다른 기업과 개발자들도 해결해야 할 문제들이었다.


이들은 5년 전부터 코타나가 누구인지 규정할 수 있도록 돕는 일을 해 왔다. 음성 형태가 아니라 코타나의 발언 내용을 실제로 어떻게 구성할지를 연구했다. 인격뿐아니라 그에 걸맞는 종류의 이상적인 목소리를 갖게끔 했다는 설명이다. 특히 코타나의 전문 영역 바깥쪽에 집중하고 있다. 예를 들어 사람들이 7시 알람을 맞춰달라는 지시를 따르는 것처럼 유용한 비서 역할을 맡는 게 본래 코타나의 영역이다. 하지만 사람들은 그에게 좋아하는 음식이나 색깔, 트럼프 미국 대통령에 관한 생각을 묻는 둥 본래 영역 바깥의 역할을 기대할 때도 있다.


조나단 매니저는 "우리는 초기에 코타나가 말하는 내용뿐아니라 좋아하는 음식이 뭐냐 같은 질문에 뭘 답할지 결정했다"고 말했다.


초기 코타나에 인격을 불어넣는 작업 일환으로 두 전문가는 마이크로소프트닷컴과 오피스닷컴 고객지원 웹사이트에 보존돼 있는 고객서비스용 정보를 구축하는 팀을 지원하기 시작했다. 두 웹사이트는 동일한 가상의 에이전트를 두고 전화 문의 응대를 기다릴 수 없는 방문자들이 스스로 빠르게 필요한 정보를 찾도록 돕는 목적으로 운영되고 있다. 방문자들에게 필요한 건 '겸손하고 전문성을 갖춘 조력자'같은 존재로, 다양한 인격이 고려될 여지는 별로 없지만, MS 전문가들은 여전히 인격을 고려하면서 도움을 주기 위한 내용을 작성한다고 설명했다.


코타나에 인격을 부여하는 과정에 MS 전문가들이 했던 고민은, 대화형 AI 기술을 활용하려는 다른 개발자와 기업에서도 마찬가지로 주어질 숙제다. MS는 기업과 개발자들에게 '봇 프레임워크'를 제공한다. 널리 활용되는 대화형 AI 유형인 '챗봇'을 구현하기 위한 도구다. 봇 프레임워크에는 다양한 응답 레이어가 포함될 수 있다. 기능적인 동작을 수행하기 위해 구성돼야 하는 레이어 외에 인격을 구현하기 위한 레이어, 잡담을 처리하기 위한 레이어, 당황스러운 요청이나 험한 말(abusive language)같은 민감한 영역을 다루는 레이어 등이다.

 

강연은 봇 프레임워크를 활용한 개발 시나리오에서 쓸 수 있는 다섯 가지 인격 유형을 소개됐다. 전문적인(professional), 친근한(friendly), 상냥한(caring), 재치있는(witty), 열정적인(enthusiastic) 유형이다. 설명에 따르면 봇 사용자가 동일한 메시지를 입력해도, 개발자가 채택한 인격 유형에 따라 다른 태도의 답을 내놓을 수 있다.


강연에서 시연된 입력 메시지와 봇의 유형별 응답은 모두 수작업으로 만들어진 것이었는데, 사실 특정한 인격을 일일이 만들어가는 절차는 매우 노동집약적이고 시간도 오래 걸리는 일이다. 수작업 대신 심층신경망(DNN)을 통해 조정해나가는 방식으로, 시간이 지날수록 전문가들이 추구했던 인격에 조금씩 가까워지도록 만들 수 있다.


데보라 매니저는 "우리는 초기 코타나에 인격을 불어넣을 때 '잘 정의된 일관성(well-defined consistent)'에 집중하기로 했다"면서 "코타나는 지금 벌어지고 있는 사건에 따라 그 말투를 바꿀 수 있지만 내부적으로는 일관성을 띠며, 그럼으로써 여러분이 코타나를 사용하면서 시간이 지날수록 신뢰할 수 있게 된다"고 설명했다.


전문가들은 좀 더 본질적인 물음, '인격이란 무엇인가'를 고민하기도 했다. 강연에 제시된 발표자료에는 다양한 명제로 개념적 정의가 제시돼 있었지만 그 중 어느 하나가 옳은 건 아니었다. 요약하면 인격은 객관적인 실체보다는 그걸 받아들이는 사람의 주관이나 감정을 통해 인식되는 개념이다.


조나단 매니저는 "흥미로운 점은 사람들이 항상 감정적 상태에 있다는 사실"이라며 "어떤 연구는 코타나를 만들 때 우리의 의사결정을 도와줬고 현재 우리가 알아가고 있는 것에 계속 영향을 주고 있기도 하다"고 말했다. 이어 "사람들은 어떤 시스템이 인격을 갖게끔 설계됐든 그렇지 않든 (항상) 인격을 부여하고자 하고, 상황을 통제해야 할 필요가 클수록 (인격을 갖지 않은 대상에) 인격을 부여하고자 하는 경향도 커진다"고 설명했다. 또 "사람들이 (유형이나 성향이) 모호한 인격을 좋아하지 않는다는 게 일반적이라는 점도 흥미롭다"고 덧붙였다.

 

 

 

후반 강연을 맡은 데보라 매니저는 코타나를 비롯한 MS 대화형 AI 관련 프로젝트에 참여하면서 수립된 네 가지 개념적 설계 원칙을 소개했다. 사람들이 AI와 대화할 때 그 내용이 신뢰를 형성하고(engender trust), 신중하게 행동하고(project sensitivity), 실질적인 도움을 주고(embody helpfulness), 포용하기 위해 애쓰도록(strive for inclusivity) 해야 한다는 것이었다.


MS 전문가들이 제안한 다양한 AI 인격을 네 가지 원칙에 맞게 실험적으로 구현한 결과물이 '프로젝트 퍼스널리티 챗(Project Personality Chat)'이다. 이 프로젝트는 MS가 봇 프레임워크 기술로 제공하는 대화형 AI와 영어로 잡담을 나눌 수 있는 데모 사이트를 제공한다. 데모를 통해 개발자가 자신의 대화형 AI기능에 특정 유형의 인격이 부여됐을 때 어떤 반응을 나타낼 수 있는지 테스트할 수 있다. AI의 반응은 수동 입력된 유일한 결과일 수도 있고, DNN 기술로 추론한 여러 결과 중 가장 점수가 높은 반응일 수도 있다.


개발자는 자신이 구현한 대화형 AI가 각 원칙을 따르도록 만들기 위해, 다양한 대화 내용에 유연하게 대응하는 동시에 사람들에게 어떤 말을 어떤 태도로 해야 할지 제어할 수 있어야 한다. 또 사람들이 해야 할 일을 하기 쉽게 만들어 줘야 하고, 사람들이 처한 환경에 직접 다가갈 줄 알아야 하고, 반복적인 욕설과 같은 행위에 말려들지 않아야 하고, 포용력을 발휘할 수 있도록 모든 말의 무게를 인식할 줄 알아야 한다. 프로젝트 퍼스널리티 챗의 AI 반응에 수동 입력된 내용과 DNN 기반의 추론으로 생성된 내용이 섞여 있는 이유다.


데보라 매니저는 "포용적 언어는 우리가 제안하는 것 모두에 다가가기 위해 필수적"이라며 "하지만 고작 8명뿐인 우리나 이 방에 모여 있는 여러분들이 전체 인류의 스펙트럼을 대표할 수는 없다"고 지적했다. 이어 "5년전 일을 시작할 때부터 우리는 국제화에 나설 때 통상적으로 위치 조율과 번역자에 관련된 사항을 현지화 작업에 전달하고 그게 제품 흐름이 되는 방식을 취해야 한다고 생각했다"면서 "그건 아마도 우리가 미국 시장에서 우리 제품 안에 (자연스러운) 구어체를 적용하고 싶기 때문일 것"이라고 덧붙였다.


즉 그는 다양한 지역에서 설계 원칙을 구현한 AI가 만들어지려면 세심한 현지화(localization)가 필요하다고 봤다. 지구상에서 사회 가치와 규범, 정서와 문화가 다른 여러 지역을 관통하면서 설계 원칙을 준수할 수 있는 단일한 대화형 AI는 만들어질 수 없다고 판단한 셈이다.


데보라 매니저는 "우리는 다양한 각 시장마다 작가를 두고 있고 거기서 작가들은 지금도 우리가 문화적 적절성(cultural relevance)을 보장해야 한다는 목표 안에서 핵심 개념을 놓고 일하고 있다"면서 "이렇게 하고자하는 이유는 우리가 얻고 있는 긍정적 피드백 덕분"이라고 덧붙였다.

Comments

번호 분류 제목 글쓴이 날짜 조회
25 칼럼 교통사고 후 차가 폐차 판정이 났다는 것은 무슨 뜻인가요? 천수진 07.30 426
24 칼럼 교통사고 후 차 수리 비용은 누가 커버하나요? 천수진 07.25 487
23 칼럼 교통사고 시 반드시 확인해야 할 커버리지 4종류 천수진 07.19 489
22 칼럼 슬기로운 재택근무가 가능한 조건과 이모저모 실리콘밸리 07.14 412
21 칼럼 교통사고 변호사가 꼭 필요한가요? 댓글+1 천수진 07.12 573
20 칼럼 교통사고 누구의 잘못인지 판단하는 방법 천수진 06.30 633
19 칼럼 반드시 기억해야 할 교통사고 상해사건 절차 댓글+1 천수진 06.25 668
18 칼럼 교통사고 사고 후 받을 수 있는 손해보상의 종류 댓글+1 천수진 06.17 595
17 칼럼 오지민 변호사가 쉽게 설명해주는 캘리포니아 교통사고 피해 보상의 모든 것 2 댓글+1 천수진 06.10 598
16 칼럼 오지민 변호사가 쉽게 설명해주는 캘리포니아 교통사고 피해 보상의 모든 것 1 댓글+1 천수진 06.03 879
15 칼럼 [김유정의 스타트업 이야기]시작이 창대하지 않아도 좋은 이유 Support 2020.12.20 1063
14 칼럼 2015-2021 : 마켓컬리 김슬아의 생각 Support 2020.11.24 965
13 칼럼 어떻게 하면 좋은 프로덕트 팀, 그로스 팀을 만들 수 있을까요? SVKOREANS 2020.06.25 1923
12 칼럼 회사생활 6년차에 느낀 점들. SVKOREANS 2020.06.24 1421
11 칼럼 창업을 해야 하는 11가지 이유 SVKOREANS 2020.06.07 1462
10 칼럼 나쁜 개발자? 좋은 인사평가? SVKOREANS 2020.06.02 1460
9 칼럼 실리콘밸리의 ‘도파민 단식’ 열풍 SVKOREANS 2020.05.24 1482
8 칼럼 PM으로서의 디자이너 SVKOREANS 2020.05.23 1623
열람중 칼럼 AI에 인격이 필요할까? SVKOREANS 2020.05.23 1661
6 칼럼 프로그래머의 분위기 SVKOREANS 2020.05.23 1599
5 칼럼 혼자하는 개발이 만드는 자만심 Support 2020.05.14 1432
4 칼럼 논리적 디자인과 커뮤니케이션 SVKOREANS 2020.05.14 1573
3 칼럼 인공지능이 소프트웨어 개발자 모두를 먹어 치울까? SVKOREANS 2020.05.11 1583
2 칼럼 설득력 강한 디자인의 비결 Support 2020.05.11 1417
1 칼럼 소프트웨어 개발자에게 성공이란... SVKOREANS 2020.05.08 1763
Category

State
  • 현재 접속자 60 명
  • 오늘 방문자 381 명
  • 어제 방문자 561 명
  • 최대 방문자 2,210 명
  • 전체 방문자 149,589 명
  • 전체 게시물 2,871 개
  • 전체 댓글수 373 개
  • 전체 회원수 469 명