로봇도 善惡을 배운다…AI 학습시스템 개발

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

인간뿐 아니라 인공지능(AI) 역시 ‘독서’를 통해 선악을 학습할 수 있다는 흥미로운 연구결과가 제시됐다. 

미국 엔터테인먼트 인텔리전스 연구소(Entertainment Intelligence Lab)와 조지아공대 대화식 전산학과(School of Interactive Computing) 공동 연구팀은 최근 키호테(Quixote)라는 명칭의 AI 학습 시스템을 개발했다고 발표했다. 

사람은 동화나 소설 등에 등장하는 가상의 사건들을 간접적으로 체험하면서, 혹은 직접적인 가르침을 통해 사회적으로 용납 가능한 행동이 무엇인지를 학습해 나간다. 키호테는 이와 유사하게 AI들로 하여금 독서를 통해 인간사회에서의 행동규범을 학습할 수 있도록 만드는 시스템이라고 연구팀은 설명하고 있다. 

 

키호테는 조지아공대에서 과거 개발했던 또 다른 AI 시스템 셰에라자드를 기초로 만들어진 것이다. 셰에라자드는 인간처럼 스스로 새로운 이야기 구조를 창조해낼 수 있는 ‘인공지능 작가’ 소프트웨어다. 이 소프트웨어는 인간 독자들이 봤을 때에도 상당히 합리적이며 뚜렷한 인과관계를 지닌 사건 전개를 구성할 수 있는데, 이것은 실제 작가들의 이야기를 무수히 분석함으로써 인간 사회의 통념에 부합하는 행동 및 상황의 특성에 대해 파악해냈기 때문에 가능한 일이다.


셰에라자드가 이렇게 독서를 통해 정립해 놓은 ‘가치관’을 물려받은 키호테는 이러한 가치관에 비추어 적절한 행동이 이뤄질 때는 ‘보상 신호’를 발산하고, 반대로 적절치 못한 행동이 실행될 경우 ‘처벌 신호’를 발산하는 방식으로 AI 훈련시킨다. 비유적으로 설명하면 AI가 일반적 이야기 속 주인공들처럼 정상적인 행동을 할 때는 ‘상’을 줘 향후 유사한 행동을 반복하도록 유도하고, 반대로 악당처럼 행동하거나 전후맥락에 맞지 않는 행동을 하면 ‘벌’을 줌으로써 이러한 행동을 차단한다는 것.

키호테 시스템의 핵심 목표는 AI로봇들로 하여금 주어진 임무를 수행함에 있어 인간사회의 통념을 어기지 않도록 돕는 데 있다.

이를테면 ‘인간에게 약을 가져다 준다’는 임무를 부여받은 한 로봇을 가정해 보자.
이 로봇은 첫째, 약국을 습격해 약을 훔쳐서 도망치거나, 둘째로 약사와 대화해 약을 얻어내거나, 셋째로 줄을 서서 자기 차례가 올 때까지 기다린다는 세 가지 시나리오를 상정한 뒤 어떤 방법을 선택할지 판단하게 된다.

이때 인간사회의 통념을 학습하지 못한 로봇은 첫 번째 방법을 선택할 가능성이 높다. 가장 빠르면서도 비용이 적게 드는 행동이기 때문이다. 그러나 키호테 시스템의 개입이 있을 경우 이 로봇은 인간의 예절에 따라 줄을 서서 약을 받음으로써 ‘보상’을 얻고자 할 것이라고 연구팀은 설명했다. 

연구팀은 “로봇들에게 인간이 만든 이야기를 이해할 수 있는 능력을 주는 것이야말로 인간의 직접 지시 없이 로봇의 행동을 교정할 수 있는 방법”이라며 “(키호테 시스템을 통해) 로봇들은 인간을 해치지 않으면서도 목표하는 바를 이루는 행동양식을 강화할 수 있을 것”이라고 전했다.