‘도덕적’ 로봇, 과연 만들 수 있을까

TOLGA AKMEN/ANADOLU AGENCY/GETTY IMAGES

미래에 자율주행 자동차를 타는 상상을 하면 제일 먼저 기술적 문제들이 떠오를 수 있다.

도로가 공사중이거나 악천후이거나 헤드라이트 앞에 사슴이 있다면 자율주행 자동차는 어떻게 대처할 수 있을까? 하지만 더 어려운 문제는 윤리와 관련있을지도 모른다.

당신의 자동차는 공을 잡으려고 도로로 뛰어든 아이의 목숨을 살리기 위해 반대 방향에서 운전해 오고 있는 노부부를 죽일 위험을 무릅쓰고 방향을 틀어야 할까? 당신이나 혹은 당신이 사랑하는 이의 생명이 위험에 처했다면 선택은 달라져야 할까?

최근 인공지능 분야의 진전으로 사람들이 있는 복잡한 실제 환경에서 독자적으로 목적을 추구할 수 있는 시스템을 만들 수 있게 됐다. 자율주행 자동차는 앞으로 등장할 다양한 자율적 기기들의 선봉일 뿐이다. 이 시스템들이 인간의 영역을 점점 더 침범함에 따라 그들에게 무엇이 허용되는지, 그들이 대신하는 사람은 누구인지 통제할 필요가 더 절실해질 것이다.

운전사 없는 자동차가 당신 앞을 휙 지나가더니 당신이 참을성 있게 기다리고 있던 주차 공간을 차지한다면 기분이 어떨까? 혹은 스타벅스에서 굶주린 고객들이 지켜보고 있는 가운데 한 로봇이 마지막 머핀을 사간다면 어떨까? 당신의 시종 로봇은 당신 대신 줄을 서거나 투표를 할 수 있도록 허용돼야 할까?

내 권한을 차에게 위임하는 것은 법의 의도를 약화시킨다. 공동체의 선을 위해 나에게 의도적으로 부과된 비용을 피할 수 있게 해주기 때문이다. 분명 우리는 이 새로운 발명품에 맞게 규칙을 수정할 수 있겠지만 전반적으로 적용할 수 있는 일반 규칙을 찾기는 어렵다. 우리는 규칙 하나하나를 검토하고 각 경우에 맞게 조정할 필요가 있다.

우리의 공용 공간을 다시 디자인하는 문제도 있다. 향후 수십 년 안에 상점, 거리, 보도는 갖가지 물건을 사오고 배달하는 로봇 기기들로 붐빌 가능성이 높다. 사람들이 군중들 속에서 움직일 때 무의식적으로 따르는 무언의 관습을 어떻게 이 기기들로 하여금 존중하게 만들 수 있을까?

우리의 영역을 기계들과 공유할지, 아니면 그들을 별도의 시설로 추방할지를 두고 토론이 벌어질지도 모른다. “안드로이드들을 통합시켜라!” 아니면 “봇들을 금지하라!”는 구호가 나올까?

우리가 우리의 원칙과 신념을 알고리즘으로 코드화할 수 있다고 해도 문제가 해결되진 않을 것이다. 지능 시스템이 규칙을 따르도록 프로그래밍하는 것만으로는 충분치 않다. 그 규칙을 깨는 것이 옳을 때가 있기 때문이다.

한 예로 교통 상황이 평균 시속 120km일 때 시속 88km의 속도 제한을 맹목적으로 따르는 것은 상당히 위험할 수 있다. 또 당신의 자율주행 자동차가 중앙선을 넘는 대신 보행자를 치는 것은 원치 않을 것이다.

사람은 기계가 따르기는커녕 인식하기도 어려운 사회적 관습을 자연스럽게 준수한다. 자신의 이해와 타인(혹은 사회 전체)의 필요 사이에서 적절한 균형을 찾는 일은 공정성, 호혜성, 공동의 이해에 따라 세밀하게 조정된 인간의 본능이다. 오늘날 이 놀라운 기기들을 시장에 내놓기 위해 분주한 엔지니어들은 사회 지능을 기계 안에 디자인할 준비가 되지 않았다. 그들의 진짜 도전은 인간 세상을 위해 문명화된 로봇을 만드는 일이다.