왜 로봇의 도덕인가/웬델 월러치·콜린 알렌 지음/노태복 옮김/메디치미디어 448쪽/2만 1000원

인류가 수억 년에 걸쳐 이룬 지적 능력을 초월하고 자각 능력까지 갖춘 슈퍼컴퓨터 ‘트랜센던스’, 스스로 생각하고 느끼며 인간과 사랑까지 나누는 인공지능 운영체제 ‘사만다’가 요즘 극장가에서 각광받고 있다.

이런 공상과학 소설과 영화의 이야기가 머지않은 미래에 현실이 될 것이라고 생각하는 사람들이 적지 않다. 인간의 감독 없이 스스로 판단하는 인공지능 시대에 로봇을 포함한 지능적 기계의 윤리 지침은 어떻게 만들어야 할까.

미국 예일대 생명윤리를 위한 학제간 센터 소속 윤리학자인 웬델 월러치와 콜린 알렌 인디애나대 인지과학 교수가 쓴 ‘왜 로봇의 도덕인가’는 로봇 윤리라는 다소 생소한 분야에 관한 입문서다.

책은 로봇의 도덕에 관한 연구가 지금 왜 필요한지부터 설명한다. 현대에는 상상가능한 모든 장치 속에 컴퓨터 칩이 내장되어 인간의 활동을 편리하게 해준다. 인터넷 검색에서 온라인 쇼핑에 이르기까지 온갖 가상 환경 속의 소프트웨어 ‘봇’(bot)들이 데이터를 분석하고 이 작업을 수행한다.

급기야는 스스로 도덕적 결정을 내려야 할 정도로 엄청나게 복잡한 기술적 단계에 다달아 있다. 책에서는 이런 컴퓨터 시스템을 ‘인공적 도덕행위자’(AMA)라고 부른다.

문제는 인간의 감독을 벗어나 스스로 결정을 내릴 수 있는 컴퓨터 시스템에 의해 큰 재앙이 일어날 가능성이 점점 늘어나고 있다는 점이다. 현대의 컴퓨터시스템은 각기 다른 회사·연구소에서 모듈식 설계를 통해 만든 제품의 조합으로 이뤄지고, 워낙 복잡해서 어떤 시스템이 새로운 상황에서 어떻게 반응하고 행동할지 누구도 완벽하게 파악할 수 없기 때문이다.

저자들은 그 재앙이 어떻게 시작되는가를 생생한 시나리오를 통해 섬뜩하게 보여준다.

이어 ‘인공지능 컴퓨터가 도덕적 결정을 내릴 필요가 있다면 공학자와 철학자는 이를 어떻게 설계해야 하는 것인가’라는 공학적 과제를 다룬다.

로봇공학, 철학, 인지과학, 도덕심리학, 신경윤리학, 진화생물학 등 다양한 분야의 최신 연구성과를 동원하지만 인문학의 모호함을 명쾌한 알고리즘으로 변환해 프로그램으로 만드는 공학적 과제는 지난한 작업임을 알려준다.

저자들은 “옳은 일과 나쁜 일을 구별할 수 있는 로봇의 설계 과정이 인간의 윤리적 의사결정 과정을 따라야 하는 일인 만큼 로봇의 도덕을 구현하는 것은 결국 인간을 이해하는 과정”이라고 말한다.

함혜리 선임기자 lotus@seoul.co.kr