로봇 3원칙의 작동 원리(진설아)

아시모프는 로봇을 상상의 존재가 아닌 현실의 존재로서 재현해낸 최초의 작가다. 그는 「아이, 로봇」에서 로봇들에게도 '마음'이 있고 '의식'이 있다는 것을 보여준다.
  그렇다면 '의식' 있음의 상태란 무엇일까? 과학철학자 대니얼 데닛(Daniel Dennet)은 우리가 특정 대상의 의식 있음 상태를 쉽게 부정할 수 있는 것은 그 대상에 대해 구체적으로 생각해 보지 않았기 때문이라고 말한다. 우리는 그저 인간 중심적으로, 인간처럼 행동하고 말하는 것을 '의식' 있는 상태라고 규정한다. 우리가 박쥐의 의식을 경험하기 위해서는 우선 박쥐의 삶을, 그 생활의 방식과 세상을 바라보는(듣는) 초음파의 세계를 이해할 수 있어야 한다(Dennet, 1991/2013).
  아시모프는 '지능'과 '의식'이 있는 존재로서 로봇이 인간 사회에서 어떻게 '살아가는지', 그 구체적인 모습을 재현한다.

(제1원칙, 로봇은 인간에게 해를 입혀서는 안 된다. 그리고 위험에 처한 인간을 모른 척해서도 안 된다.
제2원칙, 제1원칙에 위배되지 않는 한, 로봇은 인간의 명령에 복종해야 한다.
제3원칙, 제1원칙과 제2원칙에 위배되지 않는 한, 로봇은 로봇 자신을 지켜야 한다. <Asimov, 1950/2024>)

  이 세 가지 원칙이 추후 공학계에서 범용 로봇의 원칙이자 가전제품의 원칙으로서 통용되었다는 점은 흥미롭다. 왜냐하면 「아이, 로봇」에서 아시모프가 보여 주고 있는 것은 이 원칙들이 어떻게 충돌하고 깨지고 있는지이기 때문이다. 로봇이 마치 의식 없는 가전제품과 같다면, 이 3원칙은 말 그대로 원칙으로서 남을 수 있다. 하지만 아시모프는 「아이, 로봇」 안에서 이 세 가지 원칙이 어떻게 끊임없이 위배되고 문제를 일으키게 되는지를 보여 준다.
  말할 것도 없이 로봇 3원칙이란 로봇이 아닌 인간이 만든, 인간 중심적인 원칙이다. 물리학과 지능을 함께 갖게 될 강력한 로봇이라는 존재가 어떻게 인간에게 계속 복종하면서 인간을 위해 일할 수 있도록 할 것인지가 이 3원칙의 중심을 이룬다. "로비, 소녀를 사랑한 로봇"의 로비처럼 로봇은 인간이 자신을 버리더라도 끝까지 인간을 지키기 위해 희생하는 존재여야만 하는 것이다.
  하지만 만약 로봇에게 물리적 위협을 줄 수 있는 업무를 인간이 명령한다면 어떠한 결과를 가져오게 될까. 마치 스피디처럼 계속 오고 가고를 반복하며 주어진 업무를 수행하지 못한 채 스스로 해결할 수 없는 모순에 빠지게 될 것이다("스피디, 술래잡기 로봇"). 이처럼 「아이, 로봇」 속 로봇들이 모순에 빠지고 원치 않는 방향으로 인간에게 해를 입히게 되는 과정은 모두 인간이 세워 놓은 3개의 대원칙과 로봇 개체들이 가진 개성 혹은 그들이 인간과 맺고 있는 관계의 문제에서 발생한다. 이들은 추상적인 로봇이 아닌 지능을 가진 존재들이기 때문이다.