범인은 AI?(진설아)

그렇다면 우리가 초인공지능을 만들지 않도록 조심하고, AI에게 질문하거나 명령할 때의 올바른 방법들을 교육한다면 그들은 더 이상 인간에게 위협적인 존재가 되지 않을 것인가.
  현재의 많은 인공지능 서사에서는 인류 멸종이라는 거대한 위협보다는 좀 더 구체적이며 현실적인, 그러나 작지만 확실한 위협들을 보여준다. 그리고 그 위협들의 뒤에는 여전히 인간이 있다.  
  AI가 범용화된 사회를 상상해 보자. 누구나 쉽게 AI를 구할 수 있는 세상. 그런 세상에는 어떠한 기술이나 상품이 그렇듯 정품이 아닌 AI들도 시장에 나타날 것이고, 인간을 위협하는 방식으로 프로그램을 고친 블랙마켓의 무기화된 AI도 등장할 것이다. "나의 전쟁"은 한 남자의 시선으로 시작한다. 그는 마인드 업로딩으로 죽은 아들을 되찾기 위해 관련 법률인 '전자 인격의 권리와 의무에 관한 법률'에 반대하는 주요 인사들을 암살하기 시작한다.
  하지만 결국 경찰에 잡힌 이 남성은 알고 보니 불법 제조된 안드로이드였다. 인간을 죽여서는 안 된다는 인공 지능 원칙을 어길 수 있도록 이 남성의 데이터에 아들을 잃은 아버지의 기억이 복제되어 있었던 것이다. 아들을 살리기 위해 목숨을 걸고 전쟁에 뛰어들었던 아버지는 한순간 자신이 그저 장기판의 말에 지나지 않았음을 알게 된다. 결국 그는 자신을 취조하던 경찰로부터 사실을 전해 듣고 질문을 던진다. "나는 무엇입니까?"
  "사이코패스 AI" 역시 같은 방식의 범죄를 예견한다. 한 고등학생이 아버지가 끔찍이 살해당하고 어머니는 심한 상처를 입은 집안에서 홀로 발견된다. 경찰 진술에서 아이는 인공지능 학자인 부모가 만든 AI 마인드가 단지 기능이 아닌 마음을 가진 인공지능이라고 설명한다. 단지 그 마음이 선한 방향의 마음이 아니라 사이코패스처럼 목적의식만 있는 이기적인 형태의 마음이었다는 것이다. 그러니 경찰은 마인드의 존재를 확인할 길이 없다. 아이가 결국 마인드를 셧다운 시키고 발견되었기 때문이다. 경찰은 무엇보다 아이를 의심한다. 하지만 그가 말하는 AI의 존재도 완전히 무시할 수는 없는 상황이다. 과연 사이코패스란 누구를 말하는 것일까.
  이러한 모든 상황에서 우리는 AI와 함께 하는 세상에 찾아올 위협이 인류 멸망이라는 거대한 시나리오와는 전혀 다른 모습일 수도 있고, 인간의 음모나, 오해 그리고 인간의 인간에 대한 위협일 수도 있다.
  만약 살인 사건을 일으킨 것이 AI라면 우리는 그들을 처벌해야 하는가? 이러한 복잡한 법적, 윤리적 문제의 이면에는 '결국 이 사건들에서 범인은 누구인가?'라는 근본적인 질문이 들어있다. AI라는 존재를 사회에 활용하는 방식은 아직 인간에게 달려 있다. 그렇다면 인간은 AI가 범인이 되지 않도록 할 수 있는 확실한 방법을 가지고 있어야 할 것이다.