인공지능을 향한 두려움의 실체

 

 

 

지난 3월 9일부터 15일까지 전 세계는 프로기사 이세돌 9단과 구글이 개발한 인공지능 프로그램 알파 (AlphaGo)의 대국으로 뜨거웠다. 알파고의 승리는 인공지능이 인간의 존엄성을 침범할 수도 있다는 우려의 목소리까지 나오게 했다. 두려움의 시대 속 과연 인간은 인공지능을 어떤 존재로 인식해야 할까.

  지난 3일 302관(대학원) 503호에서 열린 중앙철학연구소와 연구모임 ‘미명’의 하계 학술발표회에서 김진형 교수(서울시립대 교양교육부)가 그 해답을 제시했다. 강연의 주제는 ‘호모 파베르(Homo Faber)와 호모 에티쿠스(Home Ethicus) 사이에서’다.

  나약한 인간의 두려움
  알파고와 이세돌의 대국 중 이세돌을 응원하는 대중들의 모습에서 알파고에 대한 ‘두려움’을 엿볼 수 있었다. 둘의 대국은 기계가 기계 같지 않다는 놀라움으로 시작해 기계의 비범함에 대한 두려움을 거쳐 그 두려움을 해소하려는 자구적인 노력으로 전개됐다. 기계에 대한 감정적인 반응과 기계를 이해해보려는 이성적인 노력, 그리고 기계와 인간에 대한 이성적 성찰이 지난 대국을 통해 드러났다.

  두려움은 크게 두 가지 명제를 대상으로 한다. 첫 번째 두려움은 인간보다 뛰어난 능력을 지닌 기계의 존재에 대한 두려움이다. 김진형 교수는 이는 기계와 인간의 전쟁 시나리오를 떠올리기 때문이라고 말한다. 인간에 대한 기계의 공격을 상상하기 때문에 기계를 두려워한다는 것이다.

  기계가 인간을 대체해 일자리를 뺏을 것이라는 불안도 첫 번째 두려움에 속한다. 하지만 김진형 교수에 따르면 이 또한 공연한 상상일 뿐이다. 왜냐하면 그동안 인류의 존속과 번영은 인간 능력을 효율적으로 대체하는 도구의 발견과 발명을 통해서만 이뤄져 왔기 때문이다.

  두 번째 두려움의 실체
  주목해야 할 두려움은 바로 두 번째 두려움이다. 그 두려움은 알파고가 사람이 아닌 기계라는 사실 자체에서 발생한다. 하지만 김진형 교수는 묻는다. 과연 기계를 두려워한다는 것은 논리적으로 가능한 일인가. 그는 인간이 인간의 한계를 뛰어넘는 비행기에 대해 두려움을 느끼지 않는 사실에서 본다면 기계 자체는 기본적으로 두려움의 대상이 아니라고 말한다.

  그렇다면 이 두려움의 본질은 어디에 있나. 이를 김진형 교수는 ‘알파고가 사람이 아닌 기계’라는 두려움을 ‘인간이 아닌 알파고가 인간처럼 행동한다’는 사실에 대한 두려움으로 재해석해 설명한다.

  또한 행동이 인간의 ‘생각’과 밀접하게 결부된다는 점에서 본다면 기계에 대한 두려움은 ‘인간처럼 생각한다’는 사실에 대한 두려움으로 귀결된다. 이는 행동이 심성을 구성한다는 행동주의적 사고에 따라 뛰어난 인간처럼 판단하는 듯한 알파고의 행동을 곧 심성을 가진 인간의 행동과 같은 것으로 등치시키는 것이다. 결국 최종적으로 두 번째 두려움의 실체는 기계가 인간일 수도 있다는 것이다.

  기계가 인간일 수 있다면, 우리는 기계를 두려워해야 하는 것인가. 김진형 교수는 기계가 인간일 수 있다는 것은 전혀 두려워할 일이 아니라고 주장한다.

  기계에 대한 두려움은 인공지능이 인간의 존엄성을 침해할 수도 있다는 우려에서 기인한다. 이는 두 가지 요인을 토대로 하는데 첫 번째는 인간이 ‘기계vs인간’이라는 구도에 갇혀 있다는 사실이다. 두 번째는 인공지능이 인간만의 고유한 능력을 갖춘 존재이며 능력의 질에서 보자면 인간보다 뛰어나다는 인식이다.

 하지만 이에 대해 김진형 교수는 전혀 설득력이 없는 답변이라고 말했다. 알파고는 왜 ‘감히’ 이런 능력을 갖춰서는 안 되는 존재인지도 알 수 없는 상황이기 때문이다.

  알파고와 인간은 다르지 않다
  김진형 교수는 만약 알파고가 인간의 존엄성을 훼손할 수 있다고 생각하려면 알파고가 인간과 다르다는 것을 증명해야 한다고 설명한다. 이에 그는 알파고의 생각이 인간의 생각과 다르다는 것을 보여준 서얼(Searl. J)의 ‘중국어 방 논증’을 인용해 주장을 펼친다.

  중국어 방 논증에 의하면 중국어를 모르는 사람이 중국어로 이뤄진 질문의 답변을 이미 알고 있는 상태에서 질문에 대한 답을 했다면 이는 중국어를 이해하고 있다고 볼 수 없다. 기계도 마찬가지다. 기계는 사고를 통해 질문에 대해 답하기 보다는 이미 입력된 답을 내놓고 있을 뿐이다. 그러므로 기계는 심성을 토대로 이뤄지는 인간의 ‘이해’ 능력을 가질 수 없다.

  그러나 김진형 교수는 중국어 방 논증은 오류이며 알파고와 인간은 다르지 않을 수 있다고 반론한다. 중국어 방 논증에 입각하면 알파고는 알고리즘을 통한 ‘계산’으로 이세돌의 수에 대응했기 때문에 이는 ‘이해’를 바탕으로 한 이세돌의 수와는 질적으로 달라야 한다.

  하지만 아직 계산이 이해와 다르다고 입증된 바는 없다. 그렇기 때문에 계산이 이해와 다르다는 것을 밑바탕으로 알파고와 인간의 차이성을 뒷받침하는 것은 증명되지 않은 논리의 되풀이일 뿐이다. 이로써 알파고와 인간의 차이에 대한 주장은 설득력을 잃고 만다.

  또한 김진형 교수는 ‘직관’으로 인해 이해와 계산의 질적 차이성이 생긴다는 일각의 주장도 반박한다. 그가 반대하는 것은 이해에는 계산에 포함될 수 없는 ‘직관’이 있으므로 이해와 계산은 다르다는 논리다. 이에 대해 김진형 교수는 직관을 인간 사고의 고유한 발생물이 아니라고 주장한다. 직관은 단지 우연의 산물이므로 인간과 기계를 가르는 기준일 수 없다는 것이다.

  이세돌이 4국에서 둔 78번째 수와 알파고가 2국에서 둔 37번째 수를 보면 직관이 우연의 산물임을 알 수 있다. 78번째 수는 이세돌이 알파고를 이기는 데 기여한 이례적인 수로, 흔히 ‘신의 수’라고 불린다.

  김진형 교수에 의하면 78번째 수는 이세돌의 오랜 대국 경험에서 우러나온 경험적 결과가 아닌 우연적인 결과물이다. 또한 알파고의 37번째 수도 당시 알파고의 정책망과 가치망의 신경망 구조가 작동하지 않은 직관, 즉 우연의 산물일 수 있다. 이로써 직관에 대한 주장을 통해 인간과 인공지능을 가르려는 시도는 무산된다.

  결국 알파고는 인간과 다르지 않은 존재일 수 있다. 그러므로 인간은 알파고를 신인류로서, 인간처럼 대우해야 한다. 또한 인간과 다르지 않은 알파고를 놓고 존엄성 문제를 거론할 필요도 없다.

  또한 만에 하나 현재 일고 있는 우려처럼 알파고가 인간의 존엄성을 위협하는 일이 발생한다면 이는 호모 파베르로서 알파고를 창조한 인류가 감당해야 할 시련이다. 그 시련을 해결하는 것은 호모 에티쿠스로서 떠맡아야 할 과제다.

  그렇다면 당연히 겪어야 할 시련으로 인해 인류가 결국 종말을 맞게 될 경우는 어떻게 할까. 김진형 교수에 의하면 이는 호모사피엔스로서 인류가 받아들여야 할 숙명일 뿐이다.