개는 희망할 수 있는가? - 인간과 인공지능의 차이 : 생각함의 선험적 틀에 관하여

2018-1 인공지능과 마음

 

개는 희망할 수 있는가? - 인간과 인공지능의 차이

: 생각함의 선험적 틀에 관하여

 

 

【주제분류】 심리철학, 언어철학, 비트겐슈타인

【주요어】 인공지능, 생각함, 의도함, 언어

【요약문】 기계(인공지능)와 인간은 더 이상 차이가 없는가? 오늘날 인공지능의 끝없는 발전을 보고 있으면 우리는 더 이상 인간과 기계가 차별화되는 영역은 없다고 말해야만 할 것 같다. 실제로 인간의 고유한 영역으로 여겨졌던, 문학, 번역, 작곡, 바둑 등의 거의 모든 영역에서 기계는 인간을 거의 따라잡았거나, 인간보다 우월한 능력을 보여주고 있다.

그런데 인공지능을 설계하고 구현하는 역할은 과학에게 있지만, 과학이 인공지능을 최종적으로 구현한다 할지라도 여전히 위의 질문에 답을 할 수 있을지는 의문으로 남아있다. 왜냐하면, 인공지능의 “의미”는 여전히 명료화되지 않은 채로 남아있기 때문이다. 우리는 인공지능의 의미를 일차적으로 “인간과 동일한 능력을 수행할 수 있도록 설계된 기계”로, 특히 “생각할 수 있도록 설계된 기계”로 정의한다. 그런데 생각함, 특히 고등차원의 생각함-추리, 계산, 의도, 희망 등은 오랜 시간동안 인간의 고유한 능력으로 여겨져 왔다. 따라서 위의 정의를 우리가 보다 명료하게 이해하기 위해서는 인공지능 연구에 선행하여, “인간이란 무엇인가?”, “인간에게 있어 생각함이란 무엇인가”에 대해 먼저 성찰해봐야 한다. 그리고 이것은 전통적으로 철학, 특히 심리철학에서 다뤄온 문제이다.

따라서, 본고는 “인간에게 생각함이란 무엇인가?”를 탐구함으로써 위의 질문에 대한 답을 제시하려 한다. 이를 위해 본고는 크게 두 가지 작업을 수행한다. 첫째로, 생각함의 의미를 명료화하는데 초점을 맞출 것이다. 이는 언어 철학의 관점에서 위의 문제를 다룬다는 것을 뜻한다. 왜냐하면, 어떤 문제에 대한 해결가능성을 모색하기 이전에, 그러한 문제가 과연 성립될 수 있는 종류의 것인지를 먼저 분석해봐야 되기 때문이다. 둘째로, 이러한 작업의 구체적 방법으로 생각함의 선험적 틀을 분석한다. 인식이란 경험이라는 input을 받아들여 그대로 output으로 산출하는 것이 아니라 선험적 틀을 통해 구성하는 것이다. 따라서 생각함은 이러한 선험적 틀 위해서만 이루어질 수 있고, 따라서 인공지능의 구현가능성 역시 “이러한 선험적 틀은 설계 가능한 것인가”를 중심으로 사유해봐야 한다.

최종적으로 본고는 하나의 언어를 숙달한 존재만이 생각하거나 희망할 수 있다는 것을 보임으로써 인공지능이 공학적 설계를 통해서는 이루어질 수 없다는 것, 다시 말해, 인공지능을 통해 구현하려는 인간의 마음은 환원불가능하다는 것을 주장한다.

 

목차

1. 서론 – 인공지능 연구에 있어서 철학의 역할- 의미의 명료화

2. 본론

2.1. 인공지능과 생각함 – 튜링 테스트와 중국어 방 논증을 중심으로

2.2. 생각함의 선험적 틀 – 비트겐슈타인의 『철학적 탐구』와 『확실성에 관하여』를 중심으로

2.3. 언어 놀이와 삶의 형식 : 생각함이란 언어를 숙달한 존재에게만 가능하다.

3. 결론 – 마음의 환원불가능성 - 자연과학의 물음들과 철학의 역할

 

“우리는 동물이 화내고, 두려워하고,

슬퍼하고, 즐거워하고, 놀라는 것을 상상할 수 있다.

하지만 동물이 희망하는 것을 상상할 수 있는가? 어째서 상상할 수 없는가?“^[각주:1]

 

서론. 인공지능 연구에 있어서 철학의 역할- 의미의 명료화

 기계(인공지능)와 인간은 더 이상 차이가 없는가? 오늘날 인공지능의 끝없는 발전을 보고 있으면 우리는 더 이상 인간과 기계가 차별화되는 영역은 없다고 말해야만 할 것 같다. 실제로 인간의 고유한 영역으로 여겨졌던, 문학, 번역, 작곡, 바둑 등의 거의 모든 영역에서 기계는 인간을 거의 따라잡았거나, 인간보다 우월한 능력을 보여주고 있다. 몇 년 전에 등장하여 바둑계에 파란을 일으켰던 알파고(Alpha Go)는 계산과 추리가 필요로 하는 게임 중 인간만이 할 수 있는 게임으로 여겨졌던 바둑마저도, 기계가 압도적인 실력을 발휘할 수 있다는 것을 보여주었다. 심지어 인간의 활동에 있어 최후의 보루로 여겨지는 예술마저도, 인공지능이 쓴 소설이나, 번역문, 교향곡 등이 속속들이 발표되면서 기계가 인간보다 모든 면에서 우월하다는 인식을 우리에게 심어주고 있다.

 그런데 인공지능을 설계하고 구현하는 역할은 과학에게 있지만, 과학이 인공지능을 최종적으로 구현한다 할지라도 여전히 위의 질문에 답을 할 수 있을지는 의문으로 남아있다. 왜냐하면, 인공지능의 “의미”는 여전히 명료화되지 않은 채로 남아있기 때문이다. 우리는 인공지능의 의미를 일차적으로 “인간과 동일한 능력을 수행할 수 있도록 설계된 기계”로, 특히 “생각할 수 있도록 설계된 기계”로 정의한다. 그런데 생각함, 특히 고등 차원의 생각함^[각주:2]-추리, 계산, 의도, 희망 등은 오랜 시간동안 인간의 고유한 능력으로 여겨져 왔다. 따라서 위의 정의를 우리가 보다 명료하게 이해하기 위해서는 인공지능 연구에 선행하여, “인간이란 무엇인가?”, “인간에게 있어 생각함이란 무엇인가”에 대해 먼저 성찰해봐야 한다. 그리고 이것은 전통적으로 철학, 특히 심리철학에서 다뤄온 문제이다. 우리가 생각함에 대한 명확한 의미를 가지고 있지 않다면, 과학자들이 생각할 수 있는 기계를 만들었다고 주장한다 할지라도 어떻게 그것을 알아볼 수 있을까?

 따라서 인공지능의 의미에 대해 한번 고찰해보자. 우리는 기계를 인간이 수행할 수 있는 일을 대신 수행하는 도구로, 혹은 인간이 수행할 수 없는 일까지 수행하는 도구로 정의내릴 수 있다. 인공지능도 기계이므로, 인공지능은 인간이 할 수 있는 일, 나아가 인간이 할 수 없는 일까지 수행할 수 있는 도구이다. 그런데 이러한 정의는 인공지능에게만 들어맞는 것 같지는 않다. 이러한 정의를 받아들이자면, 망치나 나사, 끌 같은 도구도 인간이 할 수 있는 일이나, 할 수 없는 일을 수행할 수 있는 도구이고, 증기기관이나 컴퓨터 역시 마찬가지이기 때문이다. 따라서 조금 더 정의를 좁혀보자면 인간이 사용하는 도구 중에서도, 설계도를 통해 만들어낼 수 있는 보다 고차원적인 도구를 기계라고 부르는 것이 적합할 것 같다. 우리는 증기기관이나 컴퓨터 등을 그런 의미로 이해하고 있으니 말이다. 그러나 인공지능은 증기기관이나 컴퓨터와도 명백히 다르다. 그렇다면 인공지능과 증기기관, 컴퓨터의 차이는 수행할 수 있는 일의 차이인가? 그런 것 같지도 않다. 왜냐하면 컴퓨터가 할 수 있는 일들은 모두 인공지능도 할 수 있기 때문이다. 게다가 인공지능들은 각각의 부여받은 목적에 따라 상이한 역할들을 수행할 수 있다. 따라서 인공지능의 본질은 그것이 수행할 수 있는 능력의 가짓수에 있지는 않다. 우리가 묻고자 하는 것은 오히려, 소크라테스 식으로 그 모든 인공지능들을 인공지능이라 부를 수 있게 만드는 그것이 무엇이냐는 데에 있다.

 이에 대한 나의 대답은 인공지능은 인간의 마음, 혹은 지능을 구현하고자 하는 기계라는 것이다. 그리고 그것을 마음으로 볼 것이냐, 혹은 지능으로 볼 것이냐에 따라 인공지능은 두 가지로 나뉠 수 있다. 왜냐하면 마음은 지능을 포괄하는 개념으로 여겨지기 때문이다. 우리는 고통을 느끼는 것을 마음의 소관이라고 생각하지만, 이를테면 지능이 없거나 거의 없는 물고기나 가재 같은 생물들도 고통을 느끼는 것으로 알려져 있다.^[각주:3] 따라서 인공지능을 인간의 마음을 구현하는 기계라고 정의한다면, 사고, 추리, 계산, 의도, 고통을 느낌, 희망함 등의 모든 인간 마음의 능력들을 포괄해야할 것이다. 반대로, 인공지능을 마음 중에 지능만을 구현하는 기계라고 본다면, 마음의 어느 부분 까지를 지능으로 보아야할 지에 대해 고민해봐야 할 것이다. 고통을 느끼는 것은 지능이 없는 생물체도 가능하지만, 그러한 고통을 정의하고, 적극적으로 회피하거나 관리하며, 다양한 방식으로 표현하는 것은 일반적으로 인간이 할 수 있는 일, 인간이 지능을 통해 할 수 있는 일로 여겨지니 말이다. 따라서 일차적으로는 인공지능을 인간의 마음을 구현하려는 기계로 정의하고, 본고에서는 그 중 지능을 중심으로 논의를 전개하겠다. 다시 말해, 고통을 느낌과 같은 마음의 역할은 여기에서 다루지 않겠다는 뜻이다.

 그런데 인공지능이 구현하려는 것을 생각함으로 한정한다 할지라도, 생각함이라는 것은 여러 가지 의미를 지닐 수 있다. 이를테면 표상함이나, 의도함, 희망하거나 기대함, 논리적 추론, 수학적 계산 등을 의미할 수 있다. 따라서 본고는 “인간에게 생각함이란 무엇인가?”를 탐구함으로써 위의 질문에 대한 답을 제시하려 한다. 이를 위해 본고는 크게 두 가지 작업을 수행한다. 첫째로, 생각함의 의미를 명료화하는데 초점을 맞출 것이다. 이는 언어 철학의 관점에서 위의 문제를 다룬다는 것을 뜻한다. 왜냐하면, 어떤 문제에 대한 해결가능성을 모색하기 이전에, 그러한 문제가 과연 성립될 수 있는 종류의 것인지를 먼저 분석해봐야 되기 때문이다. 둘째로, 이러한 작업의 구체적 방법으로 생각함의 선험적 틀을 분석한다. 인식이란 경험이라는 input을 받아들여 그대로 output으로 산출하는 것이 아니라 선험적 틀을 통해 구성하는 것이다. 따라서 생각함은 이러한 선험적 틀 위해서만 이루어질 수 있고, 따라서 인공지능의 구현가능성 역시 “이러한 선험적 틀은 설계 가능한 것인가”를 중심으로 사유해봐야 한다.

 마지막으로, 인공지능 연구에 있어 주목할 점은 우리가 앞서 정의한 것처럼, 그것이 설계된 기계라는 것이다. 인공지능이 마음을 구현하려는 기계라고 정의하였으므로, 이것이 성공적으로 이루어지려면 마음이 설계될 수 있다는 것을 또한 보여야만 할 것이다. 그런데 문제는 마음이라는 것은 완벽하게 물리적인 것으로 보이지는 않는다는 점이다. 철학사적으로 영혼이나 정신과 동일시되기도 했었던 마음은, 흔히 물리적이지 않은 것으로 여겨진다. 따라서 인공 지능을 구현함에 있어 심리철학에서 해결해야할 가장 핵심적인 물음은, “인공 지능을 통해 구현하려는 인간의 마음이 물리적으로 환원 가능한 종류의 것인가?”라는 데에 있다. 왜냐하면 마음이 물리적으로 환원될 수 있는 것인지가 1차적으로 해명되지 않는다면, 우리가 물리적 차원에서 설계한 기계가 어느 날 스스로 생각할 수 있게 되더라도, 어떠한 과정을 통해 물리적 차원으로부터 “생각함”이란 물리적이지 않은 차원이 도출될 수 있는지 알 수 없기 때문이다. 또한, 이러한 해명이 이루어지지 않는다면, 우리가 왜 그것을 “생각함”이라 불러야 할지 알 수가 없다. 이것의 정당화는 외견상 유사성으로서만(이를테면 행동함) 파악될 수 있는 것일 텐데, 행동으로부터 생각하고 있음이 나올 수 없음은 존 설(John Searle)이 그의 중국어 방 논증에서 보여준 바 있다.

우리는 이것을 위에서 말한 것처럼 철학적 명료화를 통해 다루고자 한다. 철학적 명료화란 문제를 해결함에 있어 어떤 하나의 단일한 답을 제시하는 것이 아니고, 그것의 원초적 환원 불가능성을 드러내 보임으로써, 우리의 문제가 사실은 성립될 수 없는 종류의 것이었음을 보이는 것이다.

 

1장 인공지능과 생각함 – 튜링 테스트와 중국어 방 논증을 중심으로

1절 The Modern Prometheus, 기계는 생각할 수 있는가?

인공 지능(Artificial Intelligence)이란 무엇인가? 튜링(Alan Turing)에 따르면 그것은 바퀴가 달린 기계에 바퀴를 떼고 발을 붙이는 것이다.^[각주:4] 튜링은 이것을 조금 더 정교하게 표현하여 튜링 테스트를 창안했는데, 이것은 “기계랑 대화하는 인간이, 상대방을 기계가 아닌 인간으로 느끼게 된다면, 그 기계는 지능을 가지고 있음이 분명하다.”라는 주장이다.

물론 이러한 주장은 오늘날 조악한 것으로 받아들여지고 있다. 튜링이 살던 시대와 비교해본다면, 우리가 오늘날 거의 모든 소비행위에서 기계랑 대화하고 있음이 확인된다. 우리는 물건을 살 때 기계랑 대화를 하지, 종업원이랑 대화를 하지는 않는다. 길을 찾을 때나, 웹 검색을 할 때나, 심지어는 위로를 받을 때조차도 우리는 기계랑 대화함을 더 이상 신기하거나 불편하게 여기지 않는다. 이러한 상황을 가장 극단적인 사고 실험으로 보여준 작품이 호아킨 피닉스(Joaquin Phoenix)가 주연한 영화 《Her》^[각주:5]이다.

이 영화에서 기계는 단순히 상황적 맥락을 파악해 대화를 예측하는 수준을 벗어나, 심지어 사람에 대한 사랑의 감정까지 느끼는 것으로 보인다. 이것이 실제로 이루어질 수 있는 일인가는 논외로 한다 하더라도, 이 영화에서처럼 기계가 정말 사랑을 할 수 있다면, 우리는 기계가 일반적인 의미에서 생각할 수 있다고, 인간이랑 더 이상 다를 바가 없다고 여겨야 할 것이다. 이것은 인공지능 연구가 최종적으로 꿈꾸고 있는 이상을 보여준다. 즉, 우리가 설계한 기계가, 스스로 생각하고, 예측하며, 희망할 수 있는, 의도를 갖고 행동할 수 있도록 만드는 것. 다시 말해, 또 다른 인간을 창조하는 것. 우리는 인공지능을 만들려고 시도하는 학자들을 Mary Shelley가 이름 붙였던 것처럼 The Modern Prometheus^[각주:6]로, 제 2의 Frankenstein으로 부를 수도 있을 것이다. 그런데 이러한 의도를 가지고 인공 지능을 만들려고 하자마자 곧바로 발생하는 문제는, 위에서 이야기한 튜링테스트의 조악함에서 발견할 수 있다. 튜링이 테스트에서 가정했던, 기계가 인간이랑 대화하는 상황은 오늘날 지나칠 정도로 자주 일어나는 일이다. 그런데 우리가 깜빡 속고, 지금 대화하는 저 기계가 인간이라고 착각하게 된다고 하더라도, 설령 그러한 착각이 계속해서 발생한다 해서 우리가 저 기계를 생각하고 있다고 말할 수 있을까?

2절 ‘대화함’로는 기계의 생각함이 해명되지 않는다.

튜링테스트는 인간과 기계가 원활한 대화를 할 수 있으면 그것이 기계가 생각한다는 것을 증명한다고, 다시 말해, 대화함이 생각함의 기준이라고 여기고 있다. 이제 그 기계가 인간의 언어를 모방해서, 즉, 인간이 사용하고 있는 언어의 맥락으로부터 단어를 조합하는 것을 그저 분석해서, 혹은 배워서, 말을 한다고 가정해보자. 기계의 대화가 “분석”으로부터 이루어지는 것이라면, 이것은 input이라는 명령어를 넣을 때 output을 산출하는, 동전을 넣으면 음료수가 나오는 자판기와 다를 것이 없다. 이것이 보다 정교한 형태의 자판기라는 것은 분명해도, 내가 동전을 넣을 때마다 원하는 음료수가 나온다면, 즉, 내가 평소에 선호하는 음료수가 나온다면, 우리는 그 자판기가 적절하게 반응하고 있다는 사실 때문에, 자판기가 생각하고 있다고 말해야 할까? 이는 직관적으로 옳지 않기 때문에 튜링테스트의 적절한 반례가 된다. 대화로부터 “생각함”이 나오기 위해서는 아무튼 그 이상의 무엇인가가 필요하다.

따라서 튜링테스트를 좀 더 정교화해볼 수 있다.

기계가 생각하는 기계로 인정받기 위한 기준 iff)^[각주:7]는

1) 인간과의 원활한 대화가 가능해야하며,

2) 대화가 기존의 대화를 분석하여 모방함으로써 이루어지지 않아야 한다.

그렇다면 대화의 본질은 무엇일까? 우리가 대화의 본질에 대해 아직 정의내리지 않았기에, 이러한 기계에게서 무엇이 결여되어있는지에 대해 아직은 말할 수 없다. 그런데 튜링테스트가 실질적으로 전제하고 있는 것은 “대화가 이루어지고 있으면, 거기에는 생각함이 함축되어 있다. 그러니까 대화를 가능하게 하는 그것은 ‘생각함’이다.”라는 것이다. 따라서 여기에서 대화의 본질에 대해 고민할 필요는 없다. 오히려 대화를 가능하게 하는 그것, 대화가 이루어지기 이전에 필요한 그것에 “생각함”이 함축되어 있다는 것을 통찰하면 된다. 왜냐하면 그러한 요소가 결여된 대화는 그저 대화를 하는 것처럼 보일 뿐이지, 엄밀히 말하면 두 대화자 사이의 독백이라고 봐야 할 것이기 때문이다. 따라서 대화가 생각함의 필요조건이 아니고, 오히려 생각함이 대화의 필요조건이며 대화의 본질의 일부를 이루고 있다. 따라서 올바로 이루어지고 있는 대화를 규정해야만 기계의 “생각함”이 드러날 수 있을 텐데, 생각함은 이 “올바로 이루어짐”에 이미 포함되어 있으므로, 생각함을 규정하는 데 있어 대화함을 넣는 것은 순환논증의 오류에 빠지게 된다.

이러한 문제는 “대화를 배운다.”고 표현해도 해결되는 것이 아니다. 왜냐하면 무엇이 스스로 배울 수 있으려면, “생각함”으로서 배워야하고, 이것은 결국 “생각함”이 무엇인가의 문제로 돌아가기 때문이다. 배움이라는 단어가 우리가 구현하려하는 그것(즉, 생각함)을 함축하고 있기 때문에, 이 지점에서 우리는 아직 서명도 되지 않은 수표를 사용하려 하는 우를 범하고 있다.

따라서 이렇게 말할 수 있을 것이다: 생각함이 대화랑 어떠한 연관을 맺고 있는지는 아직 몰라도, 대화함 그 자체는 생각함으로부터, 혹은 생각함과 같이 이루어져야 한다. 그런데 앞서 우리가 해명하고자 했던 것은 결국 기계의 생각함이 아닌가? 그렇다면 기계의 대화함은 그것이 아무리 정교하게 이루어진다 할지라도 우리가 해명하고자 하는 문제를 건드리지도 못하고 있는 것이다. 생각함으로부터 대화함이 나온다면, 우리는 결국 생각함이 무엇인가의 문제로 돌아갈 수밖에 없고, 대화함과 생각함이 그저 같이 놓여있는 것이라면, 대화함으로서는 생각함의 문제를 건드릴 수조차 없으니 말이다.

튜링테스트에 대해 이와 유사한 반박을 가한 철학자가 위에서 언급했던 존 설(John Searle)이다. 존 설은 그가 제시한 중국어 방 논변에서, “그것이 아무리 복잡하고 ‘지능적이고’ 세련된 것일지라도 어떤 프로그램을 수행하는 계산 기계는 심성과 동등할 수 없다는 것을 보이고자”^[각주:8] 시도한다. 논증은 다음과 같다: 중국어를 전혀 모르는 사람이, 일련의 기호들을 받으면 다른 기호들로 변형시켜 산출하는 규칙들이 작동하는 중국어 방으로 들어간다. 여기서 기호들은 중국어 표현이고, 규칙들은 의미에 따라 적용되는 것이 아니라 형식적으로만 적용된다. 방은 중국어 표현들을 받으면 그에 적절한(마치 중국어를 완벽히 이해하는 사람이 방에 들어가 있는 것처럼) 대답들을 산출한다. 방에 들어간 사람은 중국어를 전혀 모르지만 이러한 형식적 규칙과 “통사론”에 따라 기호를 조작할 뿐이다. 그러나 밖에서 관찰했을 경우엔, 중국어를 완벽하게 이해하는 사람과 대화할 때랑 정확히 동일하다는 것이다. 하지만 직관적으로 중국어 방에 들어간 사람이 중국어를 이해하고 있다고 보기는 어려우며, 이러한 상황엔 중국어를 진정으로 이해하기 위한 “의미론”이 결여되어 있다는 것이 설의 반론의 핵심이다.^[각주:9] 따라서 튜링테스트는 기계의 “생각함”을 증명하기에 부적절하며, 이에 따라 다음 장에서는 “생각함”의 의미를 명료화함으로써 “생각함”이 선험적 틀 위에서 이루어진다는 것을 의미를 보이고자 한다.

 

2장 생각함의 선험적 틀 – 비트겐슈타인의 『철학적 탐구』를 중심으로

1절 생각함의 의미에 대하여 – 표상함과 희망함을 중심으로

서론에서 언급한 바와 같이 생각함의 의미는 다의적이다. 첫 번째로, 생각함은 칸트적 의미에서의 표상함을 의미할 수 있다. 여기서의 표상함이란 일차적으로 외부의 경험을 인식 주체가 직관을 통해 받아들여 산출해낸 인식을 말한다. 그러나 이러한 표상함은 위에 언급한 자판기의 비유에서처럼 단순한 input과 output의 관계는 아니다. 왜냐하면 “우리의 모든 인식이 경험과 함께 시작된다고 할지라도, 그렇다고 해서 우리의 인식 모두가 바로 경험으로부터 생겨나는 것은 아니”^[각주:10]기 때문이다. 우리는 감각을 통해 모든 인식을 얻지만, “감각 재료들 그 자체는 경험을 통해 수시로 수용되는 ‘잡다’한 것으로, 이것이 정리 정돈되어 하나의 주어[실체] 표상에 결합될 때, 우리에게는 ‘하나의’ 사물이 인식된다.”^[각주:11] 그러나 이 잡다를 정리 정돈하는 것은 경험적인 것이 아니며, 감성과 지성의 형식들로서 선험적(a priori)인 것이다. 따라서 잡다한 감각재료들은 선험적인 표상들에 의해 정돈되고 종합됨으로써 비로소 인식될 수 있다.^[각주:12] 즉, 경험들은 있는 그대로 받아들여지는 것이 아니고 인식주체에 의해 구성되는 것이다. 생각함, 즉, 사고(思考)를 이렇게 이해한다면, 인공지능의 과제란 경험에 앞서 경험을 구성할 수 있도록 하는 선험적인 틀을 만드는 것이 된다. 따라서 이 경우, 그러한 선험적 틀이 물리적으로 구현 가능한 것인가에 그 방점이 찍히게 될 것이다.

두 번째로 우리는 생각함을 희망함으로 이해해볼 수 있다. 위에서 언급한 비트겐슈타인의 말처럼, “우리는 동물이 화내고, 두려워하고, 슬퍼하고, 즐거워하고, 놀라는 것을 상상할 수 있다.”^[각주:13] 그런데 왜 동물이 희망한다고 상상할 수는 없을까? 이에 대해 우리는 충분히 동물이 희망하는 것을 상상할 수 있다고, 그런 일이 거의 일어나지 않거나 아예 일어나지 않을지도 모르지만, 만화나 동화에서 충분히 희망하는 동물을 그려낼 수 있다고 반박할 수도 있을 것이다. 그러나 우리는 동물이나 무생물이 희망하는 상상을 할 때 다만 그것들을 의인화시켜서(사람으로 만들어서) 상상할 따름이다. 왜냐하면 그들이 그들의 방식대로 희망하는 일을 우리는 믿을 수 없을뿐더러, 그런 일이 일어난다 할지라도 나는 왜 그들의 행위에 “희망함”이라는 이름을 붙여야 하는지 알지 못하기 때문이다. 이에 대해, 그렇다면 고통이라는 단어도 인간에게만 적용할 수 있는 것이며, 다른 동물들에게는 적용할 수 없는 것이냐는 반론이 나올 것이다. 이에 대해 나는 고통의 경우 인간과 다른 동물은 동일한 선험적 틀 위에 서있으며, 다만 희망함에 대해서는 인간만이 같은 선험적 틀을 공유한다고 대답하겠다. “어떤 개념이 사람의 글씨체가 지닌 특징에 대한 것이라면, 그것은 글을 적지 않는 존재에게는 적용되지 않는다.”^[각주:14]

따라서 본고가 주장하는 선험적 틀은 칸트와는 달리 의미론적 틀이다. 그것은 언어의 의미가 우리의 인식을 구성하는 선험적 틀이며, 또한 그것은 실재에 앞서 자의적으로 존재한다는 주장이다.

2절 언어의 자의성, 즉물적 정의의 문제

위의 주장을 옹호하기 위해서는, 본고가 품고 있는 언어철학에 대한 설명이 필요하다. 따라서 “이름의 의미는 무엇인가?”라는 질문에 답함으로써 본고의 언어철학을 드러내고자 한다. 현대의 언어철학은 크게 두 가지 조류로 나눠진다. 이름의 의미는 그 이름에 덧붙여진 기술어구의 연언^[각주:15]이라는 기술이론과, 이름이 지시하는 대상이라는 직접지시이론이 그것이다. 이 두 이론은 모두 설명에 있어 장점과 해결하기 어려운 난점을 가지고 있지만 이에 대해 논하는 것은 본고의 범위를 벗어남으로 다루지 않겠다. 또한 본고는 저 질문에 대한 이론을 제시하기 보다는, 오히려 그것에 대한 이론을 구성하는 것이 불가능함을 보이고자 시도할 것이다. “이름의 의미를 무엇인가?”를 우리는 “아이는 이름의 의미에 대해 어떻게 알게 되는가?”로 바꾸어도 좋을 것이다. 왜냐하면 아이가 이름의 의미에 대해 알기 위해서는 어른은 이름의 의미에 대한 설명을 해주어야 하고, 이름의 의미에 대한 설명은 곧, 이름의 의미가 무엇인가를 규정하는 데에도 도움을 줄 것이기 때문이다.^[각주:16] “아이는 이름의 의미에 대해 어떻게 알게 되는가?”라는 문제를 나는 즉물적 정의의 문제라 부른다. 왜냐하면 아이에게 어떠한 이름을 가르쳐줄 때에는 “이것은 책상이고, 저것은 의자야” 하는 식으로 사물의 예를 가리키면서 이름을 알려주기 때문이다.

우리는 흔히 언어를 실재로부터 벗어나 있는 것으로, 말하자면 실재로부터 구성되는 것으로, 혹은 실재를 지시하는 것으로 이해한다. 이러한 (실재를 거울처럼 반영하는) 언어관은 우리의 상식에서 당연한 것으로 여겨진다. 간단히 말해, 우리에게 언어가 존재하지 않아도, 우리는 실재를 인식할 수 있기 때문이다. 따라서 당연히 실재가 언어에 선행하지 않는가? 이러한 생각은 고전적인 언어철학에서부터, 크립키(Saul Kripke)의 직접 지시이론으로 대표되는 현대적 버전의 언어철학에서까지 널리 받아들여지고 있다.

누군가 이제, 사물을 지시함으로써 언어를 처음으로 배우기 시작하는 어린 아이에게 그 사물의 이름을 가리켜주는 상황을 떠올려보자. 그는 어린아이에게 ‘빨강’의 의미가 무엇인지 알려주고 싶다. 그렇다면 그가 어린아이에게 온통 빨간색 물감으로 칠해져 있는 도화지 한 장을 보여주고, 그 밑에 빨강이라는 명찰을 붙여줌으로써 아이는 ‘빨강’의 의미를 알게 되는가? 그러나 여기서 아이가 받은 ‘빨강’이라는 이름 하나로는, 아이는 도대체 그것이 무엇을 의미하는 지 알 수 없다. 이것을 과연 지시적 설명이라고 말할 수 있는 것인가? 왜냐하면 그가 준 ‘빨강’이라는 이름은 그 자체만으로는 아무런 기능을 하지 못하기 때문이다. 이것을 ‘A’라는 문자로 대체해도 좋을 텐데, 어떤 이가 나에게 위와 같은 도화지를 보여주면서 “이것의 이름은 ‘A’다.”라고 말한다면, 나는 그가 그 이름을 가지고 도대체 무엇을 하라는 것인지 알 수 없기 때문이다. 그러니까 그 ‘A’라는 이름은 도화지를 가리키는가? 아니면 도화지의 네모난 모양을 일컫는 말인가? 그도 아니라면 내가 그가 보여준 그림을 보고선 떠올린 심상에 대한 이름인가?　나는 그가 취한 지시(무언가를 가리키고, 그것의 이름을 알려주는 것)만으로는 그가 가리키는 것이 무엇인지 도저히 알 수 없다. 여기서 필요한 것은 “빨강”이라는 이름이 사용되는 방식이지, 이름이라는 텅 빈 기호 자체는 아니기 때문이다.

“29. 어쩌면 누군가는 ”둘“이 다음과 같은 방식으로만 지칭적으로 정의될 수 있다고 말할 것이다: “이 수(數)는 둘이라고 불린다.” 왜냐하면 여기서 “수”라는 낱말은 우리가 언어에서, 문법에서 어떤 자리를 그 낱말에 부여하는지를 보여주기 때문이다. 하지만 이는 우리가 지칭적 정의를 이해하기 전에 “수”라는 낱말이 먼저 설명되어야 한다는 것을 의미한다.- 그 정의에서 “수”라는 낱말은 실제로 이 자리- 우리가 그 낱말을 두는 위치-를 나타낸다. 그리고 우리는 “이 색깔은 이러이러하게 불린다.”, “이 길이는 이러이러하게 불린다.” 등으로 말함으로써 그러한 오해를 막을 수 있다. (중략) 자 우리는 바로 이 낱말들을 설명해야 한다.- 그렇다면 다른 낱말들을 통해서 설명하라! 그리고 이 사슬에서 마지막 설명은 어떤가? “^[각주:17]

문법이란, 그 이름이 문장 아래에서 어떤 방식으로 쓰이고, 어떤 규칙을 따르는지에 대한 일련의 사용을 의미한다. 따라서 이름이 무의미해지는 상황은 우리가 실제 대상을 지시하지 않아서 생기는 것도 아니며, 논리적인 제한으로 인해 생기는 것도 아니다. 오히려 문법을 따르지 않았을 때에 생기는 문제는 단지 대화의 상대방과 우리 자신조차도 그 문장을 어떻게 사용해야할지 알지 못하는데서 발생한다. 우리는 도로 위에 서있는 이정표의 규칙을 반드시 따를 필요가 없지만, 그로부터 발생하는 혼란은 이제 그 도로를 어떻게 주행해야할 지 알지 못하다는 데에 있다.

‘빨강’에 대한 지시적 정의를 사용하기 위해서, 나는 아이에게 “지금부터 ‘색깔의 이름’에 대해 알려줄 것“이라고 말하면서, 그를 위해 파랑색을 대조해 보여줌으로써 아이에게 ‘빨강’이 무엇인지 설명해 줄 수 있을 것이다. 여기서 우리가 설명을 위해 사용한 “색깔의 이름”은 문법에 관한 설명이며, 어떤 기호의 선험적 문법이 그 기호 자체에 선행해야 한다는 것을 보여준다. 이는 장기에 있어 왕의 의미를 배울 적에, 그 장기의 전체적인 규칙과 다른 장기 말들의 복합적인 역할 수행에 대해 알지 못한다면, 그것에 대해 제대로 배울 수 없는 것과 마찬가지다. 장기 말에서의 ‘왕’의 의미는 지시체로 규정되는 것이 아니라, 다른 말들과의 상대적인 관계로부터 규정된다. 즉, 지시는 이 상황에서 어떤 특정한 역할을 수행하기는 하지만, 단지 지시만으로는, 우리가 받은 그 이름을 가지고 어떤 규칙에 따라야할 지에 대하여, 그 의미를 설명하는 것이 불가능하다.

따라서 문법은 언어가 실체와 관계를 맺기 이전에 준비되어 있으며, 또한 그것이 실재로부터 도출되는 것이 아니고 다만 자립적으로 존립해있다. 다시 말해, 문법의 규칙은 언어가 실재를 그려내기 전에 미리 구성되어 있는 것으로, 논리적 동일성을 가지고 실재를 (거울처럼) 반영하지 않는다.

a) 따라서 기호와 사물 간에 논리적 동일성이 필요한 것 같지는 않다. 필요한 것은 오히려 말과 사물 간에 존립하는 모종의 내적, 논리적 관계이다. 어떤 의미에서, 말과 사물 간에 그러한 관계의 존립은 모종의 근본적인 -내적인- 동일성의 존립이다.

b) 논리 문법은 [이른바] 실재에게 자신을 해명하지 않는다. 논리 문법적 규칙들은 의미를 비로소 결정(bestimmen)하기 때문에, 혹은 구성(konstituieren)하기 때문에 그것들은 [독립적으로 주어져 있는 이른바] 의미에 근거를 두고 있지 않다. 이런 점에서 논리 문법은 자의적이다. ^[각주:18]

따라서 문법과 실재는 내적으로 동일하다. 문법은 그것이 성립되는 순간 곧바로, 실재의 무엇임(Was)에 대해 말하지, 실재의 어떠함(Wie)에 대해 말하지 않는다. 따라서 언어는 실재를 반영하는 것이 아니고, 실재에 대한 근거가 되며, 인식 주체에 있어서는 선험적 틀로 작용한다.

 

3장 언어 놀이와 삶의 형식 : 생각함이란 언어를 숙달한 존재에게만 가능하다.

앞서 본고 2장 2절의 논의에서 언어가 실재에 선행하는 선험적 틀이라고 주장하였으므로, “문법이나 규칙들은 실재나 자연의 사실들에 의해 결정되는 것은 아니다.”^[각주:19] 따라서 이러한 선험적 틀이 실재나 자연의 사실들에 근거하는 것이 아니라면, 그것을 물리적 차원에서 설계하는 것, 다시 말해, 인공지능을 구현하는 일은 불가능할 것이다.

그렇다면 이 선험적 틀이란 물리적 차원에서 분석할 수 없다는 뜻인가? 그 틀이 언어의 의미라 할지라도, 그것을 받아들이는 인간의 뇌 활동을 물리적으로 구현하면 인공지능을 구현할 수 있지 않을까? 본고는 이러한 일이 세 가지 이유에서 불가능하다고 주장한다. 첫 번째로, 언어의 의미는 문맥 속에서만 기능한다. 그리고 이러한 의미로부터 생각함이 구성된다. 따라서 이러한 관점에서 인공지능을 구현한다는 것은 문맥을 구현한다는 것을 뜻할 텐데, 이는 개별적이고 구체적인 삶의 흐름에 대한 이해가 생각함 이전에 선행되어야 함을 뜻한다. 따라서 인공지능의 구현에 있어서는 적어도 설계 이상의 것이 필요하다. 그런데 이러한 설계 이상의 것에는 과학적 탐구의 기반이 되는 단일한 설명을 제시하기가 어렵고, 따라서 기초적인 설계로부터의 창발이 아닌, 전체적인 마음의 설계도를 얻는 일은 불가능하다.

둘째로, 위에서 살펴본 문맥이란 인간이 정당화된 설명을 제시할 수 없는 사소한 자연사의 영역에 속한다. 자연수열의 덧셈이라던가, 원초적 신화의 유사성, 상징의 부여, 예술의 창조 등은 인간이기에 그렇게 행하는 것일 뿐 다른 정당화된 설명을 제시할 수 없다. 이러한 이유에서 인공지능이 어떤 삶의 흐름을 갖게 될 것인지 우리는 예측할 수가 없다. 인공지능은 그 자신의 고유한 삶의 흐름을 가질 뿐이다. 그런데 왜 인공지능의 특정한 행위를 인간적 의미의 “생각함”에 귀속시켜야 할까? 인공지능이 도구를 벗어난다면, 우리는 인공지능의 특정한 존재방식에 더 이상 “생각함”이라는 능력을 부여할 수는 없을 것이다. 생각함이라는 현상들은 인간의 복잡한 삶의 형식이 변형된 것들이다.^[각주:20] 인간의 삶의 형식이 언어 속에서 구현될 때에만 생각함이라는 단어는 의미를 갖게 된다.

마지막으로, 이러한 언어적 틀의 경계는 확고한 것이 아니다. 언어적 틀은 인간의 인식에 있어 선험적 조건이지만, 반대로 인간의 구체적 행위에 의해 새롭게 구성되고, 변화한다. 인식의 틀로서 존재하는 언어적 명제들은 문화와 시대의 흐름에 따라 변화한다. 이를테면, “‘지구가 존재한다는 것은 오히려 나의 믿음의 출발점을 이루는 전체 이미지의 일부이다.’(OC: 209) 이것뿐만 아니라, ‘상당수의 것이 우리에게 확고하게 보인다. 그리고 그것을 유통에서 배제된다. 그것은 말하자면 죽은 궤도이다.’(OC:210) 이럼에도 불구하고 이 유통에서 배제된 것, 죽은 궤도에 지나지 않는 것이 “우리 연구들에 형식을 주며, 우리의 모든 고찰의 골격에 속해 있다.‘(OC: 211)”^[각주:21] 따라서 이러한 주체와 언어 간의 상호작용, 역사와 언어와의 상호 작용은 또한 인공지능 설계에 있어 난점이 된다. 왜냐하면 이러한 변화가 물리적 차원에서 이루어진다고 할지라도, 인공지능 연구가 구현하려하는 “생각함의” 영역에 있어서는 핵심적인 것이 아니기 때문이다. 그것은 마치 시의 본질을 “물리적 표지인 글자와 소리로 이루어져 있음”이라고 말하는 것과 유사한데, 이러한 방식으로는 시의 본질을 포착할 수 없을뿐더러, 그것의 기능만 그대로 복제해 온다고 해도 설이 제시했던 중국어 방 논증의 핵심- 형식적 규칙과 통사론의 모방만으로는 적절한 의미론을 함축하지 못한다.- 으로부터 벗어나지 못하게 된다.

 

결론 마음의 환원불가능성 : 자연과학의 물음들과 철학의 역할

본고는 인공지능의 가능성 자체에 대해서는 긍정도 부정도 하지 않는다. 다만 본고가 글의 서론에서 제시했던 인공지능의 정의 – 인간의 마음을 구현하도록 설계된 기계라는 정의를 부합하면서 “생각함”을 구현하는 것은 불가능하다고 주장한다. 다시 말해, 인간의 마음과 생각함은 물리적 차원에서 설계 될 수 없는 것, 환원될 수 없는 지점을 가지고 있다.

마음이라는 상자에 대해 완전한 설명을 제시하고자 하는 현대과학의 집요한 욕망은 특정한 세계관이 모든 것을 설명해낼 수 있다는 과학의 진리성에 의존하고 있다. 자연과학은 객관적이고, 보편적이며, 현대의 어떤 다른 학문들보다도 뛰어난 설명을 제시해준다는 믿음이 현대의 모든 지배적 사유에 밑바탕이 되고 있다.

그러나 과학을 순전히 객관적인 학문이라고 부를 수는 없다. 왜냐하면 학문의 대상이, 탐구라는 과정을 통해 곧바로 학문의 지식이 된다고 말할 수는 없기 때문이다. 지식은 권력의 요구, 인정, 타자와의 긴장과 같은 조건 아래에서 생산되는 것이며, 이러한 관점에서 볼　때, 진리를 대상과 판단 사이의 일치로 여기는, 현대 학문의 이념 역시 결코 확고한 것이라 말할 수는 없다. “순수한 지식은 허상이다”라는 명제는 그래서, 학문의 대상과 지식의 조건 사이의 간극에서 발생하며, 우리는 학문의 대상이 과연 지식의 조건으로부터 자유로울 수 있는지, 역설적으로 그러한 조건이 탐구 방향을 이미 결정하고 있는 것은 아닌지에 대해 물음을 던져야 한다. 이는 오늘날 학문의 엄밀함으로서 요구되는 가치중립의 태도가, 역설적으로 하나의 가치를 지향함으로써 현대의 가장 큰 위험으로 드러나고 있다는 생각에 근거한다.

마음을 탈-신비화하는 과학과 물리주의의 경향들이 결코 객관성으로부터 얻어지는 것은 아니라는 것이다. 그 속에는 가치와 이념이 자리하고 있으며, 오늘날의 모든 지배적 가치는 진보라는 단어 속에 머물고 있다. 그리고 그 속에서 철학은 결코 온전히 평가받을 수 없을 것이다. 그러나 “진보가 그 실제보다 훨씬 위대해 보이는 법”^[각주:22]이라면 여기에 철학이 오늘날 무엇을 해야 하는지 대한 암시가- 비판으로서의 철학의 역할이 드러나고 있는 것이다.

 

참고문헌

 

한대석, 《말-사물 동일성 그리고 논리-문법 공간 존재론》, 철학 116, 2013, 101-148.

김영건, 《비트겐슈타인과 선험적 관념론》, 철학논집 제31집 Sogang Journal of Philosophy Vol. 31, 2012, pp.119-153

루트비히 비트겐슈타인, 《철학적 탐구》, 번역 이승종, 아카넷, 대우고전총서 041, 2016

루트비히 비트겐슈타인, 《청색책, 갈색책》, 번역 이영철, 책세상, 2006

김재권, 《심리철학》, 제 4장 컴퓨터로서의 마음 : 기계 기능주의, 번역 하종호, 김선희, 철학과 현실사, 1997

임마누엘 칸트, 《순수이성비판》, B판 서론, 번역 백종현, 아카넷, 2006

백종현, 《한국 칸트철학 소사전》, 아카넷, 2015

한겨레, 《물고기도 고통에 빠져 모르핀을 찾는다.》, 2018

http://www.hani.co.kr/arti/animalpeople/human_animal/827729.html

Spike Jonze, 《Her》, 2014

Alan Turing, 《The Engima of Intelligence》

Mary Shelley, 《Frankenstein, or the Modern Prometheus》

1. 루트비히 비트겐슈타인, 《철학적 탐구》, ⅰ, 1, 번역 이승종, 아카넷, 대우고전총서 041, 2016, p. 521 [본문으로]
2. 본고는 논의를 전개함에 있어 “생각” 대신에 “생각함”이라는 표현을 사용하고자 한다. 이는 생각의 능동적인 부분을 강조하려는 의도에서 쓰인 표현이다. 기계는 보통 input이라는 명령어를 “입력”하면 output이라는 결과를 “산출”하는 것으로 이해된다. 그런데 인공지능이 생각할 수 있는 기계라면, 그것은 인간이 내리는 수동적인 명령어만을 받아들이는 것이 아니고 보다 능동적으로, 스스로 받아들인 것을 구성하여 생각할 수도 있어야 할 것이다. 본고는 스스로 생각하는 것까지 인공지능이 구현하고자 하는 목표로 설정하겠다.(희망함 역시 마찬가지의 이유로 동명사를 사용한다,) [본문으로]
3. 한겨레, 《물고기도 고통에 빠져 모르핀을 찾는다.》, 2018 http://www.hani.co.kr/arti/animalpeople/human_animal/827729.html [본문으로]
4. Alan Turing, 《The Engima of Intelligence》, p.404 [본문으로]
5. Spike Jonze, 《Her》, 2014 [본문으로]
6. Mary Shelley, 《Frankenstein, or the Modern Prometheus》 [본문으로]
7. iff란 if and if only, 필요충분조건을 말한다. [본문으로]
8. 김재권, 《심리철학》, 제 4장 컴퓨터로서의 마음 : 기계 기능주의, 번역 하종호, 김선희, 철학과 현실사, 1997, p.175 [본문으로]
9. Ibid p.175-176 [본문으로]
10. 임마누엘 칸트, 《순수이성비판》, B판 서론, 번역 백종현, 아카넷, 2006, p.215 [본문으로]
11. 백종현, 《한국 칸트철학 소사전》, 아카넷, 2015, p.49 [본문으로]
12. Ibid p.51 [본문으로]
13. 루트비히 비트겐슈타인, 《철학적 탐구》 재인용 [본문으로]
14. Ibid p.521 [본문으로]
15. 연언이란, 논리적 상항의 하나로서 “그리고”를 의미한다. 이를테면 임마누엘 칸트의 의미는 “‘순수이성비판’의 저자” 그리고 “‘실천이성비판’의 저자”와 같이 기술 어구를 연언화하여 표현할 수 있다. [본문으로]
16. 루트비히 비트겐슈타인, 《청색책, 갈색책》, 번역 이영철, 책세상, 2006, p.15 [본문으로]
17. 루트비히 비트겐슈타인, 《철학적 탐구》, 29, 번역 이승종, 아카넷, 대우고전총서 041, 2016, p. 62 [본문으로]
18. 한대석, 《말-사물 동일성 그리고 논리-문법 공간 존재론》, 철학 116, 2013, 101-148. [본문으로]
19. 김영건, 《비트겐슈타인과 선험적 관념론》, 철학논집 제31집 Sogang Journal of Philosophy Vol. 31, 2012, pp.119-153 p. 139 [본문으로]
20. 루트비히 비트겐슈타인, 《철학적 탐구》, ⅰ, 1, 번역 이승종, 아카넷, 대우고전총서 041, 2016, p. 521 [본문으로]
21. 김영건, 《비트겐슈타인과 선험적 관념론》, 철학논집 제31집 Sogang Journal of Philosophy Vol. 31, 2012, pp.119-153 p. 141 [본문으로]
22. 루트비히 비트겐슈타인, 《철학적 탐구》, Moto, p. 21 [본문으로]