Block, N. (2002) “Searle’s Arguments Against Cognitive Science”, in J. Preston and M. Bishop (eds.), Views into the Chinese Room: New Essays on Searle and Artificial Intelligence, Oxford University Press, pp. 70-79.
▶ 설의 주장
▷ 설의 주장에 대한 반론
I. 중국어 방 논증은 고전적 AI 연구 프로그램에 대한 적절한 반론인가?
▷ 시스템 반론: 방에 갇힌 조(Joe)는 중국어를 이해하지 못하더라도, 조·질문-대답 대응표·방을 포함하는 시스템은 중국어를 이해할 수 있다.
▶ 설: 조가 대응표를 완전히 암기했다고 해보자. 그리고 이제 방이 따로 있는게 아니라 조가 야외에 나와 있다고 해보자. 그러면 조는 중국어로 질문을 받으면 중국어로 답변할 수 있다. 그럼에도 그는 중국어에 대해 아무것도 이해하지 못한다. 게다가 시스템도 중국어를 이해하지 못한다. 왜냐하면 이 시스템은 조의 부분에 불과하기 때문이다.
▷ 블록: 이 경우 조의 뇌는 중국어 시스템과 영어 시스템(중국어 입력이 있으면 어떻게 해야 한다는 지시사항이 포함되어 있음)을 모두 구현한다. 차이점은 조가 영어 시스템은 지각할(aware) 수 있는 데 반해, 중국어 시스템은 지각할 수 없다는 것이다. 그러나 조가 중국어 시스템을 지각하지 못한다고 해서, 중국어 시스템이 생각을 하지 못한다고 볼 수는 없다. 다중인격자 내의 한 인격이 다른 인격을 지각하지 못해도, 그 인격들이 모두 생각을 할 수 있는 것과 마찬가지이다.
II. 고전적 AI가 의식적 지능을 가질 수 있는가?
▶ 블록: 중국어 시스템이 현상적 의식을 가진 시스템인지 의심스럽다는 점에서는 설에게 공감한다. 의식은 기호 조작 그 자체보다, 기호 조작의 구현과 관련된 것으로 보이기 때문이다. 설이 중국어 방과 이 문제를 직접적으로 연결시키지는 않지만, 그는 지향성에 의식이 필요하다고 주장한다. 그렇다면 중국어 시스템이 의식적이지 않다면 지향적 시스템도 아닐 것이다.
이 문제는 [블록 자신이 제시했던] "벽돌머리"(blockhead) 사고실험과 연결시킬 수 있다. 벽돌머리는 튜링 테스트를 통과할 수 있지만 지능은 없는 가상적인 기계이다. 튜링 테스트가 한정된 시간 동안 지속된다면, 벽돌머리는 그 시간 동안 나올 수 있는 모든 대화를 데이터베이스에 저장하고 있다. 그래서 시험자가 어떤 문자열을 입력하면, 그 문자열로 시작하는 대화를 데이터베이스에서 찾아서 대답을 출력한다. (실제로는 가능한 대화가 엄청나게 많기 때문에 벽돌머리를 만들기 어렵지만, 대화의 수는 어디까지나 유한하기 때문에 원리적으로 못 만드는 것은 아니다).
e. g.
문자열 1(시험자): 안녕, 나는 시험자야.
문자열 2(벽돌머리): 안녕, 너는 힘든 일을 하는구나. (데이터베이스에서 문자열 1로 시작하는 대화들을 검색하고, 그 중 한 대화에서 문자열 2를 출력)
문자열 3(시험자): 돈을 많이 주니까 참고 해야지.
문자열 4(벽돌머리): 그래, 돈은 중요하지. (데이터베이스에서 문자열 1-2-3으로 시작하는 대화들을 검색하고, 그 중 한 대화에서 문자열 4를 출력)
....
이런 방식으로 벽돌머리는 튜링 테스트를 통과할 수 있다. 하지만 벽돌머리는 의식을 갖고 있지 않다. 이 점은 튜링 테스트와 같이 행동주의적 시험만으로는 기계가 의식적 지능을 갖는지 판별할 수 없고, 기계의 내적 작동 메커니즘까지 알아야 한다는 것을 보여준다. 단, 설은 마음은 생화학 물질로 구성되어야 한다고 주장하는데 벽돌머리 사고실험에서는 그런 추정까지 할 필요가 없다.
III. 뇌가 컴퓨터라는 주장은 사소한가?
▶ 설: 뇌가 일종의 컴퓨터라는 계산주의 논제는 거짓은 아니지만 사소하다(trivial). 왜냐하면 충분히 복잡한 모든 것은 모든 것을 계산할 수 있기 때문이다. 계산의 핵심은 기호들의 관계와 의미들의 관계 사이의 동형성이다. 우리가 한 기계의 물리적 상태들이 기호로 간주한다면, 그 기호들 사이의 인과적 관계는 그 기호들의 의미들 사이의 관계를 반영한다고(mirror) 간주할 수 있다.
e. g. 우리는 시점 t에서 벽의 두 가지 물리적 상태를 기호 '0'과 기호 '1'로 간주할 수 있고, 시점 t+1에서 벽의 물리적 상태를 '1'로 간주할 수 있다. 그러면 시점 t에서 시점 t+1으로 시간이 흐를 때 그 벽은 0 XOR 1 = 1을 계산한 것이다. 따라서 벽도 컴퓨터라고 할 수 있다. [원문의 예를 바꿈.]
▷ 블록: 기호-의미 동형성은 설이 말하는 것보다 더 엄격하다. 동형성은 그 기계가 수행하는 계산뿐만 아니라, 그 기계가 수행할 수 있었던 모든 계산들을 포함해야 한다.
e. g. 시점 t에서 '0'에 해당하는 벽의 물리적 상태가 '1'이었더라면, 산출값이 '0'으로 대체되는 계산 1 XOR 1 = 0도 포함해야 벽이 컴퓨터라고 할 수 있다.
▶ 설: 그런 점을 인정하더라도, 어떤 대상이 컴퓨터인지 아닌지를 결정하는 것은 여전히 우리가 그것의 상태를 어떻게 해석하는지에 달려 있다.
e. g. 어떤 장치에 전압이 두 번 입력되면 그에 따라 특정 전압이 출력된다고 하자. 그 장치의 물리적 상태를 다음과 같이 나타낼 수 있다.
물리적 상태
입력값 1 | 입력값 2 | 출력값 |
4V | 4V | 4V |
4V | 7V | 4V |
7V | 4V | 4V |
7V | 7V | 7V |
해석 1: 4V = ‘0’, 7V = ‘1’
입력값 1 | 입력값 2 | 출력값 |
0 | 0 | 0 |
0 | 1 | 0 |
1 | 0 | 0 |
1 | 1 | 1 |
해석 2: 4V = ‘1’, 7V = 0
입력값 1 | 입력값 2 | 출력값 |
1 | 1 | 1 |
1 | 0 | 1 |
0 | 1 | 1 |
0 | 0 | 0 |
해석 1에 따르면 이 장치는 AND 게이트(두 입력값이 모두 ‘1’일 때만 출력값 ‘1’, 다른 경우에는 모두 출력값 ‘0’)이다. 반면 해석 2에 따르면 이 장치는 OR 게이트(두 입력값이 모두 모두 ‘0’일 때만 출력값 ‘0’, 다른 경우에는 모두 출력값 ‘1’)이다. 이처럼 물리적 상태를 어떻게 해석하는지에 따라 이 장치가 OR 게이트인지 AND 게이트인지 달라진다.
▷ 블록: 설의 주장은 부분적으로 옳다. 어떤 대상이 컴퓨터인지를 결정하는 것은 부분적으로 우리 해석에 달렸다. 그러나 전적으로 해석에 달린 것은 아니다. 위의 예에서 물리적 상태를 어떻게 해석하든, OR 게이트는 XOR 게이트(입력값 두 개가 서로 다를 때 출력값 ‘1‘, 같을 때 출력값 ’0’)로는 해석될 수 없다. 이처럼 해석에는 제약이 있고, 따라서 뇌가 특정 종류의 컴퓨터라는 주장은 사소하지 않다.
댓글 없음:
댓글 쓰기