1.1. Sketches
마인드웨어(사고, 느낌, 희망, 공포, 믿음, 지성 등)를 "살로 이루어진 기계"(meat machine)의 작동으로 본다는 것은 정확히 무슨 뜻인가? 뇌가 실제로 컴퓨터라는 것이다. 즉, 뇌의 마인드웨어는 계산 시스템의 소프트웨어와 같다는 것이다.
Box 1.1. "동일한 기계"
동일한 기계가 다양한 물질로 만들어질 수 있다. 여기서 "동일한"이란 기능적으로 동일하다는 뜻이다. 뇌에 관해 중요한 것은 뇌가 어떤 물질로 만들어졌는지가 아니라, 그 물질이 사고와 행동을 만들어내도록 조직화된 방식이다. 같은 기능이 여러 서로 다른 물질과 설계 방식(designs)에서 나올 수 있다. 이 관점에 대한 유명한 반대 입장은 Searle 1980, 1992 참고.
마인드웨어와 소프트웨어를 동일하게 보는 관점은 한 가지 심오한 퍼즐에 대해 답이 되어준다. 물리적 대상에서 어떻게 합리적인(sensible), 이성적인(reason-respecting) 행동이 나올 수 있는가?
이 점을 살펴보기 위해 인공지능의 발전사를 알아볼 필요가 있다.
한 가지 중요한 발전은 형식논리의 강력함과 범위에 대해 알게 된 것이다. 형식논리는 기호들의 집합, 복합적인 명제들을 표현하도록 그 기호들을 결합하는 방식, 새로운 기호 복합체를 기존의 것에서 적절하게 도출하는 방법을 명시하는 규칙들로 이루어진 체계이다. 형식논리의 장점은 기호들이 실제로 무엇을 의미하는지 알지 못해도, 참인 전제에서 항상 참인 결론을 도출해낼 수 있다는 것이다. 형식논리는 기호에서 최소한 한 가지 종류의 의미론적 속성을, 그 의미를 이해하지 않고도 보존할 수 있게 해준다.
- 의미를 참조하지 않고도 기호들 간의 의미론적 관계(e. g. "A & B"가 참이면 "A"도 참이라는 진리 보존 관계)가 유지될 수 있다.
- 구체적인 물리적 제약에서 자유롭다.
다른 중요한 발전은 계산 개념 그 자체의 형식화이다. 튜링은 튜링 머신의 근본적인 개념을 발전시켰다.
하지만 고전적인 인지과학이 비로소 가능해진 것은 범용 전자 계산 기계를 실제로 만들 수 있게 되고, 고차원의 프로그래밍 기술이 발전하면서였다.
Box 1.4. 기계 기능주의
인공지능 발전에서 파생된 중요한 철학적 입장은 기계 기능주의이다.
심신동일론자들은 심적 상태가 뇌에서 진행되는 과정과 동일하다고 주장한다. 심신동일론의 한 가지 문제는 심적 상태와 뇌의 과정을 너무 밀접하게 보았다는 것이다. 심신동일론에 따르면 우리 뇌와 같은 것을 갖지 않는 대상들은 우리와 동일한 심적 상태를 가질 수 없다. 하지만 직관적으로 볼 때, 우리와 다른 뇌를 가진 대상도 최소한 원리적으로는 우리와 같은 심적 상태를 가질 수 있는 ㄱ서으로 보인다.
형식논리, 튜링 머신, 전자 계산 등에 대한 연구는 이에 대한 해답을 준다. 물리적인 것이 아니라 내적 조직화, 시스템의 추상적이고 형식적인 조직화를 봐야 한다는 것이다.
1.2. Discussion
(A) Why Treat Thought as Computation?
왜 사고를 계산으로 다루어야 하는가? 가장 중요한 이유는 사고자는 그 행동 패턴이 이성, 관념, 믿음을 따르는 물리적 시스템이기 때문이다. 전자 계산 기계는 "물리적 대상"이라는 것과 "이성에 따른다"는 것이 어떻게 함께 나올 수 있는지 보여준다.
포더는 사고의 흐름에서 내용적으로 결정되는 전환이 어떻게 일어나는지 다음과 같이 설명한다. "비가 온다"를 의미하는 신경 기호들이 있고, 그것의 물리적 속성들이 "실내로 가자"를 의미하는 기호들을 나타나게 한다는 것이다.
(B) Is Software an Autonomous Level in Nature?
마인드웨어와 소프트웨어를 동일시하는 관점의 한 가지 문제는 알고리듬, 기호, 프로그램 등에 대한 강조가 자연에 오해의 소지가 있는 구분을 조장한다는 것이다. 알고리듬과 하드웨어가 이론적으로 독립적이라는 점이 계산의 구현과 관련된 측면을 간과하게 만들었듯이, 생물학적 계산과 신체의 구성요소 사이의 관련성을 간과하게 만든다는 것이다.
또다른 문제는 마인드웨어와 소프트웨어의 동일시가 단지 도식적(schematic, [대략적이라는 뉘앙스가 있는 듯])이라는 것이다. 의미론적 패턴이 구문론적-계산적 조직화에서 나온다는 주장은 표준적 인공지능 접근부터 연결주의, 아날로그 계산 등 너무 많은 곳에 적용되는 말이다. 이것은 그냥 이원론을 거부한다는 것에 불과할 수도 있다.
다른 문제로, 같은 물리적 기계에 대해 서로 다른 여러 계산적 기술(description)이 있을 수 있다는 점을 들 수 있다. 물론 우리가 무엇을 설명하고자 하느냐에 따라, 그리고 계산적 기술의 수준을 어떻게 정하느냐에 따라 필요한 계산적 기술이 정해질 수 있다. 모든 문제에 대해 단일한 계산적 기술 유형, 수준이 있어야 할 이유는 없다.
Box 1.5. 계산이란 무엇인가?
계산이란 정확히 무엇인지 의견이 분분하지만 기본적인 합의는 되어 있다. 우리가 무엇인가를 컴퓨터라고 간주한다 because and only when 그것의 투입값과 산출값이 우리가 흥미롭게 생각하는 어떤 함수의 순서쌍을 유용하게(usefully) 그리고 체계적으로 표상하는 것으로 해석될 수 있다.
차머스는 물리적 시스템의 인과적 구조가 계산의 형식적 구조를 반영(mirror)할 때, 그 물리적 시스템이 계산적 기술을 구현한다고 말한다. 차머스는 모든 물리적 시스템이 몇몇 계산적 기술을 구현한다고 말한다. 그렇다고 해서 모든 물리적 시스템이 모든 계산적 기술을 구현한다는 것은 아니다. 특정 물리적 시스템이 특정 계산적 기술을 구현하며, 이는 사소하지 않고 흥미로운 사실이다.
(C) Mimicking, Modeling, and Behavior
컴퓨터 프로그램은 인간 마음의 다양한 측면을 설명하지 못하고 단지 모방하는 것으로 보이는 경우가 많다. 이러한 점은, 그런 프로그램이 인간 지능에 대한 좋은 모델인지, 아니면 어떤 형태의 실제 지능이기는 하지만 인간과는 다른 것인지를 구분해야 한다는 것을 보여준다.
"How do you define think? Does a submarine swim?"
이에 대해 진정으로 사고하는 시스템은 문제 해결에 인간 뇌와 동일한 종류의 계산 전략을 사용해야 한다고 주장할 수도 있고, 시스템의 행동에 초점을 맞춰야 한다고 주장할 수도 있다. 행동에 초점을 맞추는 것도 그 나름대로의 문제점이 있지만, 적어도 튜링을 비롯한 영향력 있는 이론가들이 어떤 시스템이 진정한 사고를 하는지를 가릴 때 왜 행동 측면에서 충분한 정도의 성공이 필요하다고 한건지 이해할 수 있다.
실천적으로 말해서, 행동에 초점을 맞추는 것이 도덕적으로 좀 더 안전하다. 어떤 대상이 인간과 다른 방식으로 사고한다고 해서 진정한 사고를 하지 않는다고 하는 것은 좀 그렇다.
(D) Conciousness, Information, and Pizza
의식에 대해서 언급할 두 가지 이유가 있다. 첫째, 강한 계산주의에 대한 반박으로 의식적 경험을 드는 경우가 많다. 둘째, 의식에 대한 고려는 정보적인 현상과 단지 물리적일 뿐인 현상의 차이를 부각시키는 데에 도움이 된다.
정말 중요한 것은 탄소 기반 유기물 구조가 의식에 결정적인 역할을 하느냐라기보다는(다른 물질로도 가능하다는게 명백하니까 - 존 설도 인정함), 한 시스템이 계산을 한다는 점이 그것이 의식적 경험을 하기에 충분하냐는 것이다.
"conscious awareness"가 다양한 종류의 현상을 포괄하는 너무 모호한 용어라는 점도 혼란을 가중시킨다. 어떤 사람은 이 단어로 자기 자신의 사고 내용에 대해 자각할 수 있는 능력을 가리키며, 어떤 사람은 잠에 들지 않고 깨어있는 상태를 가리킨다. 하지만 현재 맥락에서 주관적 경험("퀄리아")이라는 의미가 중요하다. 존 설을 비롯한 여러 학자들은 이런 질적인 감각이 프로그램이 아니라 구현(implementation)을 통해 설명되어야 한다고 주장한다.
이에 대한 두 가지 논증을 살펴보자.
첫째, "시뮬레이션은 예화와 다르다". 계산적 매체를 통해 시뮬레이션된 태풍이 아무것도 젖게 할 수 없듯이, 계산적 매체에서 뇌 상태에 대한 시뮬레이션이 질적인 느낌을 갖게 할 수 없다는 것이다.
둘째, 많은 느낌과 감정은 분명한 화학적, 호르몬 기저가 있으며, 따라서 (정말로 따라서?) 다른 매체로는 만들어지지 않는다는 것이다. "규소 기반 생명체가 체스는 할 수 있어도 술에 취하지는 않을 것이다".
위의 두 논증은 일종의 좀비 논증이다. 존 설은 우리 뇌를 규소 뇌로 점점 대체한다면 겉보기 행동은 변하지 않지만 내면적인 의식적 경험은 점점 사라질 논리적 가능성이 있다고 말한다.
이런 논증은 문제가 있다. 첫째, 의식적 경험이 사라지지 않을 논리적 가능성도 있다. 여기서 쟁점은 호르몬, 뇌를 이루는 유기물 등이 무슨 역할을 하느냐이다. 만약 그것들이 정보 흐름에 영향을 줌으로써 의식적 경험을 만든다면, 다른 물질로도 그런 일이 가능할 것이다. 반면 그것들 고유의 속성이 의식적 경험에 결정적인 역할을 한다면, 좀비 논증이 옳을 수 있다.
그러므로 해결해야 할 문제는 의식이 정보적 현상이냐는 것이다.
1.3. A Diversion
"강변이 아니라, 사실을 말씀드리는 겁니다. 그 생물체들은 이 구역에서 감각력을 가진 유일한 종족인데 고기로 이뤄져 있다는 겁니다."
"어쩌면 오르폴레이족과 비슷하겠군. 고기 단계를 거치는 탄소 기반 지능체 말일세."
"아닙니다. 그들은 고기로 태어나 고기로 죽습니다. 몇몇 샘플의 일생을 조사해 봤는데, 수명이 썩 길지 않았습니다. 고기의 수명이라니, 상상이 되십니까?"
"잠깐, 시간을 좀 주게. 좋아, 아마도 일부만 고기겠지. 왜 있잖아, 고기로 된 머리 안에 전자 플라스마 뇌를 가진 웨딜레이족처럼 말일세."
"아닙니다. 우리도 그렇게 생각했습니다. 실제로 웨딜레이족처럼 고기로 된 머리를 가지고 있어서요. 하지만 그들을 조사해 보니 전부 다 고기였습니다."
"뇌가 없어?"
"아, 뇌는 있습니다. 그런데 그 뇌가 바로 고깃덩어리였지요."
"그렇다면 생각은 어디로 하나?"
"아직 이해를 못 하셨군요. 뇌로 생각을 합니다. 그 고기로요."
"하, 생각하는 고기라! 지금, 생각하는 고기의 존재를 믿으란 말인가?"
"그렇습니다. 생각하는 고기, 의식이 있는 고기, 사랑을 하는 고기, 꿈을 꾸는 고기입니다! 그 모든 것을 고기로 합니다! 이제 이해가 되십니까?"
[테리 비슨(Terry Bisson)의 소설 일부를 저자가 인용한 것. 위의 번역은 스티븐 핑커, 『마음은 어떻게 작동하는가』 번역본 162-163쪽]
댓글 없음:
댓글 쓰기