지난 글에서 필자가 언급했듯이 자유의지는 통제불능성을 암시하기에 인공지능의 위험성을 평가하는 데 있어 핵심적인 위치를 차지한다. 그런데 인공지능에게 있어 자유의지란 그 외에도 인공지능이 인간론의 주제로 편입되는 데 중요한 역할을 맡고있다. 어떤 것이 인격체로 인정받기 위해서는 자유의지를 가질 수 있는 지 여부가 매우 중요하기 때문이다. 하지만 인간 외의 어떤 다른 지성체 또는 생명을 인격체로 판단할 것인가는 단지 자유의지만으로 결정되지 않는다. 예를 들어 단세포 동물인 짚신벌레가 아무런 방해를 받지 않는 상태에서 자기가 가능한 수준에서 섬모를 움직이며 원하는 대로 이동하면서 ‘낮은 수준의 자유의지’를 행사할지라도,[i] 일반적으로 우리는 그것을 인격체라고 부르지 않는다.[ii] 인격체에겐 분명 자유의지 말고도 기대되는 특성들이 더 있는 것이다. 그렇다면 어떤 것이 인격체로 판단되기 위해 필요한 기본 조건들은 무엇일까?
우선 외부 환경을 통해 지각 또는 입력되는 정보들을 처리할 ‘지능’이 필요할 것이다.[iii] 이것은 아직 인격이라 칭할 수 없는 현재의 약인공지능이나 하등 생물 차원에서도 어느정도 이미 구현되어 있다. 그래서 여러가지 기본 조건들 중에서 지능만을 생각할 때 문제는 얼마나 고급 정보처리능력을 가질 수 있는 가인데, 만약 강인공지능이나 초인공지능의 정의에서 ‘자의식’이나 ‘자유의지’라는 단어를 삭제하고 단지 모든 영역에서 인간 수준의 또는 인간을 훨씬 초월하는 정보처리를 보여주는 범용인공지능이라고만 설명한다면,[iv] 강인공지능과 초인공지능의 출현은 단지 시간문제이며 지능의 수준만으로는 인간론의 주제로 편입되기에 충분한 자격을 갖출 것이라고 생각하는 사람들이 많을 것이다. 그러나 정보처리능력으로 측정되는 지능이 반드시 의식을 전제하는 것은 아니라는 것을 생각해보면, 이렇게 자의식과 자유의지를 삭제한 정의만을 만족시키는 강인공지능, 초인공지능을 인격체로 받아들이기엔 여전히 부족한 느낌이다.[v]
어떤 대상을 인격체로 받아들이는 데 있어서, 그 대상이 ‘의식’을 소유하고 있는지는 많은 이들에게 중요한 문제가 된다. 그 대상이 하등 생물이라고 할지라도 그것이 자신의 의식 안에서 고통을 느낄 수 있다고 생각되면, 그것을 대하는 우리의 태도는 조심스러워 지기 마련이다. 그런데 우리는 보통 고성능의 계산기나 현재까지 개발된 로봇들에게 의식이 있다고 생각하지 않기 때문에, 일정 정보처리능력에 있어 우리보다 더 뛰어난 능력을 보인다 할지라도, 인격체는커녕 하등 생명체로도 여기지 않는다. 인공지능 역시 이러한 맥락 안에서 의식을 소유할 수 없다고 생각하는 사람들이 있는 한편, 인간처럼 많은 영역에 반응할 수 있는 범용인공지능이 개발된다면 그것은 이미 의식을 가진 것이나 마찬가지라고 주장하는 사람들도 많다. 의식이란 철저하게 주관적인 영역이어서 어차피 인간이라는 종(species) 안에서도 다른 사람이 의식을 소유했는지는 그 사람이 여러가지 상황에 보이는 태도와 반응을 통해서 밖에 판단할 수 없는데, 튜링 테스트를 통과한 범용인공지능이라면 (감각질을 중요하게 여기지 않는 기능주의적 관점에서는) 충분히 지능과 사고 능력, 의식을 가졌다고 볼 수 있다는 것이다.
여기서 튜링 테스트(Turing test)란 영국의 수학자 앨런 튜링(Alan Mathison Turing)이 1950년에 제안한 것으로 한쪽엔 사람을 다른 쪽엔 인공지능을 두고, 글을 통해 대화를 하여, 어느 쪽이 사람인지를 구별해 내는 일종의 블라인드 테스트(Blind test)인데, 만약 이 테스트에서 인공지능이 성공적으로 사람처럼 대화하여 어느 쪽이 인공지능인지 판단할 수 없다면, 그 인공지능은 인간 수준으로 사고를 하며 지능을 가지고 있다고 생각될 수 있다는 것이다.[vi] 그런데 인공지능이 이 테스트를 통과한다고 해서, 그것이 의식안에서 감각질을 가지고 인간처럼 파란색 빨간색에 대한 시각적 느낌이나, 간지러움이나 아픔 같은 통각적인 느낌을 가진다고 볼 수는 없다. 물론 많은 SF 소설, 만화, 영화에서 감정을 가진 인공지능을 그리고는 있지만, 인공지능 안에서 감각질의 실현 가능성 문제는 강인공지능의 실현 가능성을 확신하는 사람들조차도 장담하지 않는다.[vii] 그러나 어떤 의식을 가진 지성체가 인간이 느끼는 방식과 동일한 양상으로 색, 맛, 온도 등에 대한 감각이나 기쁨과 슬픔과 같은 감정을 가지고 있지 않다고 해서 인격체의 자격이 없다고 말할 수 있는지는 생각해볼 문제이다.[viii] 이미 어떤 장애가 있어 감각에 이상이 있거나 일부 감정을 느낄 수 없는 사람들의 예가 있는데, 그들은 당연히 인간으로 인격체로 여겨 지기 때문이다. 그래서 어떤 지능을 가진 것이 외부 환경에 대한 정보를 어떠한 방법으로 든 지각할 수 있고 그것에 대해 반응할 수 있는 한, 그것이 감각이나 감정을 가지고 있지 않다는 것이 곧 그것은 인격체가 아니라고 판단할 수 있는 확고한 근거가 될 수는 없다.
그렇게 의식(consciousness)에서 감각질과 감정의 경험을 제외하고 지각(perception)과 지각된 정보를 처리하는 것만 남겨도 된다면,[ix] 인격체를 정의하는데 있어 고급 정보처리능력과 구분하여 의식이 필요한 이유는 무엇인가? 이것은 바로 어떤 것이 인격체라고 불리기 위해서는, 그 것에게 일정 수준의 지능과 자기인식(self-awareness) 능력이 있어 다른 인격체들과 인격적 관계가 가능한 자아(ego)가 있어야만 하기 때문이고, 자기(self)를 인식할 수 있다는 것은 지향성(intentionality)을 가진 의식의 존재를 전제하기 때문이다. 여기서 자기인식은 이미 많은 컴퓨터 프로그램에서 구현되고 사용되고 있는 자기감시(self-monitoring)와는 다르다. 자기인식은 자기 안에서 일어나는 정신 작용이 다른 것이 아닌 나(I)의 작용이라고 자각하는 것인데 반하여, 프로그램에서 자기감시는 주로 특정 작업이나 기능이 내부 규칙에 위반되지 않게 그리고 오류없이 제대로 동작하고 있는지 감시하는 것이다. (그러한 의미에서 프로그래밍에서의 자기감시는 자기인식보다는 차라리 다른 심리학 용어인 자기감시나 자기검열(self-censorship)과 용례가 비슷하다고도 볼 수 있다.) 자기인식은 자기초월적인 속성을 통해 자기자신을 대상화하여 자각하고, 자각된 자기자신을 다른 것과 구별하는 것이다. 자기인식이 중요한 이유는 이렇게 타자와 자신을 구별하는 것이 인격체라고 불리기 위한 자아 형성에 필수적이기 때문이다. 한편 이러한 자기인식의 자기초월적 속성은 자유의지의 가능성을 찾는데 근거가 되기도 한다.
어떤 것이 수준 높은 지능과 함께 의식속에서 자기인식이 가능한 자아를 가졌다면 그것은 인격체라 불릴 만하다.[x] 하지만, 그것이 정말로 자아를 가지고 있는지는 앞에서도 언급했듯이 그것이 여러가지 상황에서 보이는 태도와 반응을 통해서만 판단할 수 있다. 왜냐하면 의식이란 텔레파시가 가능하지 않은 한, 각자에게 1인칭으로만 경험되는 주관적인 경험이기 때문이다. 그런데 만약 우리가 관찰한 태도와 반응이 어느 때나 천편일률적으로 동일하거나, 다양한 외부 환경에 다양한 반응을 나타내기는 해도 한 경우에 하나의 반응을 반복적으로 일대일로 대응한다면, 즉 자유의지가 없어 보인다면, 그것은 기계적인 반응으로 보일 것이며,[xi] 자아를 가진 인격체라고 생각되기 힘들 것이다. 즉 우리는 인격체에게 기본적으로 어느정도 수준 이상의 자유의지를 기대하고 있는 것이다. 그래서 자유의지는 고등 지능, 자아와 함께 어떤 것이 인격체로 인정받기 위한 가장 기본적인 조건 중에 하나이며 가장 간결하고 압축적인 조건이다. 왜냐하면 자유의지는 지능과 자아를 전제하기 때문에 일정 수준의 자유의지를 가졌다는 것은 일정 수준의 지능과 자아를 가졌다는 것을 함의하기 때문이다.
거울 테스트를[xii] 통해 자기인식의 증거를 보여주는 돌고래나 유인원 등을 비인간인격체(Non-human person)로 고려할 때나, 나아가 각종 SF물에 등장하는 유전자 조작 돌연변이 인간, 그리고 외계인을 상상하며 그들을 인격체로 생각할 때, 많은 이들이 (인공지능에 관련한 논의에서 보다) 더 쉽게 동의하는 이유는 그들이 의식을 가지고 감정을 경험하는 생명체일 뿐 아니라 (어느정도 자기정체성(self-identity)을 지닌) 자아를 가진 지성체일 것이라는 기대를 하기 때문이며, 그것은 그들이 이미 보여줬던 또는 그들에게서 나타날 것이라고 당연하게 생각되는 자율성에 근거한다. 때문에 그들이 인격체로 인정받고 기독교 신학의 인간론안에 포섭될 때, 우리는 그들에게 자유의지로 인한 죄가 있는지, 그래서 그들도 속죄와 구원이 필요한지, 그렇다면 언어가 다른 그들과 소통하기 위해 성자(聖子)께서 그들의 모습이 되는 또다른 형태의 성육신(incarnation)이 필요한지 등을 묻게 되는 것이다. 그래서 자유의지는 중요하다. 그것은 인공지능이 단지 정보처리능력이 뛰어난 프로그램이 아니라 인격체라고 불리기 위한 기본 조건이며, 인공지능뿐만 아니라 다른 어떠한 지능적인 것이라도 기독교 인간론의 주제로 진입하기 위해서는 꼭 넘어야만 하는 기본 허들이다.
[각주]
[i] 인격체의 조건으로 요구되는 자유의지는 자아를 전제하는 좀더 고차원적인 것이기 때문에, 여기에서 짚신벌레의 강요되지 않은 자발적 움직임을 ‘자유의지의 행사’라고 표현하는 것은 사실 적절치 않다. 하지만 일반적으로 자유의지를 실현한다고 할 때, 아무것도 강요되지 않은 상태에서 행위 주체가 그저 자신이 원하는 대로 자발적으로 행위 하는 것을 생각한다. 필자는 이러한 이해 만으로는 충분치 않음을 설명하기 위해 유비적으로 사용하였으며, 그래서 ‘낮은 수준의 자유의지’라고 표현하였다.
[ii] 인격(Person)의 개념을 고등 동물까지 연장한 피터 싱어(Peter Albert David Singer)의 관점을 수용한다 할지라도, 화이트헤드(Alfred North Whitehead)의 개념을 급진적으로 적용하며 인격 개념을 확장하지 않는 한, 짚신벌레는 일반적인 의미에서 인격체라 불릴 수 없다.
[iii] 지능(intelligence)은 다양하게 정의될 수 있겠지만, 이 글에서 필자는 인공지능의 기능적인 특성을 감안하여, 외부 환경에서 받아들인 정보를 가공하여 분석하고 선행 지식(또는 데이터)을 활용하여 대응하며, 그 결과를 새로운 데이터로 저장하고 피드백을 통해 학습하는 능력이란 의미로 사용한다.
[iv] 강인공지능(Strong AI)에 대한 설(John Rogers Searle)의 오래전 정의와는 다르게 최근에는 강인공지능에 대한 설명에서 인간의 마음(mind)이나 자의식 등의 용어를 생략하는 경우가 많아졌다.
[v] 필자는 마음(mind)을 의식(consciousness), 전의식(preconsciousness), 무의식(unconsciousness), 지각(perception), 사고능력(thinking), 그리고 기억(memory) 등을 포괄하는 단어로 생각한다. 이 글에서 지향성(intentionality)을 가지고 감각질(qualia)을 경험하는 의식은 이 포괄적 언어인 마음과 구별하여 사용된다.
[vi] 쉽게 생각해 보자면 매우 발전된 형태의 대화형 인공지능 봇(Bot) ‘심심이’나 ‘Siri’라고 상상해 볼 수도 있다.
[vii] 필자는 감각질을 결여한 의식이라는 것이 존재할 수 있는 지부터 의문이고, 존재한다고 하더라도 감각이 불가능한 인공지능이 강인공지능이 되기는 어렵다고 생각하지만, 감각질이란 실재하지 않는 환상이라고 주장하는 사람들도 있기 때문에 여기서는 일단 가능하다는 가정 아래 진행한다.
[viii] 안토니오 다마지오(Antonio Damasio)와 같은 학자들은 의식(consciousness)은 느낌(feeling)에서 비롯된다고 생각하기 때문에, 그와 같은 관점에서는 느낌이 없는 의식이란 존재하지 않아, 이 문장이 어불성설일 것이다.
[ix] 감각질을 제외한 지각이 가능한가? 컴퓨터 프로그램이 사과의 빨간색을 인간과 같은 방식으로 감각하지는 못하지만 입력된 영상정보를 RGB 값으로 변환하여 현재 그 사과가 빨간색에 해당하는 색상값을 가지고 있다고 판단할 수는 있다. 여기서 ‘지각’이란 용어는 이러한 인공지능의 정보입력과 분석에 대응한다.
[x] 로크(John Locke)의 인격에 대한 정의에서 ‘이성과 반성의 능력’을 ‘지능’으로 대체할 수 있다면, 이러한 존재는 로크의 개념에서도 인격체라 불릴 만하다.
[xi] 여기서 만약 한가지 입력 조건에 대해 몇가지 반응을 순환으로 또는 랜덤으로 보여 준다면, 처음에는 자율성이 있다고 착각할 수도 있지만, 반복되는 상황에서 그 반응의 규칙성이 파악되거나, 반응의 다양성이 그저 맥락과 상관없는 무작위성이라는 사실이 발견될 때, 그것은 다시 단지 기계적 반응으로 판단될 것이다.
[xii] 거울에 비친 자신의 모습이 자기 자신임을 알아볼 수 있는지를 확인하는 테스트이다. 유인원, 돌고래, 코끼리, 까마귀 등이 통과했다는 보고가 있는데, 이를 통해 그들이 자의식을 가지고 있다는 것이 증명되었다고 주장되기도 한다.
김경래(GTU 조직신학 박사과정) |