AI(인공지능)의 주요한 기능은 효율적 의사 결정, 정확하고 빠른 계산, 반복되는 패턴의 분석과 정형화, 그리고 이 일련의 과정을 자동화하는 것 이다. 즉, 최근 사람들의 관심을 끌고 있는 Generative AI (GAI; 생성형 인공지능 = Chat GPT, Dall-E, Gemini 등. )은 AI의 전체 영역에서 특정 범주에 속한다.
인간의 자연어 사용의 패턴을 분석하고 정형화하고, 이를 확률 계산에 의해 나열하는 방식(연결주의; Connectionism)은 오늘날 거대 언어 모델(Large Language Models)의 기반이 되었다. - 이와는 다르게, 명시적 규칙(If ~ then ~.)과 논리 체계를 기반으로 모델을 학습시키는 발전 방향(기호주의; Symbolism)도 분명 중요한 위치를 점하고 있다. - 연결주의는 손실 함수를 통해 확률을 계산한다. 그동안 학습한 데이터에서 도출한 확률을 통해 '적절한' 답변을 내놓는다. 예를 들어, 문장 "This is an apple."이라는 답변으로 내놓을 때는, 이 문장을 작은 단위로 나누어 나열한다.
[(This or I or He or It or She or They or...?) + (is or was or are or were?) + (a or an or the or blank?) + (apple or grape or ...?)]
나열된 조각들 중에서 확률적으로 가장 적절한 답변을 완성된 문장으로 내놓는 것이다. 더 정확히 말하자면, 지금까지 학습한 데이터에서 가장 많이 나타난 확률 모형을 연산하고 반복한다. 물론 학습에 가중치를 부여하는 인간의 노력(또는 간섭)이 LLMs이 정확한 답변을 내놓는 데 하나의 요인일 수도 있다.
우리는 이로부터 다음과 같은 주장으로 도출할 수 있다:
"인간에 내재한 인지 능력(the given innate ideas)과 같은 매개 개념들이 언어 학습에 필요하지 않다."
물론 위의 주장으로 부터 인간에게 내재한 인지 능력이 없다는 결론을 도출할 수는 없다. 그러나 시간이 지날 수록 우리가 마주하는 AI의 "인간다움"은 놀라운 속도로 "진화"해간다. 인간보다 더 논리적으로 유려하게 답을 하는 AI는 반복되는 학습, 데이터들 간의 유사성(높은 확률과 근접성), 어마어마한 양의 데이터를 통해 드디어 우리와 "대화"를 한다.
그런데 문제는 "언어 학습"과 "대화"를 동일 선상에서 바라볼 수 있느냐는 점이다. 물론 인간은 대화를 통해 언어를 익힌다. 아기는 태어나면서 부터 주변의 사람들과 상호 소통을 한다. 그것은 비언어적 상호 작용 - 몸짓, 얼굴 표정, 소리 등 -과 언어적 상호작용 -주변인들의 대화, 말 걸기 등 - 을 동반한다. 이러한 과정을 통해, 비트겐슈타인을 빌려 말하자면, 삶의 형식을 공유하는 언어 공동체의 참여자로서의 자격을 부여받게 된다. 그리고 우리는 여전히 인간의 언어 습득 과정을 완전히 밝혀내지 못하고 있다. 인간에게 일종의 본유 관념이 있는 것인지, 또는 반복된 학습에 의한 것인지. 그러나 한가지 확실한 것은 인간의 언어 습득과 사용, 발전은 사회/언어적 망 안에서 이루어진다는 것이다. 그렇기에 인간의 언어를 단순히 단어의 확률적 나열로 단정짓기 어렵다는 주장은 타당하다. 이 복잡 다단한 과정과 그 안에 엉켜있는 개념의 층위들을 완전히 해독하기란 거의 불가능할지도 모른다.
 |
| The "Chinese Room" Toon (generated by Gemini) |
존 설(John Searle)의 - 그의 비윤리적인 추태와 범죄는 기억해야 한다! - 중국어 방 논변(The Chinese Room Argument)은 여전히 유의미하다. 단어와 대상의 단칭적 연결은 의미를 생성하지 못한다. 그것은 언어의 본질적 특징, 즉 쓰임/작용/맥락/의도와는 동떨어져 있다.
현대 LLMs연구와 연결하여, AI의 인간과 유사한 자연어 이해(Human-analogus natural language understanding; NLU)에 대한 회의적 논증은 벤더(Emily Bender)와 콜러(Alexander Koller)의 문어 사고 실험(The Octopus Though Experiment)에서도 다루고 있다.
 |
| The "Octopus Thought Experiment" Toon (generated by Gemini) |
요약하자면, 인간의 언어 패턴을 완벽히 습득한 문어는 그럴듯한 단어들을 인간의 언어 사용에 맞추어 배열할 수는 있지만, 그 의미까지는 학습/이해할 수는 없다는 것이 논증의 핵심이다. 결국 지금의 LLMs을 지탱하고 있는 학습 과정은 언어의 이해를 위한 기호 접지 문제(Symbol Grounding Problem)를 해결하기 어렵다는 것이다. 이 논증을 인간의 언어 학습/사용에 대응해 보자면, 영어를 전혀 모르는 사람을 외부 세계와 단절된 방 안에 두고, 그에게 세상의 모든 영 단어들과 그에 대한 완벽한 설명이 들어있는 영-영 사전을 한권 준다고 하여도, 그 사람은 결코 영어라는 언어를 이해할 수 없다. 가령, 이 영어 학습자가 'Dog'이라는 단어의 의미를 알기 위해 사전을 펼쳐 D-O-G의 조합을 찾게 된다면, 그는 아마도 다음과 같은 설명을 마주하게 된다.
dog: a domesticated carnivorous mammal that typically has a long snout, an acute sense of smell, non-retractable claws, and a barking, howling, or whining voice.
영어 학습자는 위와 같은 dog의 사전적 설명으로 부터 dog이라는 단어가 무엇을 의미하는지 결코 알 수가 없다. 그가 할 수 있는 일은 나열된 단어들을 다시 찾아보는 것 뿐이다. 'a'를 찾아보고, 'domesticated'라는 단어를 이해하려고 해도, 그의 앞에는 의미가 결여된 단어들이 쌓여있을 뿐이다. 다시 말하자면, 그에게 주어진 사전 그 자체는 외부 세계를 반영하지 않는다. 단지 기호들이 꼬리에 꼬리를 물고 줄지어 있다. 다시한번 비트겐슈타인의 주장을 빌리자면, 인간 삶의 형식과 접점이 없는 단어들의 관계망은 그 어떤 의미도 담아내지 못한다.
다시 한번 현대 LLMs의 학습 방식/연결주의를 떠올리며, AI의 인간과 유사한 자연어 생성(Natural Language Generation; NLG)의 놀라운 발전을 되돌아 본다. 이 과정 속에서 또 다른 행위성을 담당하고 있는 학습 데이터, 즉 데이터화된 '인간의 언어 사용'을 어떻게 바라 볼 것인가에 따라서 우리(인간)은 AI/LLMs과 대화를 나눌 수 있는가라는 물음에 또 다른 가능성을 더할 수 있을 듯하다.
