우리(인간)는 AI와 대화를 나눌 수 있는가? #1

 AI(인공지능)의 주요한 기능은 효율적 의사 결정, 정확하고 빠른 계산, 반복되는 패턴의 분석과 정형화, 그리고 이 일련의 과정을 자동화하는 것 이다. 즉, 최근 사람들의 관심을 끌고 있는 Generative AI (GAI; 생성형 인공지능 = Chat GPT, Dall-E, Gemini 등. )은 AI의 전체 영역에서 특정 범주에 속한다. 

인간의 자연어 사용의 패턴을 분석하고 정형화하고, 이를 확률 계산에 의해 나열하는 방식(연결주의; Connectionism)은 오늘날 거대 언어 모델(Large Language Models)의 기반이 되었다. - 이와는 다르게, 명시적 규칙(If ~ then ~.)과 논리 체계를 기반으로 모델을 학습시키는 발전 방향(기호주의; Symbolism)도 분명 중요한 위치를 점하고 있다.  - 연결주의는 손실 함수를 통해 확률을 계산한다. 그동안 학습한 데이터에서 도출한 확률을 통해 '적절한' 답변을 내놓는다. 예를 들어, 문장 "This is an apple."이라는 답변으로 내놓을 때는, 이 문장을 작은 단위로 나누어 나열한다.

[(This or I or He or It or She or They or...?) + (is or was or are or were?) + (a or an or the or blank?) + (apple or grape or ...?)]

나열된 조각들 중에서 확률적으로 가장 적절한 답변을 완성된 문장으로 내놓는 것이다. 더 정확히 말하자면, 지금까지 학습한 데이터에서 가장 많이 나타난 확률 모형을 연산하고 반복한다. 물론 학습에 가중치를 부여하는 인간의 노력(또는 간섭)이 LLMs이 정확한 답변을 내놓는 데 하나의 요인일 수도 있다. 

우리는 이로부터 다음과 같은 주장으로 도출할 수 있다:

"인간에 내재한 인지 능력(the given innate ideas)과 같은 매개 개념들이 언어 학습에 필요하지 않다." 

물론 위의 주장으로 부터 인간에게 내재한 인지 능력이 없다는 결론을 도출할 수는 없다. 그러나 시간이 지날 수록 우리가 마주하는 AI의 "인간다움"은 놀라운 속도로 "진화"해간다. 인간보다 더 논리적으로 유려하게 답을 하는 AI는 반복되는 학습, 데이터들 간의 유사성(높은 확률과 근접성), 어마어마한 양의 데이터를 통해 드디어 우리와 "대화"를 한다. 

그런데 문제는 "언어 학습"과 "대화"를 동일 선상에서 바라볼 수 있느냐는 점이다. 물론 인간은 대화를 통해 언어를 익힌다. 아기는 태어나면서 부터 주변의 사람들과 상호 소통을 한다. 그것은 비언어적 상호 작용 - 몸짓, 얼굴 표정, 소리 등 -과 언어적 상호작용 -주변인들의 대화, 말 걸기 등 - 을 동반한다. 이러한 과정을 통해, 비트겐슈타인을 빌려 말하자면, 삶의 형식을 공유하는 언어 공동체의 참여자로서의 자격을 부여받게 된다. 그리고 우리는 여전히 인간의 언어 습득 과정을 완전히 밝혀내지 못하고 있다. 인간에게 일종의 본유 관념이 있는 것인지, 또는 반복된 학습에 의한 것인지. 그러나 한가지 확실한 것은 인간의 언어 습득과 사용, 발전은 사회/언어적 망 안에서 이루어진다는 것이다. 그렇기에 인간의 언어를 단순히 단어의 확률적 나열로 단정짓기 어렵다는 주장은 타당하다. 이 복잡 다단한 과정과 그 안에 엉켜있는 개념의 층위들을 완전히 해독하기란 거의 불가능할지도 모른다.

The "Chinese Room" Toon (generated by Gemini)

존 설(John Searle)의 - 그의 비윤리적인 추태와 범죄는 기억해야 한다! - 중국어 방 논변(The Chinese Room Argument)은 여전히 유의미하다. 단어와 대상의 단칭적 연결은 의미를 생성하지 못한다. 그것은 언어의 본질적 특징, 즉 쓰임/작용/맥락/의도와는 동떨어져 있다. 

현대 LLMs연구와 연결하여, AI의 인간과 유사한 자연어 이해(Human-analogus natural language understanding; NLU)에 대한 회의적 논증은 벤더(Emily Bender)와 콜러(Alexander Koller)의 문어 사고 실험(The Octopus Though Experiment)에서도 다루고 있다.

The "Octopus Thought Experiment" Toon (generated by Gemini)

요약하자면, 인간의 언어 패턴을 완벽히 습득한 문어는 그럴듯한 단어들을 인간의 언어 사용에 맞추어 배열할 수는 있지만, 그 의미까지는 학습/이해할 수는 없다는 것이 논증의 핵심이다. 결국 지금의 LLMs을 지탱하고 있는 학습 과정은 언어의 이해를 위한 기호 접지 문제(Symbol Grounding Problem)를 해결하기 어렵다는 것이다. 이 논증을 인간의 언어 학습/사용에 대응해 보자면, 영어를 전혀 모르는 사람을 외부 세계와 단절된 방 안에 두고, 그에게 세상의 모든 영 단어들과 그에 대한 완벽한 설명이 들어있는 영-영 사전을 한권 준다고 하여도, 그 사람은 결코 영어라는 언어를 이해할 수 없다. 가령, 이 영어 학습자가  'Dog'이라는 단어의 의미를 알기 위해 사전을 펼쳐 D-O-G의 조합을 찾게 된다면, 그는 아마도 다음과 같은 설명을 마주하게 된다.

dog: a domesticated carnivorous mammal that typically has a long snout, an acute sense of smell, non-retractable claws, and a barking, howling, or whining voice.

영어 학습자는 위와 같은 dog의 사전적 설명으로 부터 dog이라는 단어가 무엇을 의미하는지 결코 알 수가 없다. 그가 할 수 있는 일은 나열된 단어들을 다시 찾아보는 것 뿐이다. 'a'를 찾아보고, 'domesticated'라는 단어를 이해하려고 해도, 그의 앞에는 의미가 결여된 단어들이 쌓여있을 뿐이다. 다시 말하자면, 그에게 주어진 사전 그 자체는 외부 세계를 반영하지 않는다. 단지 기호들이 꼬리에 꼬리를 물고 줄지어 있다. 다시한번 비트겐슈타인의 주장을 빌리자면, 인간 삶의 형식과 접점이 없는 단어들의 관계망은 그 어떤 의미도 담아내지 못한다. 

다시 한번 현대 LLMs의 학습 방식/연결주의를 떠올리며, AI의 인간과 유사한 자연어 생성(Natural Language Generation; NLG)의 놀라운 발전을 되돌아 본다. 이 과정 속에서 또 다른 행위성을 담당하고 있는 학습 데이터, 즉 데이터화된 '인간의 언어 사용'을 어떻게 바라 볼 것인가에 따라서 우리(인간)은 AI/LLMs과 대화를 나눌 수 있는가라는 물음에 또 다른 가능성을 더할 수 있을 듯하다.

J의 자가 진단

 가족 캠핑. 할아버지가 놓고 가신 침낭을 꺼내기 위해 씨름하고 있는 J. 옆에 꽉 조여져 있는 끈을 풀지도 않은 채.

M: "여기 옆에 있는 끈을 먼저 느슨하게 만들어야지. 그냥 잡아당기면 어떡하냐?"

J: "Hey~I am a simple person."

나무가 가득한 곳(Eugene, OR)으로.

지난 가을 논문을 제출하고, 디지털 인문학(DH) 석사 과정을 마쳤다. 나에게는 새로운 분야였고, 다양한 주제와 서로 다른 시각, 처음 접하는 프로젝트들과 알지 못했던 세상이 엇갈리는 시간이었다. 

'이렇게나 많은 프로젝트들이 있고, 이토록 기발한 생각들이 있구나!'

흥미로움과 감탄이 교차했고,

'도대체 이게 왜 안 되는 걸까?'

좌절과 분노가 겹쳐졌다. 

(여전히 못하는) 코딩을 접한 지도 벌써 2년이 지났고, 이미 세상은 AI를 이용한 바이브 코딩이 대세가 되었다. 그래도 새로운 언어를 맛볼 수 있는 기회였고, 단순히 코딩 그 자체보다도 어떤 데이터를, 무슨 목적으로, 누가, 왜, 어떻게 수집하고 활용할지에 대해서 생각해 볼 수 있었다. 

'그리고 이 다음은 뭘 할 수 있을까? 무엇을 하고 싶은가?’라는 고민으로 시간을 보내던 중, DH 라운지에서 잡담을 나누던 동료 학우의 작은 응원에 힘을 얻어 박사과정에 지원했다. ("No...There's no such thing as being old for a PhD."라고 말했던, 그도 나이가 적지 않았기에...) 새로운 분야에서 직접 일을 해 보는 선택에 대해서도 고민이 많았고, 실제로 이런저런 직종들에 대해서도 알아보았지만, 결국은 좀 더 공부를 하고 싶다는 마음이 컸다.

총 여섯 프로그램에 지원했고, 그중 절반은 STS(Science and Technology Studies), 나머지 절반은 철학 프로그램이었다. 완전히 새로운 접근 방식과 분야를 공부하고 싶다는 마음과 석사 논문의 주제를 좀 더 깊이 들여다보고 싶다는 마음의 절충안이었다.   

역시나 적합도가 모든 것을 좌우하였고, 연구 관심사/주제와 방법론이 가장 일치한다고 생각했던 곳에서 제일 먼저 연락이 왔고, 아마도 유일할 듯하다. 

Philosophy, University of Oregon으로부터 정식 제안을 받기 전, 학과 소속인 두 명의 교수로부터 연락이 먼저 왔고, 그중 Colin Coopman 교수와는 열 번 정도 이메일을 주고받았다. 그리고 속으로 생각했다.

'이 정도로 원하면 돈을 좀 더 줄 수 있지 않을까?' 

그러나 돈 이야기는 없었고, 혹시나 다른 프로그램에 합격하게 되면 자기에게 연락을 달라는 부탁, 자신의 연구에 대한 설명, 자신이 맡고 있는 New Media and Culture 프로그램과 나의 관심사가 일치한다는 등의 연구 관련 이야기가 주를 이루었다. 이에 대해 여전히 제안을 기다리고 있는 프로그램이 있고, 뉴욕에서 가족들과 함께 살고 있어서 고민이 많다는 나의 답장에는 학교의 가족 지원 프로그램들과 Eugene이 가족들과 살기 너무 좋다는 말, 자신이 두 아이들을 키우고 있다는 자세하고 지나치게(?) 친절한 답변이 돌아왔다. 

그리고 나는 생각했다.

'이 정도로 원하면 돈을 좀 더 줄 수 있지 않을까?' 

그러나 돈 이야기는 없었다. 그리고 고민 끝에 결정했다. 나무가 가득한 곳; Eugene, Oregon으로 가기로. (여전히 연락을 기다리는 프로그램이 있지만, 가능성이 희박해 보이기도 하였고 - 비슷한 주제의식은 있으나 접근 방식이 조금 상이하고 무엇보다 프로그램 내 관심 교수가 한 명뿐이라서...- 연구 주제의 적합도가 높고, 무엇보다 내 연구를 지지해 줄 수 있는 교수와 함께 공부하고 싶었다.) 

마음의 결정을 내리고, 아내에게 먼저 허락을 받았다. 이 소식을 들은 Y는 슬퍼했고, J는 단호했다.

"It sounds stupid. It just does."

자주 오겠다는 각오와 거짓말로 방어막을 만들고, 여름방학에 더 즐겁게, 더 많이 시간을 보내자는 약속을 했다.

현재.

기숙사를 배정받을 수 있도록 기도하고 있으며,  나 홀로 이사에 대해 연구하고, 떠나기 전 뉴욕 집에 필요하거나 고쳐야 하는 것들을 찾고 있고, <장길산> 마지막 장을 읽고 있으며, 바이브 코딩이라는 걸 한 번 시험해 볼까싶다. 

이렇게 청춘은 계속된다. ......될까? ......될 것이다!

- J의 농구 발전을 위해서 내가 필요하다면, 언제든지 용기 있게 중도 하차할 것임을 다짐하며.