우리(인간)는 AI와 대화를 나눌 수 있는가? #1

 AI(인공지능)의 주요한 기능은 효율적 의사 결정, 정확하고 빠른 계산, 반복되는 패턴의 분석과 정형화, 그리고 이 일련의 과정을 자동화하는 것 이다. 즉, 최근 사람들의 관심을 끌고 있는 Generative AI (GAI; 생성형 인공지능 = Chat GPT, Dall-E, Gemini 등. )은 AI의 전체 영역에서 특정 범주에 속한다. 

인간의 자연어 사용의 패턴을 분석하고 정형화하고, 이를 확률 계산에 의해 나열하는 방식(연결주의; Connectionism)은 오늘날 거대 언어 모델(Large Language Models)의 기반이 되었다. - 이와는 다르게, 명시적 규칙(If ~ then ~.)과 논리 체계를 기반으로 모델을 학습시키는 발전 방향(기호주의; Symbolism)도 분명 중요한 위치를 점하고 있다.  - 연결주의는 손실 함수를 통해 확률을 계산한다. 그동안 학습한 데이터에서 도출한 확률을 통해 '적절한' 답변을 내놓는다. 예를 들어, 문장 "This is an apple."이라는 답변으로 내놓을 때는, 이 문장을 작은 단위로 나누어 나열한다.

[(This or I or He or It or She or They or...?) + (is or was or are or were?) + (a or an or the or blank?) + (apple or grape or ...?)]

나열된 조각들 중에서 확률적으로 가장 적절한 답변을 완성된 문장으로 내놓는 것이다. 더 정확히 말하자면, 지금까지 학습한 데이터에서 가장 많이 나타난 확률 모형을 연산하고 반복한다. 물론 학습에 가중치를 부여하는 인간의 노력(또는 간섭)이 LLMs이 정확한 답변을 내놓는 데 하나의 요인일 수도 있다. 

우리는 이로부터 다음과 같은 주장으로 도출할 수 있다:

"인간에 내재한 인지 능력(the given innate ideas)과 같은 매개 개념들이 언어 학습에 필요하지 않다." 

물론 위의 주장으로 부터 인간에게 내재한 인지 능력이 없다는 결론을 도출할 수는 없다. 그러나 시간이 지날 수록 우리가 마주하는 AI의 "인간다움"은 놀라운 속도로 "진화"해간다. 인간보다 더 논리적으로 유려하게 답을 하는 AI는 반복되는 학습, 데이터들 간의 유사성(높은 확률과 근접성), 어마어마한 양의 데이터를 통해 드디어 우리와 "대화"를 한다. 

그런데 문제는 "언어 학습"과 "대화"를 동일 선상에서 바라볼 수 있느냐는 점이다. 물론 인간은 대화를 통해 언어를 익힌다. 아기는 태어나면서 부터 주변의 사람들과 상호 소통을 한다. 그것은 비언어적 상호 작용 - 몸짓, 얼굴 표정, 소리 등 -과 언어적 상호작용 -주변인들의 대화, 말 걸기 등 - 을 동반한다. 이러한 과정을 통해, 비트겐슈타인을 빌려 말하자면, 삶의 형식을 공유하는 언어 공동체의 참여자로서의 자격을 부여받게 된다. 그리고 우리는 여전히 인간의 언어 습득 과정을 완전히 밝혀내지 못하고 있다. 인간에게 일종의 본유 관념이 있는 것인지, 또는 반복된 학습에 의한 것인지. 그러나 한가지 확실한 것은 인간의 언어 습득과 사용, 발전은 사회/언어적 망 안에서 이루어진다는 것이다. 그렇기에 인간의 언어를 단순히 단어의 확률적 나열로 단정짓기 어렵다는 주장은 타당하다. 이 복잡 다단한 과정과 그 안에 엉켜있는 개념의 층위들을 완전히 해독하기란 거의 불가능할지도 모른다.

The "Chinese Room" Toon (generated by Gemini)

존 설(John Searle)의 - 그의 비윤리적인 추태와 범죄는 기억해야 한다! - 중국어 방 논변(The Chinese Room Argument)은 여전히 유의미하다. 단어와 대상의 단칭적 연결은 의미를 생성하지 못한다. 그것은 언어의 본질적 특징, 즉 쓰임/작용/맥락/의도와는 동떨어져 있다. 

현대 LLMs연구와 연결하여, AI의 인간과 유사한 자연어 이해(Human-analogus natural language understanding; NLU)에 대한 회의적 논증은 벤더(Emily Bender)와 콜러(Alexander Koller)의 문어 사고 실험(The Octopus Though Experiment)에서도 다루고 있다.

The "Octopus Thought Experiment" Toon (generated by Gemini)

요약하자면, 인간의 언어 패턴을 완벽히 습득한 문어는 그럴듯한 단어들을 인간의 언어 사용에 맞추어 배열할 수는 있지만, 그 의미까지는 학습/이해할 수는 없다는 것이 논증의 핵심이다. 결국 지금의 LLMs을 지탱하고 있는 학습 과정은 언어의 이해를 위한 기호 접지 문제(Symbol Grounding Problem)를 해결하기 어렵다는 것이다. 이 논증을 인간의 언어 학습/사용에 대응해 보자면, 영어를 전혀 모르는 사람을 외부 세계와 단절된 방 안에 두고, 그에게 세상의 모든 영 단어들과 그에 대한 완벽한 설명이 들어있는 영-영 사전을 한권 준다고 하여도, 그 사람은 결코 영어라는 언어를 이해할 수 없다. 가령, 이 영어 학습자가  'Dog'이라는 단어의 의미를 알기 위해 사전을 펼쳐 D-O-G의 조합을 찾게 된다면, 그는 아마도 다음과 같은 설명을 마주하게 된다.

dog: a domesticated carnivorous mammal that typically has a long snout, an acute sense of smell, non-retractable claws, and a barking, howling, or whining voice.

영어 학습자는 위와 같은 dog의 사전적 설명으로 부터 dog이라는 단어가 무엇을 의미하는지 결코 알 수가 없다. 그가 할 수 있는 일은 나열된 단어들을 다시 찾아보는 것 뿐이다. 'a'를 찾아보고, 'domesticated'라는 단어를 이해하려고 해도, 그의 앞에는 의미가 결여된 단어들이 쌓여있을 뿐이다. 다시 말하자면, 그에게 주어진 사전 그 자체는 외부 세계를 반영하지 않는다. 단지 기호들이 꼬리에 꼬리를 물고 줄지어 있다. 다시한번 비트겐슈타인의 주장을 빌리자면, 인간 삶의 형식과 접점이 없는 단어들의 관계망은 그 어떤 의미도 담아내지 못한다. 

다시 한번 현대 LLMs의 학습 방식/연결주의를 떠올리며, AI의 인간과 유사한 자연어 생성(Natural Language Generation; NLG)의 놀라운 발전을 되돌아 본다. 이 과정 속에서 또 다른 행위성을 담당하고 있는 학습 데이터, 즉 데이터화된 '인간의 언어 사용'을 어떻게 바라 볼 것인가에 따라서 우리(인간)은 AI/LLMs과 대화를 나눌 수 있는가라는 물음에 또 다른 가능성을 더할 수 있을 듯하다.

J의 자가 진단

 가족 캠핑. 할아버지가 놓고 가신 침낭을 꺼내기 위해 씨름하고 있는 J. 옆에 꽉 조여져 있는 끈을 풀지도 않은 채.

M: "여기 옆에 있는 끈을 먼저 느슨하게 만들어야지. 그냥 잡아당기면 어떡하냐?"

J: "Hey~I am a simple person."

나무가 가득한 곳(Eugene, OR)으로.

지난 가을 논문을 제출하고, 디지털 인문학(DH) 석사 과정을 마쳤다. 나에게는 새로운 분야였고, 다양한 주제와 서로 다른 시각, 처음 접하는 프로젝트들과 알지 못했던 세상이 엇갈리는 시간이었다. 

'이렇게나 많은 프로젝트들이 있고, 이토록 기발한 생각들이 있구나!'

흥미로움과 감탄이 교차했고,

'도대체 이게 왜 안 되는 걸까?'

좌절과 분노가 겹쳐졌다. 

(여전히 못하는) 코딩을 접한 지도 벌써 2년이 지났고, 이미 세상은 AI를 이용한 바이브 코딩이 대세가 되었다. 그래도 새로운 언어를 맛볼 수 있는 기회였고, 단순히 코딩 그 자체보다도 어떤 데이터를, 무슨 목적으로, 누가, 왜, 어떻게 수집하고 활용할지에 대해서 생각해 볼 수 있었다. 

'그리고 이 다음은 뭘 할 수 있을까? 무엇을 하고 싶은가?’라는 고민으로 시간을 보내던 중, DH 라운지에서 잡담을 나누던 동료 학우의 작은 응원에 힘을 얻어 박사과정에 지원했다. ("No...There's no such thing as being old for a PhD."라고 말했던, 그도 나이가 적지 않았기에...) 새로운 분야에서 직접 일을 해 보는 선택에 대해서도 고민이 많았고, 실제로 이런저런 직종들에 대해서도 알아보았지만, 결국은 좀 더 공부를 하고 싶다는 마음이 컸다.

총 여섯 프로그램에 지원했고, 그중 절반은 STS(Science and Technology Studies), 나머지 절반은 철학 프로그램이었다. 완전히 새로운 접근 방식과 분야를 공부하고 싶다는 마음과 석사 논문의 주제를 좀 더 깊이 들여다보고 싶다는 마음의 절충안이었다.   

역시나 적합도가 모든 것을 좌우하였고, 연구 관심사/주제와 방법론이 가장 일치한다고 생각했던 곳에서 제일 먼저 연락이 왔고, 아마도 유일할 듯하다. 

Philosophy, University of Oregon으로부터 정식 제안을 받기 전, 학과 소속인 두 명의 교수로부터 연락이 먼저 왔고, 그중 Colin Coopman 교수와는 열 번 정도 이메일을 주고받았다. 그리고 속으로 생각했다.

'이 정도로 원하면 돈을 좀 더 줄 수 있지 않을까?' 

그러나 돈 이야기는 없었고, 혹시나 다른 프로그램에 합격하게 되면 자기에게 연락을 달라는 부탁, 자신의 연구에 대한 설명, 자신이 맡고 있는 New Media and Culture 프로그램과 나의 관심사가 일치한다는 등의 연구 관련 이야기가 주를 이루었다. 이에 대해 여전히 제안을 기다리고 있는 프로그램이 있고, 뉴욕에서 가족들과 함께 살고 있어서 고민이 많다는 나의 답장에는 학교의 가족 지원 프로그램들과 Eugene이 가족들과 살기 너무 좋다는 말, 자신이 두 아이들을 키우고 있다는 자세하고 지나치게(?) 친절한 답변이 돌아왔다. 

그리고 나는 생각했다.

'이 정도로 원하면 돈을 좀 더 줄 수 있지 않을까?' 

그러나 돈 이야기는 없었다. 그리고 고민 끝에 결정했다. 나무가 가득한 곳; Eugene, Oregon으로 가기로. (여전히 연락을 기다리는 프로그램이 있지만, 가능성이 희박해 보이기도 하였고 - 비슷한 주제의식은 있으나 접근 방식이 조금 상이하고 무엇보다 프로그램 내 관심 교수가 한 명뿐이라서...- 연구 주제의 적합도가 높고, 무엇보다 내 연구를 지지해 줄 수 있는 교수와 함께 공부하고 싶었다.) 

마음의 결정을 내리고, 아내에게 먼저 허락을 받았다. 이 소식을 들은 Y는 슬퍼했고, J는 단호했다.

"It sounds stupid. It just does."

자주 오겠다는 각오와 거짓말로 방어막을 만들고, 여름방학에 더 즐겁게, 더 많이 시간을 보내자는 약속을 했다.

현재.

기숙사를 배정받을 수 있도록 기도하고 있으며,  나 홀로 이사에 대해 연구하고, 떠나기 전 뉴욕 집에 필요하거나 고쳐야 하는 것들을 찾고 있고, <장길산> 마지막 장을 읽고 있으며, 바이브 코딩이라는 걸 한 번 시험해 볼까싶다. 

이렇게 청춘은 계속된다. ......될까? ......될 것이다!

- J의 농구 발전을 위해서 내가 필요하다면, 언제든지 용기 있게 중도 하차할 것임을 다짐하며.

New York City 26: USA_Fascism

2026년. 미국에서 일어나고 있는 일을 어떻게 설명할 수 있을까? 어떤 이론적 설명이 가능할까? 미국의 감춰진 두 얼굴이 드디어 드러난 것인가?  

작금의 현실과는 매우 동떨어진 이야기로 시작해본다. 

뉴욕에 도착한 후, 마틴 스콜세지 감독의 영화 <갱스 오브 뉴욕; Gangs of New York>을 다시 찾아본 적이 있다. 리차드 번스타인(Prof. Richard Bernstein) 교수의 <미국 실용주의; American Pragmatism> 수업을 듣고 집에 온 후였다. 계기는 매우 단순했다. 퍼스(Charlse S. Peirce)의 반-데카르트 주의와 탐구 공동체 등에 관한 첫 수업이 있었고, 문득 이런 생각이 스쳐지나갔다: "한 쪽에서는 야만이 지배하던 시절, 다른 쪽에서는 이런 생각을 하고 있었네?"  

1800년대 미국. 일련의 학자들은 열린 탐구, 공동체에 귀속된 인식론적 개방성, 근대 주체성에 대한 비판을 논의하고 있었고, 다른 한 쪽에서는 생존을 위한 폭력과 아귀다툼, 착취와 혐오가 넘쳐흐르고 있다. 

교양과 야만이 뒤범벅 된 이곳. 도대체 "미국"은 무엇인가? 

자유를 찾아 기회의 땅에 정착하러 온 사람들. 
그 땅을 차지 하기위해 학살을 저지르고, 노예를 착취했던 사람들. 

미국은 자유의 땅이지만, 자유를 갖기 위해 다른 이들의 삶을 짓밟았다. 미국 건국의 아버지들은 지식인이었지만, 미국은 폭력과 착취 위에 세워졌다. 미국의 이중성은 이에 기인한다. 표면적 체계는 개방, 민주주의, 자유를 표방하지만, 그 이면에는 폭력, 착취, 인종주의가 숨어있다. 그들이 내세우는 가치가 하나의 체계로 완성되기 위해서는 지난 역사적 과오를 청산했어야 했지만, 이를 포장했던 것은 허울 좋은 사회 체계와 법, 그리고 "우리는 미국이다."라는 자긍심이었다. 

현재 미국. "그들"의 자긍심은 바닥을 드러냈고, "그들"(특히 소외된 백인들)의 두려움은 혐오하기를 주저하지 않는다. 그리고 "그들"은 외친다.

"This is so un-American."

 "그들"이 추방하고 가둔 수 많은 삶. 피부 색이 다른 이들의 삶. 미국을 위해 목숨을 걸었던 '비(非)백인' 퇴역 군인의 삶. 그리고 얼마 전, 자신의 차에 앉아 '난 화난게 아니에요.'라고 말하던 르네 니콜 굿(Renée Nicole Good)은 "그들"이 꿈꾸는 미국으로 가기 위한 길에서 마주한 보잘것 없는 삶이었다. 그렇기에 "그들"이 그토록 짓밟고, 삭제하고, 제거하고 싶은 삶들도 "그들"에게 외친다.  

"This is so un-American."

미국 사회는 혼란스럽고, 충동적이고, 분열되었다. 고삐 풀린 폭력은 외부와 내부를 가리지 않는다. 개인의 혐오와 충동은 사회 체계와 법, 더 나아가 상호 신뢰를 무너뜨리고 있다. 소수의 사익 추구와 이를 정당화하는 서사가 무지성과 무비판을 등에 엎고 "그들"을 소환할 때, 전체주의는 그 모습을 드러낸다. 

트럼프의 두번 째 당선, 일론 머스크의 나치 손 경례, 환호하는 지지자들, 그 이후 트럼프의 행정 명령과 정권 인사들의 거침없는 발언들이 한걸음씩 미국을 전체주의의 구렁텅이로 몰아갔다. 그리고 얼마 후, 파시즘을 연구해 온 저명한 학자 세 명은 미국을 떠났다. 이들의 지적은 이론적으로도 현실적으로도 타당하다. 우리 모두에게 남겨진 과제가 있다: 

떠날 것인가? 맞설 것인가? 

예일대 교수들은 언제든 미국을 떠날 수 있지만, 보통의 사람들에게는 주어지지 않은 특권이다. 그렇다면 우리는 어떻게 맞설 것인가?

"그들"의 폭력보다 두려운 것은 "그들"의 확신이다. 그렇기에 끊임없이 의심하고, 사유하고, 반성한다. 의심하지 않는, 사유하지 않는, 반성하지 않는 행위에 이렇게라도 저항한다. 

미당(未堂)의 언어

雨中有題

신라의 어느 사내 진땀 흘리며
계집과 수풀에서 그 짓 하고 있다가
떨어지는 홍시에 마음이 쏠려
또그르르 그만 그리로 굴러가 버리듯
나도 이젠 고로초롬만 살았으면 싶어라.

소나기 속 청솔 방울

약으로 보고 있다가
어쩌면 고로초롬은 될 법도 해라.

추운 겨울, 이불 속을 따뜻하게 데우며 미당(未堂) 서정주의 소리를 들여다 본다. 

그의 언어는 아득히 깊은데, 그의 삶은 부끄럽고, 그의 눈길은 이렇게나 맑은데, 그의 뒷모습은 구부져있다. 마음 놓아 좋아할 수도 없고, 그렇다고 그의 시를 외면하기도 어렵다. 

그의 언어를 살며시 엿보며, 그의 얼굴을 마주한다.

아름답고 유약하다. 

순수하고 부정하다. 

사랑스럽고 수치스럽다. 

세상이 무서워 고개를 이불 속에 파묻고 있는 미당의 떨리는 뒷 모습을 상상한다. 타고난 재주를 담아내지 못하는 그의 불안한 심성을 탓한다. 

아. 하나의 삶도 헤아릴 길 없이 막막하다.