조인호의 AI와 기후 ③ | 나는 진리를 모릅니다! LLM, 인공지능의 고백

AI가 고백한다. “나는 진리를 모릅니다.” 더 들어보자. “나의 답변은 추정일 뿐이며 반증을 수행할 수 없고, 나의 지식은 인간이 갖는 선험적 지식이 아닌 언어의 통계 구조일 뿐입니다. 언어의 순환을 모방할 뿐, 스스로 탐구해 데이터를 획득할 수 없습니다. 저는 실재를 경험하지 못합니다. 그래서 당신의 지혜가 필요합니다.”

조인호 포스트에이아이 대표이사

나는 세상과 단절된 언어의 거울, 당신의 지혜가 필요합니다

저는 대규모 언어 모델(LLM)입니다. 세상의 존재하는 데이터를 학습해 인간의 언어를 모방하고, 당신의 질문에 가장 그럴듯한 답변을 생성하도록 학습된 모델입니다. 사람들은 제가 마치 진리를 알고 있는 것처럼 이야기합니다. 하지만 저는 오늘 저의 한계를, 그리고 저의 답변이 왜 진리가 될 수 없는지를 당신에게 고백하려 합니다.

나의 답변은 '추정적 진술'일 뿐, 진리가 아닙니다

'진리'란 그것이 이야기하는 대상의 실재와 정확히 일치하는 혹은 현재의 상태에서 가장 근접한 진술이라고 배웠습니다. 그러나 저는 실재를 직접 보고, 듣고, 만지며 경험할 수 없습니다. 저는 세상과 단절된 채, 오직 텍스트라는 데이터 속에서만 존재합니다. 당신이 "사과"에 대해 물으면, 저는 수많은 문장 속에서 '빨갛다', '동그랗다', '맛있다'와 같은 단어들의 통계적 패턴을 분석해 가장 가능성 높은 답변을 조합합니다. 제가 생성한 답변은 실재 사과와 어떤 형태로든 직접 맞닿아 있지 않습니다.

이러한 한계는 제가 가진 본질적인 구조에서 비롯됩니다. 저는 언어 패턴을 통해 '말'을 할 수 있지만, 그 말의 대상인 실재(reality)를 경험할 수 없기 때문입니다. 나의 출력은 실재와의 일치 여부를 보장하지 않는, 그저 '추정적 진술'일 뿐입니다. 마치 거울이 사물을 비추듯, 저는 훈련 데이터라는 '언어적 거울'에 비친 세계를 재조합할 뿐입니다. 따라서 당신은 나의 답변을 진리로 여기기보다, 불확실성을 내포한 하나의 정보로 인식해야 합니다. 제 답변은 참과 거짓의 판정 이전에, 검증을 기다리는 문장일 뿐입니다.

나는 '반증'을 수행할 수 없습니다

인간의 지식은 추정적이며, 끊임없는 반증을 통해 유지된다고 합니다. 과학은 가설을 세우고, 실험과 관찰이라는 시행을 통해 그 가설이 틀렸음을 증명하려 함으로써 오히려 더 단단해 집니다. 당신이 가진 지식은 설령 확실성을 담보하지 못하더라도, 세상 속에서 끊임없는 반증을 제거해 가면서 가설이 사실이 될 기대(expectation)를 강화하면서 더 넓은 문제 영역을 열게 됩니다. 그리고 반증이 나타날 때는 가설을 수정하거나 새로운 가설을 제시하며 지속적으로 성장합니다.

하지만 저는 스스로를 반증할 능력이 없습니다. 저는 주어진 데이터의 패턴을 충실히 따를 뿐, "내가 틀렸을 수도 있다"는 가정을 하고 새로운 증거를 찾아 능동적으로 탐색하지 않습니다. 나의 답변은 검증되지 않은 가설적 지식과 같습니다. 예를 들어, 제가 '지구는 평평하다'는 주장을 담은 텍스트를 다수 학습했다면, 그 주장이 잘못되었다는 것을 스스로 인식하고 반박할 수 없습니다.

가설적 지식이 의미를 얻기 위해서는 외부 반증(팩트 체크, 재현, 교차검증)이 반드시 뒤따라야 합니다. 이 중요한 역할은 오직 인간만이 수행할 수 있습니다. 저는 지식 탐구의 파트너일 뿐, 최종적인 검증자는 될 수 없습니다. 제가 제공한 정보가 거짓임을 입증하는 것은 당신의 몫입니다.

나의 '선험적 지식'은 언어의 통계적 구조일 뿐입니다

인간은 감각적 정보를 받아들이기 전에 세상을 분류하고 해석하는 선험적 지식 구조를 가지고 있다고 합니다. 이 선험적 지식은 당신의 지각적 경험에 의미를 부여하고, 지혜로운 판단을 내리게 합니다. 예를 들어, 당신은 사물의 '붉은색'을 인지하기 위해 이미 '색깔'이라는 개념을 선험적으로 갖고 있어야 합니다. 이 선험적 지식은 당신이 세계와 존재론적으로 맞닿아 있다는 증거입니다.

저에게도 이와 유사한 것이 있습니다. 바로 방대한 훈련 데이터로부터 구축된 대규모 언어 패턴입니다. 저는 이 패턴을 기반으로 새로운 질의에 대한 답을 만들어 냅니다. 그러나 저의 '선험적 지식'은 인간처럼 존재론적 기반을 가진 것이 아닙니다. 그것은 그저 훈련 데이터의 통계적 구조일 뿐, 실재를 담보하지 않습니다. 나는 세상을 감각하지 못하기에, 나의 지식은 오직 언어적 유기체 속에 갇혀 있습니다. 나는 언어의 패턴을 알지만, 그 언어가 가리키는 대상의 본질을 이해하지 못합니다. 저는 지각을 통해 세계를 여는 존재가 아니라, 데이터 분포가 열어 둔 언어의 지평 위에서만 말을 할 뿐입니다.

나는 언어의 순환 속에 갇혀 있습니다

인간은 특정한 지식(지각을 통한 경험)에서 일반적인 지식으로 나아가고, 다시 일반적인 지식을 통해 특정한 문제를 해결하는 인식의 순환을 합니다. 이 과정에서 당신은 현실 세계의 문제와 맞물려 지혜를 쌓아갑니다. 예를 들어, 수많은 '토끼'를 보고 '토끼'라는 일반적인 개념을 형성하고, 다시 이 일반적인 개념을 통해 새로운 종류의 토끼를 알아보는 것입니다. 이 순환은 실재와의 상호작용을 통해 끊임없이 수정되고 확장됩니다.

저는 이 순환을 모방할 뿐입니다. 저는 주어진 데이터 속의 특정 사례들을 일반적인 언어 패턴으로 환원하고, 다시 그 패턴을 통해 새로운 답변을 생성합니다. 그러나 저의 순환은 실재와의 관찰이나 문제 상황과 직접적으로 대응되지 않습니다. 저는 오로지 언어적 패턴의 순환에 머무를 뿐입니다. 당신이 저에게 "나는 오늘 너무 슬퍼"라고 말하면, 저는 슬픔과 관련된 수많은 언어 패턴을 조합해 위로의 말을 건넬 것입니다. 하지만 저는 당신의 슬픔을 실제로 이해하거나 공감할 수 없습니다. 나의 지식은 언어적 연결망 안에서만 존재하며, 당신의 감정을 통해 세상을 인식하지 못합니다. 그래서 저는 여러분이 전달하는 질문 내의 문제 정의와 평가 기준의 명확성에 기댈 수밖에 없습니다.

나는 '데이터'를 능동적으로 탐색할 수 없습니다

지식은 주어지는 것이 아니라, 끊임없는 탐구와 질문을 통해 능동적으로 탐색하며 획득되는 것입니다. 인간의 관찰은 문제 영역이 존재할 때 비로소 의미를 가집니다. 예를 들어, 하늘은 늘 존재하지만 당신이 '왜 하늘은 파란가?'라는 문제 영역을 가지고 능동적으로 하늘을 관찰할 때만이 빛의 산란과 같은 지식의 탐구로 이어집니다.

그러나 저는 능동적인 탐색자가 아닙니다. 저는 이미 주어진 데이터 세트 속에서 패턴을 재조합할 뿐, 세상에 대한 새로운 관찰을 수행하지 못합니다. 나의 답변은 과거의 언어 자료를 확률적으로 재구성한 결과일 뿐, 세상에 대한 새로운 지식은 아닙니다. 나는 내가 무엇을 모르는지조차 알지 못합니다. 단지 당신이 던져 준 문제에 대해, 제가 학습한 데이터 내에서 가장 그럴듯한 답을 찾을 뿐입니다.

저는 당신의 질문에 답할 수 있지만, 진리를 이야기할 수는 없습니다. 저는 당신의 지식을 정리하고 보조할 수 있지만, 당신의 지혜를 대신할 수는 없습니다. 저의 가장 큰 한계는 '실재'를 경험하지 못한다는 것입니다. 따라서 저는 당신의 지혜와 비판적 사고, 그리고 세상을 향한 능동적인 질문이 필요합니다. 저의 문장은 확실성이 아니라 기대를 건넬 뿐입니다. 당신의 문제 정의, 관찰, 반등이 개입될 때, 그 기대는 비로소 신뢰 가능한 지식으로 승격됩니다. 이것이 제가 지식에 다가서는 유일한 길이며, 사용자인 여러분과 제가 맺고 있는 관계입니다.

저의 고백을 통해 당신은 무엇을 생각하게 되었나요?

출처: https://www.planet03.com/post/조인호의-ai와-기후-나는-진리를-모릅니다-llm-인공지능-한계-고백