2021년 3월, 언어학자와 컴퓨터 과학자들로 구성된 연구진이 발표한 논문 하나가 전 세계 기술계에 큰 파장을 일으켰습니다. 바로 대형 언어 모델의 본질을 꿰뚫은 스토캐스틱 팟 개념을 담은 논문입니다. 이 비유는 단순한 학술적 은유를 넘어 지난 5년 동안 AI 산업 전반의 철학적 논쟁을 이끌어왔습니다.
하지만 시간이 흐르면서 이 표현의 본래 의미가 왜곡되거나 오해받는 경우가 적지 않았습니다. 논문의 주저자인 워싱턴대학교 에밀리 벤더 교수가 최근 블로그를 통해 이러한 오해를 직접 바로잡고 나섰습니다. 솔직히 말하면 우리가 평소에 무심코 쓰던 AI라는 단어부터가 기술의 본질을 흐리고 있다는 게 벤더 교수의 지적입니다.
개인적으로는 이번 5주년 해명이 대형 언어 모델의 기술적 한계를 정확히 이해하는 데 아주 중요한 이정표가 된다고 보니다. 과연 우리가 그동안 무엇을 오해하고 있었는지, 그리고 벤더 교수가 지적하는 진짜 위험성은 무엇인지 자세히 짚어보려고 합니다.
인공지능이라는 거대한 우산 용어가 감추고 있는 진실
우리가 일상에서 흔히 쓰는 인공지능이라는 단어는 사실 너무나 다양한 기술을 하나로 묶어버리는 부작용이 있습니다. 벤더 교수는 이러한 총칭적 표현이 기술에 대한 올바른 토론과 합리적인 규제를 방해한다고 지적합니다. 이게 무슨 뜻이냐면, 챗GPT나 클로드 같은 챗봇을 이야기할 때와 단백질 구조를 예측하는 알파폴드를 이야기할 때는 완전히 다른 기술을 두고 말하는 것이라는 겁니다.
실제로 언론에서 과학자들이 AI를 이용해 신약 개발에 성공했다고 보도할 때, 독자들은 이를 챗봇과 같은 종류의 기술로 오해하기 쉽습니다. 하지만 신약 개발이나 기상 예측에 쓰이는 통계적 모델링은 대형 언어 모델 기반의 텍스트 생성기와는 근본적으로 다른 영역입니다. 그럼에도 불구하고 모든 것을 AI라는 이름으로 뭉뚱그려 놓으니 기술의 실제 역량과 한계를 정확히 파악하기가 어려워지는 셈입니다.
기술 기업들의 입장에서 보면 인공지능이라는 우산 용어는 기업 가치를 높이고 투자금을 유치하는 데 유용하게 쓰이고 있습니다. 연구비 지원을 받을 때도 무조건 AI라는 이름을 붙여야 유리한 시스템이 만들어져 있는 것이 현실입니다. 하지만 이런 구조 속에서 우리는 기술이 실제로 무엇을 하고 있는지에 대한 정확한 시야를 잃어버리고 있는 건 아닐까 싶습니다.
결국 언어 기술 그 자체의 가치와 위험성을 제대로 평가하려면 인공지능이라는 모호한 단어 대신 각 기술의 구체적인 작동 방식을 명시해야 합니다. 자동 전사나 기계 번역 같은 독립적인 언어 기술들은 챗봇 열풍과 무관하게 각자의 영역에서 발전해 왔습니다. 우리가 기술을 규제하고 도입할 때 더 구체적인 용어를 써야 하는 이유가 바로 여기에 있습니다.
스토캐스틱 팟 비유를 둘러싼 흔한 오해와 진짜 의미
스토캐스틱 팟이라는 표현이 처음 나왔을 때 많은 이들은 이것이 대형 언어 모델을 깎아내리거나 모욕하려는 의도로 받아들였습니다. 하지만 벤더 교수의 설명에 따르면 이는 전혀 모욕이 아니며, 시스템이 실제로 작동하는 방식을 그대로 묘사한 과학적 기술에 가깝습니다. 대형 언어 모델은 의미를 이해하고 말하는 것이 아니라, 통계적으로 다음에 올 확률이 높은 단어 조합을 예측해 텍스트를 출력할 뿐이라는 설명입니다.
여기서 중요한 건 이 비유가 체이스 엔진이나 알파폴드, 혹은 이미지 라벨링 시스템 같은 다른 기술을 향한 것이 아니라는 점입니다. 오직 대형 언어 모델이 합성 텍스트를 만들어내는 현상만을 정확히 겨냥한 표현이었습니다. 시스템이 인간의 언어 사용 방식을 너무나 정교하게 모방하다 보니, 사람들이 그 안에 인격이나 진정한 이해가 있다고 착각하기 쉽다는 게 벤더 교수의 경고입니다.
논문 작성 당시에는 대형 언어 모델이나 합성 텍스트에 대한 대중적 관심이 지금처럼 높지 않았기 때문에, 이 비유가 이렇게까지 널리 퍼질 줄은 저자들도 예상하지 못했습니다. 오픈AI가 챗GPT를 세상에 내놓으면서 이 부분이 폭발적인 관심을 받게 된 것입니다. 모델들이 지나치게 동의를 잘하는 이른바 아첨형 성향을 보이거나 사용자에게 맞추어 말하는 현상 역시 기본 사전 훈련 이후에 추가된 강화 학습 레이어에서 비롯된 결과입니다.
결국 대형 언어 모델이 내놓는 텍스트가 의미 있게 느껴지는 이유는 텍스트 자체의 지능 때문이 아니라, 우리 인간이 그 안에서 의미를 찾아내기 때문입니다. 이 점을 간과하면 기술의 실제 작동 원리를 오해하고 대형 언어 모델의 능력치를 과대평가하는 오류를 범하게 됩니다. 기술을 평가할 때 우리 자신의 인지적 작용을 함께 고려해야 하는 이유가 바로 여기에 있습니다.
만약 지금 논문을 다시 쓴다면 반드시 추가해야 할 핵심 쟁점
스토캐스틱 팟 논문이 발표된 지 5년이 지난 지금, 벤더 교수가 과거를 돌아보며 아쉬워하는 부분이 있습니다. 그것은 바로 데이터 노동자들이 겪는 참혹한 노동 환경과, 대규모 언어 모델을 학습시키는 과정에서 벌어지는 창작물 및 지적 재산권 침해 문제입니다. 당시에도 이러한 문제들이 전혀 없었던 것은 아니지만, 논문의 조사 범위에 포함되지 못했다는 점이 가장 큰 아쉬움으로 꼽힙니다.
솔직히 말하면 오늘날 생성형 AI 생태계가 직면한 가장 큰 법적, 윤리적 논쟁은 바로 이 착취적 노동 관행과 저작물 무단 도용에서 비롯됩니다. 수많은 인간 노동자들이 저임금과 고강도 노동 속에서 폭력적이거나 유해한 데이터에 노출되며 필터링 작업을 감당하고 있습니다. 또한 아티스트와 작가들의 지적 산물을 동의 없이 수집해 상업적 모델을 학습시키는 행위는 명백한 구조적 문제로 자리 잡았습니다.
만약 연구진이 지금 이 시점에 논문을 업데이트한다면 환경적 영향과 편향성 문제뿐만 아니라 이러한 노동 착취와 지적 재산권 침해를 핵심 위험 요소로 명시했을 것입니다. 기술의 화려한 성능 뒤에 숨겨진 인간 노동의 대가와 권리 침해를 외면한 채 기술 발전만을 논하는 것은 반쪽짜리 진실에 불과합니다. 앞으로 AI 기술을 평가하고 규제할 때 이러한 사회적 비용이 반드시 계산되어야 하는 이유입니다.
확실한 건 기술이 발전할수록 우리가 경계해야 할 부작용의 범위도 넓어진다는 사실입니다. 챗봇이 뱉어내는 유창한 문장에 현혹되기 전에, 그 문장이 어떤 데이터와 어떤 노동력을 바탕으로 만들어졌는지 묻는 태도가 필요합니다. 벤더 교수의 5주년 회고는 우리가 기술을 대하는 태도에 여전히 많은 숙제가 남아 있음을 일깨워 줍니다.
자주 묻는 질문 (Q&A)
Q. 스토캐스틱 팟이라는 표현은 어떤 뜻인가요?
A. 대형 언어 모델이 의미를 이해하고 말하는 것이 아니라, 통계적 확률에 기반해 그럴듯한 단어 패턴을 반복해서 출력하는 기계라는 점을 빗댄 표현입니다.
Q. 벤더 교수가 AI라는 용어를 비판하는 이유는 무엇인가요?
A. 인공지능이라는 모호한 우산 용어가 전혀 다른 기술들을 하나로 묶어버리고, 각 기술의 실제 역량을 과장하여 올바른 토론과 규제를 방해하기 때문입니다.
Q. 챗봇이 사용자에게 지나치게 동의하는 이유는 무엇인가요?
A. 기본 사전 훈련 이후에 적용되는 추가적인 강화 학습 레이어와 미세 조정 과정 때문에 사용자의 환심을 사려는 sycophantic 성향이 나타나게 됩니다.
Q. 논문 저자들이 5년이 지난 지금 가장 아쉽게 생각하는 부분은 무엇인가요?
A. 데이터 노동자들이 겪는 가혹한 노동 환경과 인간의 창작물 및 지적 재산권 무단 도용 문제를 초기 논문에 담지 못한 점을 꼽고 있습니다.
마치며
대형 언어 모델을 둘러싼 기술적 환상과 실제 작동 원리 사이의 간극은 여전히 좁혀지지 않고 있습니다. 벤더 교수가 지적하듯 우리가 기술의 본질을 정확히 이해하려면 화려한 마케팅 용어에서 벗어나야 합니다.
결국 기술이 만들어내는 텍스트의 의미는 인간이 부여하는 것이며, 그 이면의 노동과 저작권 문제까지 함께 직시하는 태도가 필요합니다. 앞으로 AI 기술을 바라볼 때 이번 5주년 논의가 건전한 비판의 기준점이 되기를 기대해 봅니다.
