2021년 3월, 언어학자와 컴퓨터 과학자들이 협력하여 발표한 논문 하나가 인공지능(AI) 논의의 판도를 완전히 바꿔놓았습니다. 바로 "스토캐스틱 패럿의 위험성: 언어 모델은 너무 거대할 수 있는가?"라는 도발적인 제목의 논문이었죠.
이 논문은 거대 언어 모델(LLM)이 단지 통계적으로 단어의 순서를 예측하여 텍스트를 생성할 뿐, 실제 의미를 '이해'하는 것이 아니라는 비판적 관점을 제시했습니다. '스토캐스틱 패럿', 즉 통계적 앵무새라는 비유는 지난 5년간 학계를 넘어 사회 전반에 퍼져나가며 AI에 대한 우리의 인식을 뒤흔들었죠. 심지어 어깨에 얹는 로봇까지 등장했을 정도입니다.
하지만 이 비유가 널리 퍼지면서 원작자들의 의도와는 다른 오해 또한 증폭되었답니다. 워싱턴 대학의 계산 언어학 교수이자 이 논문의 주 저자인 엠멜리 벤더(Emily M. Bender) 교수는 2026년 현재, 이러한 오해들을 바로잡기 위해 다시 한번 목소리를 냈습니다. 과연 벤더 교수가 강조하는 '스토캐스틱 패럿'의 진짜 의미는 무엇일까요?
AI, 그 모호한 이름 뒤 숨겨진 진실
'인공지능'이라는 용어는 많은 사람들에게 혼란을 안겨주는 주범인 듯합니다. 벤더 교수는 이 용어가 실제 기술을 모호하게 만들고, 여러 이질적인 기술들을 한데 묶어 과장하는 경향이 있다고 지적합니다. 그녀에게 인공지능은 '실체를 가리는' 표현에 가깝죠.
많은 이들이 AI를 '챗봇'이나 'LLM'과 동일시하지만, 이는 큰 오해라는 겁니다. 단백질 접힘 구조를 예측하는 알파폴드(AlphaFold)나 날씨 예측 모델처럼 특정 분야에 최적화된 기술들도 AI라 불리지만, 챗GPT 같은 LLM과는 작동 방식이나 목적이 완전히 다르다는 설명입니다. 벤더 교수는 "과학자들이 AI를 사용해 신약을 발견했다"는 식의 보도들이 어떤 특정 기술을 의미하는지 명확히 밝히지 않아 대중의 혼란을 가중시킨다고 꼬집습니다.
물론 'AI'라는 포괄적인 용어가 기술 기업들의 기업 가치를 높이거나 연구 기금을 유치하는 데 도움이 되는 측면도 있다고 인정했죠. 하지만 이러한 '가치'가 기술에 대한 건설적인 논의와 현명한 의사 결정을 방해하는 '순손실'을 초래할 수 있다고 경고합니다.
'스토캐스틱 패럿' 오해 풀기: LLM의 본질
가장 흔한 오해 중 하나는 "벤더는 AI 전체가 스토캐스틱 패럿이라고 말한다"는 것입니다. 하지만 벤더 교수는 "스토캐스틱 패럿"이라는 비유가 오직 거대 언어 모델에만 적용된다고 강조했더라. 이 논문은 2020년 말에 작성되었고, 당시 'AI'라는 단어는 거의 언급되지 않았다고 합니다. 체스 엔진, 알파폴드, 이미지 분류 시스템 등 다른 AI 기술들을 스토캐스틱 패럿이라고 주장한 적은 단 한 번도 없었다는 사실이죠.
또 다른 오해는 이 비유가 LLM이나 그 개발자들을 '모욕'하거나 '폄하'하려는 의도였다는 점입니다. 벤더 교수는 "그것은 단지 시스템이 실제로 무엇인지를 설명하는 것일 뿐"이라며, 시스템을 모욕하거나 시스템을 좋아하는 사람들을 모욕하려는 의도가 아니었다고 분명히 밝혔습니다. '스토캐스틱 패럿'이나 '문어 사고 실험', '합성 텍스트 압출 기계'와 같은 비유들은 언어 기술을 만들지 않는 사람들에게 이 시스템들이 실제로 무엇을 하는지 생생하게 보여주기 위한 노력의 일환이었던 것이죠.
논문이 발표된 2021년 당시만 해도 '합성 텍스트'나 챗봇에 대한 대중의 관심은 그리 크지 않았다고 합니다. 하지만 챗GPT의 등장으로 이 부분이 폭발적으로 중요해졌다는 분석이 흥미로워요. 당시 논문에는 환경 영향, 학습 데이터의 편향 흡수, 데이터 수집의 문제점 등 다양한 위험 요소들이 포함되어 있었고, 합성 텍스트 문제는 그중 하나에 불과했음을 기억해야 합니다.
엠멜리 벤더가 말하는 LLM의 진짜 위험
벤더 교수는 만약 지금 '스토캐스틱 패럿' 논문을 다시 쓴다면, 한 가지 중요한 내용을 추가할 것이라고 말했습니다. 바로 착취적 노동 관행입니다. 여기에는 데이터 작업자들이 직면하는 열악한 근무 환경과, LLM의 기반이 되는 방대한 양의 개인의 창작물 및 지적 산출물에 대한 '대규모 절도' 문제가 포함된다는 지적입니다. 이러한 윤리적 문제들이 당시 논문에 포함되지 못한 것이 아쉽다는 솔직한 고백은, 2026년 현재 AI 기술의 이면을 다시 한번 돌아보게 만듭니다.
그녀가 대중에게 가장 전달하고 싶은 메시지는 명확합니다. "이러한 시스템에서 나오는 텍스트가 말이 된다면, 그것은 우리가 그 텍스트에 의미를 부여하기 때문입니다." 우리는 기술을 평가할 때 언어의 의미를 파악하는 우리의 능력을 항상 염두에 두어야 한다는 것이죠. 이는 AI 담론에서 자주 간과되는 핵심적인 부분인 듯합니다.
자주 묻는 질문 (Q&A)
Q1: '스토캐스틱 패럿' 비유는 왜 '모욕'이 아닌가요?
A1: 벤더 교수는 이 비유가 LLM의 실제 작동 방식을 있는 그대로 설명하는 '객관적인 묘사'일 뿐이라고 말합니다. 시스템을 모욕하거나 그 애호가들을 비난하려는 의도가 아니었으며, 단지 사람들이 LLM의 본질을 더 잘 이해하도록 돕기 위함이었다는 설명이죠.
Q2: 엠멜리 벤더 교수가 생각하는 AI 용어의 가장 큰 문제는 무엇인가요?
A2: 벤더 교수는 'AI'라는 용어가 서로 다른 기술들을 한데 묶어 혼란을 야기하고, 각 기술의 능력을 과장하여 현실적인 논의와 규제를 어렵게 만든다고 지적합니다. 이로 인해 기술의 장단점을 명확히 파악하기 어렵다는 것이 주된 문제점으로 보여요.
Q3: LLM이 생성하는 텍스트를 어떻게 이해해야 할까요?
A3: 벤더 교수는 LLM이 생성하는 텍스트가 의미 있게 느껴진다면, 그것은 '우리'가 언어에 의미를 부여하는 능력 때문이라고 강조합니다. 시스템 자체가 이해하는 것이 아니라, 우리가 통계적 패턴을 통해 만들어진 텍스트를 인간적인 맥락에서 해석하고 이해한다는 관점입니다.
Q4: 벤더 교수가 원래 논문에서 다루지 못해 아쉬워하는 부분은?
A4: 벤더 교수는 LLM 개발 과정에서 발생하는 '착취적 노동 관행'과 '지적 재산권 도용' 문제였다고 언급했습니다. 데이터 작업자들의 열악한 환경과 방대한 창작물 무단 사용 문제가 논문의 핵심 위험 요소로 포함되었어야 했다는 아쉬움을 표명했죠.
마치며
2026년, 인공지능 기술은 전례 없는 속도로 발전하고 있습니다. 하지만 그만큼 혼란과 오해도 커지고 있는 것이 현실이죠. 엠멜리 벤더 교수의 '스토캐스틱 패럿' 논문은 5년 전 발표되었지만, 그녀가 최근 다시금 강조하는 통찰들은 여전히, 아니 더욱 중요해 보이는 듯합니다. LLM이 무엇이고 무엇이 아닌지 정확히 이해하는 것, 그리고 기술의 그림자까지 직시하는 것이야말로 진정으로 건강한 AI 발전을 위한 필수적인 전제 아닐까요? 우리 모두가 'AI가 무엇인지'를 제대로 논의하고 현명한 결정을 내릴 수 있는 사회가 되기를 간절히 바라봅니다.