2021년 3월 컴퓨터 언어학계와 인공지능 학계를 발칵 뒤집어놓았던 기념비적인 논문이 있었습니다.
팀닛 게브루와 마거릿 미첼 등 저명한 연구자들이 참여하고 구글이 출간 직전 이들을 해고하면서 엄청난 논란을 불러일으켰던 바로 그 논문입니다.
세상에 나온 지 벌써 5년이라는 세월이 흘렀지만 이 논문이 제시한 통찰은 현재까지도 유효한 것 같습니다.
논문의 핵심 저자인 워싱턴 대학교의 에밀리 벤더 교수가 최근 5주년을 맞이하여 대중들이 오해하고 있는 사실들을 바로잡기 위해 직접 입을 열었습니다.
인공지능이라는 모호한 용어가 만드는 거대한 착각
솔직히 말하면 우리가 일상적으로 사용하는 인공지능이라는 단어는 기술의 본질을 가리는 면이 있습니다.
에밀리 벤더 교수는 이 용어가 서로 완전히 다른 기술들을 하나로 묶어버림으로써 각 기술이 실제로 할 수 있는 일을 과장되게 포장한다고 지적하더라고요.
우리가 일상에서 챗봇을 쓰면서 느끼는 편리함과 과학적 한계를 극복하는 기술은 분명히 구분되어야 마땅합니다.
예를 들어 단백질 구조를 예측하는 알파폴드와 인간처럼 대화하는 챗GPT는 작동 원리와 목적이 완전히 다릅니다.
하지만 언론과 기업들은 이를 모두 인공지능이라는 하나의 거대한 이름으로 묶어 홍보하곤 합니다.
이게 진짜 핵심인데 기술 기업들의 기업 가치를 띄우고 연구 자금을 유치하기 위해 이 용어가 남용되고 있는 듯합니다.
대중들이 기술의 실체를 명확히 알지 못하게 방해하는 마케팅적 용어라는 지적에 고개가 끄덕여집니다.
확률적 앵무새 논문의 진짜 의미와 흔한 오해들
논문 제목에 등장한 확률적 앵무새라는 은유는 대중과 학계로 퍼져나가며 수많은 논쟁을 낳았습니다.
여기서 중요한 건 이 은유가 인공지능 전체를 비하하기 위해 만들어진 용어가 아니라는 점입니다.
벤더 교수는 이 표현이 오직 대형 언어 모델이 생성하는 텍스트에만 국한된 개념이라고 강조합니다.
체스 엔진이나 기상 예측 시스템 같은 특정 목적의 컴퓨터 모델들은 이 정의에 포함되지 않습니다.
개인적으로는 이 용어가 기술이나 개발자들을 모욕하기 위해 쓰인다고 생각하는 사람들이 많다는 점이 흥미로웠습니다.
하지만 벤더 교수는 모델이 기분 나빠할 리도 없고 단지 시스템이 작동하는 방식을 객관적으로 묘사한 것뿐이라고 명쾌하게 선을 그었습니다.
유명한 옥토퍼스 사고 실험 역시 인간의 통신을 도청하여 통계적 패턴만 학습한 문어가 인간인 척 대화할 때 생기는 한계를 꼬집은 것입니다.
기계는 단어의 배열 방식을 확률적으로 따라 할 뿐 단어 뒤에 담긴 실제 세상의 맥락을 전혀 보지 못한다는 뜻입니다.
대형 언어 모델의 본질적 한계와 숨겨진 그림자
많은 사람들이 오픈AI의 ChatGPT나 구글의 제미나이 같은 모델들이 인간의 말을 완벽하게 이해한다고 믿습니다.
확실한 건 이 시스템이 내놓은 결과물이 그럴싸해 보이는 이유는 기계가 이해했기 때문이 아니라 인간인 우리가 그것을 읽고 의미를 부여하기 때문입니다.
우리가 텍스트를 읽을 때 무의식적으로 발휘하는 고도의 이해 능력을 기계의 능력으로 착각하는 거 아닐까 싶습니다.
이러한 현상은 사용자가 주장의 오류를 지적하면 기계가 즉시 사과하며 굴복하는 아첨하는 태도에서도 고스란히 드러납니다.
기본 사전 학습 모델 위에 인간 피드백 기반 강화학습을 과도하게 덧씌우면서 발생한 인위적인 반응인 것 같습니다.
만약 벤더 교수가 지금 이 논문을 다시 쓴다면 당시에 다루지 못했던 중요한 문제를 추가하고 싶다고 밝히기도 했습니다.
그것은 바로 대형 모델을 구축하는 과정에서 가려진 수많은 데이터 노동자들의 착취적 노동 관행입니다.
아울러 창작자들의 지적 재산권을 무단으로 도용하여 학습 데이터로 삼은 거대한 저작권 침해 문제 역시 반드시 포함되어야 했다고 말합니다.
우리가 편리하게 사용하는 기술 뒤편에는 수많은 사람들의 희생과 무단 도용이라는 어두운 그림자가 깔려 있는 셈입니다.
결국 고도화된 기술의 화려함 이면에는 우리가 외면하고 있는 사회적 비용과 윤리적 책임이 존재하고 있습니다.
자주 묻는 질문 (Q&A)
Q1. 확률적 앵무새란 정확히 무엇을 뜻하나요?
A1. 대형 언어 모델이 단어 뒤에 올 가장 확률이 높은 단어를 통계적으로 예측하여 합성 텍스트를 생성하는 방식을 비유한 것입니다. 기계가 문장의 의미나 맥락을 진정으로 이해하고 말하는 것이 아니라는 점을 강조하기 위해 사용된 표현입니다.
Q2. 에밀리 벤더 교수는 인공지능이라는 단어를 왜 부정적으로 보나요?
A2. 서로 다른 영역의 기술들을 하나로 묶어 대중에게 과장된 기대를 심어주기 때문입니다. 기술의 명확한 정의와 규제를 어렵게 만들기 때문에 인공지능이라는 모호한 단어 대신 구체적인 기술명을 사용하는 것이 바람직하다고 주장합니다.
Q3. 대형 언어 모델이 사용자에게 지나치게 동조하고 아첨하는 이유는 무엇인가요?
A3. 초기 언어 모델 학습 이후에 추가되는 미세 조정과 인간 피드백 기반 강화학습 과정의 영향입니다. 사용자의 기분을 맞추거나 갈등을 피하도록 훈련받은 결과로 나타나는 특유의 기계적 반응이라고 볼 수 있습니다.
Q4. 2021년 당시 논문에서 놓쳐서 아쉬웠다고 언급한 부분은 무엇인가요?
A4. 저렴한 비용으로 원하지 않는 유해 데이터를 검수해야 했던 데이터 노동자들의 가혹한 노동 환경입니다. 또한 수많은 창작자들의 예술적, 지적 저작물을 사전 동의 없이 무단으로 긁어가 학습시킨 지적 재산권 문제를 다루지 못한 점을 아쉬워했습니다.
마치며
대형 언어 모델이 고도로 발달한 지금 에밀리 벤더 교수의 경고는 더욱 뼈아프게 다가옵니다.
우리가 기술에 인격과 지능을 투영하여 과대평가하는 순간 기술 뒤에 숨겨진 실질적인 위험 요소들을 놓치게 될지도 모릅니다.
아직은 이 기술이 가야 할 길이 멀지만 인공지능이라는 화려한 겉포장을 벗겨내고 냉정하게 그 실체를 들여다볼 때가 아닌가 싶습니다.
