생성형 AI 챗봇의 핵심인 대규모 언어 모델(LLM)은 놀랍도록 인간적인 텍스트와 이미지를 만들어내죠. 하지만 아이러니하게도, LLM이 강점일 것 같았던 한 분야에서 여전히 고전하고 있다는 사실, 알고 계셨나요? 바로 정형 데이터 분석입니다. 하지만 2026년 현재, 이 상황을 완전히 뒤바꿀 새로운 유형의 생성형 AI가 등장해 뜨거운 주목을 받고 있습니다.
아무리 똑똑한 챗봇이라도 복잡한 수학 문제나 법률 문서를 처리하고, 심지어 매력적인 팝송을 작곡하거나 멋진 프레젠테이션 슬라이드를 만들어줄 수 있다지만, 규모가 큰 표 형식 데이터를 마주하면 엉뚱한 답변을 내놓기 일쑤인 현실이죠.
대부분의 기업과 조직에서 가장 중요한 정보는 스프레드시트 형태에 담겨 있습니다. 은행의 거래 기록부터 마케팅 대행사의 웹사이트 지표, 임상 시험 참가자의 생체 신호까지, 세상은 행과 열로 이루어진 구조화된 데이터로 돌아가고 있다고 해도 과언이 아닌데요. LLM은 이런 방대한 데이터를 제대로 처리하지 못하는 치명적인 한계를 보여왔습니다.
이러한 간극을 메우기 위해 AI 스타트업 Fundamental이 새로운 유형의 AI 기초 모델인 대규모 테이블 모델(LTM)을 개척하고 나섰습니다. Fundamental은 2026년 2월 5일, 2억 7천 5백만 달러의 자금 조달 소식과 함께 테이블 데이터를 위해 특별히 제작된 모델, 바로 Fundamental NEXUS를 공개하며 세간의 이목을 집중시켰죠. 이제 Amazon Web Services(AWS)와 같은 거대 기업들이 이 모델을 채택하고 있으며, 다른 기업들도 자체 LTM 개발 경쟁에 뛰어들고 있는 양상입니다.
LLM, 왜 스프레드시트 데이터 앞에서 작아지는가?
암스테르담 기반의 선임 AI 연구원 보리스 반 브뢰겔(Boris van Breugel)은 정형 데이터가 덜 주목받는 이유 중 하나로 인간의 편향성을 꼽았습니다. "사람들은 이미지, 비디오, 챗GPT의 답변을 보는 것을 좋아하지만, 테이블 데이터는 숫자를 보는 재미가 없기 때문에 뒤처져 있다"는 것이 그의 설명입니다.
또한, 다양한 테이블 데이터셋은 서로 비교하기 어렵다는 점도 LLM의 한계로 작용합니다. 대부분의 언어는 유사한 의미론적 구조를 가지기에 방대한 텍스트 데이터 학습에 LLM이 적합하지만, 변수가 너무 다른 테이블 데이터셋으로는 단일 테이블 모델을 훈련시키기 훨씬 어렵다는 것이죠. 언어는 본질적으로 순차적이며, 단어의 순서가 바뀌면 의미가 변하거나 파괴될 수 있습니다. 하지만 스프레드시트의 정형 데이터는 순차적이지 않아 열의 순서를 바꾸거나 행을 섞어도 데이터의 본질적인 의미는 그대로 유지됩니다.
이러한 선형 순서로부터의 독립성은 선형 시퀀스에서 다음 값을 예측하는 LLM의 기본적인 목적과 충돌합니다. Fundamental의 CEO 제레미 프랭클(Jeremy Fraenkel)은 "LLM은 입력값을 조금만 바꿔도 다른 출력값을 내놓는다"며, "이는 LLM에게 바람직할 때도 있지만, 거래가 사기인지 아닌지를 예측할 때는 입력값에 상관없이 예측 결과가 항상 같아야 한다는, 즉 결정론적이어야 한다"고 강조했습니다.
정형 데이터 분석의 새로운 강자, LTM의 등장과 기술 혁신
기존 테이블 데이터 분석 솔루션은 15년 이상 된 XGBoost 같은 머신러닝 알고리즘에 국한되어 있었습니다. 이러한 경사 부스팅 결정 트리 알고리즘은 각 사용 사례별로 데이터 과학자들이 몇 달에 걸쳐 훈련하고 최적화해야 하는 번거로움이 있었죠. 반면, NEXUS와 같은 신흥 LTM은 다양한 데이터베이스 사전 학습을 통해 축적된 지식을 활용하는 기초 모델입니다. 따라서 최소한의 맞춤형 기능 엔지니어링이나 작업별 모델 구축 없이도 광범위한 예측 작업에 적용될 수 있는 엄청난 유연성을 자랑합니다.
LLM이 주로 토큰 시퀀스를 모델링하는 것과 달리, LTM은 테이블 데이터의 구조를 직접 모델링합니다. 각 항목의 수치 값, 그것이 무엇을 나타내는지, 다른 항목과 어떻게 관련되는지를 함께 학습하는 방식이죠. 예를 들어, 바나나 재고 테이블의 한 항목을 생각해보세요. LTM은 단순한 수량(예: 500개)뿐만 아니라, 이 항목이 현재 바나나 재고량이라는 사실, 카테고리(농산물), 그리고 해당 항목과 열의 나머지 부분이 연결되는 통계적 속성까지 파악할 수 있습니다. 이러한 문맥적 이해는 정형 데이터에 대한 훨씬 더 정확한 추론과 예측을 가능하게 만듭니다.
프랭클에 따르면, NEXUS 개발의 가장 큰 도전 과제 중 하나는 적절한 훈련 데이터를 확보하는 것이었습니다. 자연어는 풍부하고 구조가 비교적 균일한 반면, 테이블 데이터는 민감하거나 독점적인 경우가 많아 찾기 어렵고 매우 다양합니다. 생물학 데이터셋과 금융 데이터셋 사이에는 유사점이 거의 없다는 점이 이를 방증합니다. 이러한 복합적인 요인 때문에 Fundamental은 거대한 훈련 데이터셋을 구축하는 데 막대한 투자를 해야 했습니다.
프랭클은 "파트너십 및 라이선스를 통해 확보한 독점 데이터셋, 고품질 공개 및 오픈소스 데이터셋, 그리고 훈련 코퍼스의 다양성과 적용 범위를 확장하는 데이터 증강 기술을 조합하여 수십억 개의 테이블에 대해 NEXUS를 사전 훈련했다"고 설명했습니다. 특히 NEXUS는 고객 데이터를 기반으로 훈련되지 않으며, 고객 데이터에 물리적으로 접근할 수 없는 기밀 컴퓨팅 플랫폼이라는 점을 강조했습니다.
이러한 보안 기능은 2026년 6월, AWS가 안전한 머신러닝의 표준 운영 체제로 널리 알려진 Amazon SageMaker에 NEXUS를 통합한 핵심 요인으로 작용했을 것입니다. 이는 종종 민감한 고객 데이터에 LTM이 직접 접근할 수 있게 해 LLM과 대조적인 접근 방식을 보여주었죠. LLM은 데이터를 모델로 가져와야 하는 방식이 대부분이니까요.
프랭클은 "Amazon과의 직접적인 파트너십을 통해 우리 모델은 마치 AWS의 기본 솔루션처럼 존재한다"며, "궁극적으로는 이러한 관계를 확장하여 최종 사용자들이 예측을 수행하는 모든 곳에서 데이터를 진정으로 활용할 수 있도록 하는 것이 목표"라고 밝혔습니다.
글로벌 기업과 연구 커뮤니티의 LTM 경쟁 가속화
Fundamental이 적어도 엔터프라이즈 애플리케이션 분야에서 선두를 달리고 있지만, 기초 LTM을 추구하는 기업은 Fundamental만이 아닙니다. 2026년 3월에는 사기 및 금융 범죄 예방 서비스를 제공하는 Feedzai와 신용카드 회사 Mastercard가 각각 금융에 초점을 맞춘 유사한 독점 기술을 발표했습니다. 그리고 2026년 6월 말, Google은 수억 개의 합성 데이터셋으로 완전히 훈련된 자체 경쟁 모델인 TabFM을 출시하며 LTM 시장에 본격적으로 뛰어들었습니다.
머신러닝 연구자들도 뒤처지지 않습니다. FlexTab, TabICL, iLTM은 지난 1년 동안 연구 커뮤니티에서 개발된 수많은 LTM 중 일부에 불과하며, 이들 모두 LLM의 성공을 테이블 도메인으로 가져오기 위해 노력하고 있습니다.
마치며
이 모든 상황을 종합해볼 때, 미래의 방향은 분명해 보입니다. 반 브뢰겔은 "미래에는 대부분의 데이터 분석 및 처리가 LLM이든 LTM이든 또는 이 둘의 조합이든 자동화된 시스템을 통해 이루어질 것이라는 점에 매우 놀라지 않을 것"이라며, "대부분의 사람들은 데이터 분석을 즐기지 않으며, 이러한 시스템들이 훨씬 더 잘 해낼 수 있을 것"이라고 전망했습니다.
프랭클도 이에 동의합니다. 그는 "LLM과 LTM의 관계는 마치 인간의 뇌와 같다"며, "좌뇌는 텍스트를 추론하고 이해하며 요약하는 데 능숙하고, 우뇌는 숫자, 통계, 패턴을 이해하는 데 매우 뛰어나다. 하지만 이 둘을 결합할 때 비로소 훨씬 더 강력한 무언가를 얻을 수 있다"고 설명했습니다. LLM과 LTM이 함께 만들어낼 새로운 AI 시대, 정말 기대되지 않나요?