NVIDIA, 오픈 웨이트 테이블 기초 모델 Kumo Tabular 공개: 학습 없는 단일 순방향 예측, 네 가지 벤치마크 자체 보고 1위
NVIDIA가 2026년 9월 29일 공식 블로그를 통해 테이블 기초 모델 Kumo Tabular를 발표했다. 2800만~2억 1500만 파라미터의 세 가지 규모로 제공되며 OpenMDW-1.1 라이선스로 Hugging Face에 공개되었다. 학습과 피처 엔지니어링 없이 단일 순방향 전파만으로 분류와 회귀를 수행하며, 블로그는 TabArena 등 네 가지 벤치마크에서 1위를 기록했다고 밝혔다.
주요 변화
NVIDIA가 2026년 9월 29일 공식 블로그를 통해 테이블 기초 모델 Kumo Tabular를 발표했다. 이 모델은 Kumo Structured 모델 시리즈에 속하며 가중치는 Hugging Face에 공개되었고, 함께 제공되는 코드는 구조화 데이터 오픈소스 라이브러리를 통해 배포된다. 모델은 완전히 인공 합성 테이블로 사전학습되었다. 각 학습 테이블은 구조적 인과 모델에서 샘플링되며, 무작위 인과 그래프와 무작위 추출 함수를 통해 수치형 열, 범주형 열, 목표 변수를 생성하고 나머지 노드는 숨겨진 상태로 유지된다. 이후 열 상관관계, 이상치 절단, 결측값 주입 등의 후처리를 거치고, 트리 앙상블 검사로 학습 가능한 신호가 없는 테이블을 제거한다. 아키텍처는 테이블 구조에 특화된 Transformer로, 열 어텐션, 행 어텐션, 컨텍스트 어텐션을 사용한다. 수치형과 범주형 값은 푸리에 특징 임베딩을 거치며 결측값은 대체하지 않는다. 컨텍스트 행은 서로 어텐션하고, 쿼리 행은 컨텍스트 행에만 어텐션하므로 컨텍스트 키-값은 한 번 계산 후 재사용할 수 있다. 또한 길이 인식 어텐션 온도를 도입해 키 수에 따라 로그 스케일로 각 쿼리를 조정하여 수만 행의 큰 테이블에서도 어텐션을 예리하게 유지한다. 모델은 Small/Medium/Large 세 가지로 제공되며 파라미터는 약 2800만~2억 1500만 개다. 분류와 회귀는 각각 교차 엔트로피 손실과 분위수 손실을 사용하는 두 개의 독립 모델로 학습되며, 회귀는 999개 분위수를 출력하여 점 예측과 불확실성 추정을 제공한다. 블로그는 TabArena에서 ELO 1950으로 1위를 기록했고, 단일 RTX 6000 Pro 평가 환경에서 LimiX-2보다 17배 빠르다고 밝혔다. BeyondArena에서는 ELO 1418과 Improvability 점수 7.78%로 1위를 기록했고, TALENT에서는 분류 정확도, 분류 로그 손실, 회귀 RMSE 세 항목 종합 1위를 차지했다. ScoringBench에서는 Large와 Medium이 각각 1위와 2위를 기록했다. 블로그는 또한 모델이 수치형 열과 범주형 열만 지원하며 단일 순방향으로 최대 10개 범주를 커버하고, 다중 범주는 라이브러리의 오류 정정 출력 코드로 확장된다고 설명했다.
개발자에게 미치는 영향
개발자에게 미치는 직접적 영향은 테이블 모델링 접근 방식이 바뀐다는 점이다. Kumo Tabular는 REST 추론 인터페이스가 없고, Python 환경에서 새로운 GPU 네이티브 라이브러리를 통해 호출한다. 첫 실행 시 Hub에서 가중치를 다운로드하며, 입력은 레이블이 있는 컨텍스트 행과 예측할 쿼리 행이다. 가중치 업데이트, 피처 엔지니어링, 하이퍼파라미터 탐색은 하지 않는다. 블로그 내용이 사실이라면 가장 먼저 영향을 받는 시나리오는 레이블이 부족하고 빠른 베이스라인이 필요한 테이블 작업, 예를 들어 이탈 예측, 수요 예측, 리스크 스코어링이다. 이는 학습 시간이 아니라 전체 학습 파이프라인을 생략하기 때문이다. 블로그 설명에 따르면 예측은 컨텍스트와 해당 쿼리 행 자체에만 의존하고 같은 배치의 다른 쿼리 행에는 의존하지 않는다. 따라서 컨텍스트 키-값을 캐시하여 재사용할 수 있고 연속 스코어링 시 컨텍스트는 한 번만 계산하면 된다. 그러나 이는 컨텍스트의 품질과 커버리지가 출력을 직접 결정한다는 의미이기도 하며, 컨텍스트에서 잘못된 행을 선택하는 것이 잘못된 하이퍼파라미터를 선택하는 것보다 발견하기 어렵다. 주의할 점: 이 모델은 KimiSeek의 현재 온라인 카탈로그에 없으며 이 사이트의 API로 호출할 수 없고, 로컬 또는 자체 GPU 서비스로만 배포할 수 있다. 블로그의 17배 속도, ELO 1950 등의 수치는 모두 벤더 자체 보고이며, 평가 프로토콜과 데이터 분할은 글에 자세히 설명되지 않아 특정 비즈니스 데이터로 직접 외삽할 수 없다. OpenMDW-1.1은 라이선스이며 '오픈 웨이트가 자동으로 상업적 이용 가능을 의미한다'는 결론이 아니므로 구체적 조항은 직접 읽고 확인해야 한다. Kumo Tabular는 기존 그래디언트 부스팅 트리를 무조건 대체하는 것이 아니라 보완 후보로 간주하는 것이 좋다. 중소형 테이블, 레이블 행이 충분하고 수치형과 범주형 열이 주를 이루는 시나리오에서 먼저 대조 실험을 하는 것이 더 안전하다.
연동 및 평가 제안
다음은 조건부 제안이며 벤더가 입증한 결론이 아니다. 첫째, 로컬 GPU 추론 경로를 구축할지 여부: 인식해야 할 보고된 사실은 모델이 가중치 형태로 오픈소스 라이브러리를 통해 로컬에서 실행되고 GPU 환경에 의존한다는 점이다. 내려야 할 선택은 로컬 추론 경로를 새로 추가할지 기존의 작업별 학습 트리 모델을 계속 사용할지다. 선택을 바꾸는 핵심 전제는 팀에 사용 가능한 GPU가 있고 테이블 작업 수가 충분히 많으며 작업별 학습 비용이 충분히 높은지다. 측정 가능한 평가 기준은 자체 홀드아웃 세트에서 두 방식의 정확도 또는 회귀 오차를 비교하고 추론 지연과 GPU 메모리 사용량을 기록하는 것이다. 로컬 추론의 정확도가 우위가 없고 지연이 용납되지 않는다면 이를 위해 새 경로를 유지할 가치가 없다. 둘째, 컨텍스트 행 수의 선택: 보고된 사실은 학습 3단계에서 컨텍스트를 60000행으로 확장하고 길이 인식 어텐션 온도를 특별히 설계했다는 점이다. 내려야 할 선택은 예측마다 얼마나 많은 컨텍스트 행을 투입할지다. 전제는 테이블 규모와 지연 예산이며 컨텍스트가 클수록 GPU 메모리와 시간 비용이 높아진다. 평가 기준은 고정 쿼리 세트에서 수백 행, 수천 행, 수만 행 컨텍스트로 각각 정확도와 지연을 측정하여 정확도가 컨텍스트 증가에 따라 향상되는지, 지연 곡선이 수용 가능한지 확인하는 것이다. 정확도가 조기에 포화되면 컨텍스트를 더 추가하는 것은 GPU 메모리 낭비일 뿐이다. 셋째, 분포 드리프트 하에서의 채택 경계: 보고된 사실은 블로그가 쿼리 행과 컨텍스트 행의 분포가 다르거나 테이블이 학습 범위를 훨씬 벗어나면 정밀도가 떨어질 수 있다고 경고한다는 점이다. 내려야 할 선택은 모델을 통제된 동일 분포 작업에 둘지, 시간대와 채널을 넘나드는 개방 분포 작업에 둘지다. 전제는 온라인에 가까운 컨텍스트 샘플 풀을 구성하고 유지할 수 있는지다. 평가 기준은 학습 분포에서 뚜렷이 벗어난 홀드아웃 세트를 구성하여 오차와 모델 출력의 분위수 구간이 동시에 커지는지, 보정이 여전히 유효한지 관찰하는 것이다. 구간이 부정확하면 감독 학습 모델로 회귀하거나 사용 범위를 좁혀야 한다. 넷째, 분류 범주 수가 10개를 초과하는 작업: 보고된 사실은 단일 순방향으로 최대 10개 범주를 지원하고 초과 시 라이브러리가 오류 정정 출력 코드로 임의 범주 수로 확장한다는 점이며, 이는 작업을 여러 이진 분류 문제로 나누는 것과 같다. 내려야 할 선택은 이 모델을 직접 사용할지 다른 방안을 선택할지다. 전제는 목표 열의 기수와 예측 지연이 배수 비용을 감당할 수 있는지다. 평가 기준은 다중 범주 하위 작업의 오차와 소요 시간을 별도로 측정하고 기존 방안과 비교한 후 결정하는 것이다.
제한과 확인할 사항
분명히 해야 할 점: Kumo Tabular는 현재 KimiSeek의 온라인 카탈로그에 없으며 이 사이트를 통해 호출할 수 없다. 블로그가 설명한 것은 벤더가 Hugging Face에 가중치와 오픈소스 라이브러리를 공개한 로컬 배포 경로이며, 두 가지를 혼동해서는 안 된다. 글의 벤치마크 순위, ELO, 속도 배수, 파라미터 규모는 모두 NVIDIA 블로그의 자체 보고 결과로 독립적으로 재현되지 않았으며, 평가 환경은 단일 RTX 6000 Pro이므로 하드웨어나 데이터 분할을 바꾸면 다른 결론이 나올 수 있다. OpenMDW-1.1은 라이선스 계약이며 오픈 웨이트 자체는 어떤 권한도 부여하지 않는다. 상업적 이용 조건을 충족하는지는 라이선스 원문을 직접 읽어야 한다. 모델은 수치형과 범주형 열만 지원하며 텍스트, 이미지, 타임스탬프는 내장 전처리로 특징 변환에 의존한다. 단일 순방향으로 최대 10개 범주를 지원하고 초과 시 오류 정정 출력 코드가 필요하다. 블로그 자체도 학습 범위를 벗어나거나 쿼리와 컨텍스트 분포가 일치하지 않을 때 정밀도가 떨어질 수 있음을 인정하므로, 출시 전 반드시 자체 홀드아웃 데이터로 정확도와 보정을 검증해야 한다. 또한 학습 레시피와 인공 데이터 생성기는 블로그에서 곧 공개하겠다고 밝혔지만 해당 글 발표 시점까지 공개되지 않아 전체 학습 과정의 재현은 여전히 불가능하다.
원문 보도의 이미지
