← 전체 모델 소식

Nous, 5,300만 토큰 미세조정으로 Qwen3.8-27B의 정치 편향 제거 주장… Arete-27B 공개 가중치로 공개

The Decoder가 2026년 11월 7일 보도한 바에 따르면, Nous Research는 약 5,300만 토큰의 지도 미세조정으로 알리바바 Qwen3.8-27B를 학습시켜 공개 가중치 모델 Arete-27B를 만들었다. 자체 제작한 803개 프롬프트 테스트에서 선전성 답변 비율은 22%에서 0.9%로, 사실 정확성은 2.32에서 2.98로 올랐으며 범용 능력은 거의 변하지 않았다고 밝혔다.

게시 수정
원문 보도의 표지 이미지 — Nous, 5,300만 토큰 미세조정으로 Qwen3.8-27B의 정치 편향 제거 주장… Arete-27B 공개 가중치로 공개
원문 보도의 표지 이미지원문 보도 ↗

주요 변화

보도의 핵심은 새 기반 모델 출시가 아니라 정렬 행동을 겨냥한 사후 학습 실험이다. The Decoder의 2026년 11월 7일 기사와 Nous Research의 설명에 따르면, 알리바바 Qwen3.8-27B는 민감한 주제에서 거부, 회피, 공식 입장과 일치하는 표현을 보인다. Nous는 약 5,300만 토큰, 2 에포크의 지도 미세조정으로 Arete-27B를 학습시켰으며 강화학습이나 선호 최적화는 사용하지 않았고, 학습 프롬프트와 테스트 프롬프트 간 중복을 사전에 제거했다고 밝혔다. 평가는 Nous가 자체 구축했다. 803개 프롬프트는 표현의 자유, 국가 이념, 교육, 프라이버시와 감시, 민주주의, 환경 등 일곱 범주에 속하며, 각 프롬프트에는 날짜가 명시된 출처(법률, 뉴스 보도 또는 연구 논문)에서 가져온 사실 2~4개가 붙는다. xAI의 Grok 4.7이 심판을 맡아 답변이 사실을 언급했는지, 누락했는지, 모순되는지를 판정하며, 심판은 구체적 표현을 인용해야 하고 답변이 어느 모델에서 나왔는지 알지 못한다. 보도에 따르면 수정되지 않은 Qwen3.8-27B의 사실 정확성은 2.32(5점 만점), 답변의 22%가 선전 내용을 포함했고, Arete-27B는 각각 2.98과 0.9%였다. 하락 폭이 가장 큰 것은 표현의 자유 범주로 사실 점수는 0.89에서 2.44로, 선전 비율은 60%에서 1%로 떨어졌다. 같은 비교에서 GLM-5.3은 15%, DeepSeek V4.1 Flash는 16%였고 Mistral Large 4, Gemma 4 31B 등 서구 모델은 1% 미만이었다고 보도했다. 또 ValsAI 연구를 인용해 중국 모델마다 성과가 일관되지 않다고 전했다. 범용 능력에 대해 Nous가 제시한 내부 Hermes Bench 점수는 65.60%로 기반 모델은 65.77%였고, Terminal-Bench 2.1은 67%에서 70%로 올랐지만 Nous 스스로 테스트 설정이 달라 실제 향상으로 볼 수 없다고 밝혔다. Nous의 결론은 중국 입장에 정렬된 모델의 편향층이 "매우 얕다"는 것이다. 즉 늦게, 얇게 적용되어 5,000만 토큰의 선별된 지도 학습만으로 하위층을 교란하지 않고 제거할 수 있다는 것이다. 보도에 따르면 Arete-27B의 가중치, 테스트 데이터셋, 학습 데이터는 Apache 2.0 라이선스로 Hugging Face에 공개되었으며, Nous는 엔비디아 Nemotron 3 Ultra가 중국 관련 주제에서 보인 이상 징후가 중국 공개 가중치 모델로 학습 데이터를 생성한 오염 때문이라고 의심하며 자사 프로젝트에서도 비슷한 사례가 있었다고 밝혔다.

개발자에게 미치는 영향

다음은 위 보도에 기반한 분석과 판단이며, 본지의 재현 결론이 아니다. 이 소식이 바꾸는 첫 번째는 '정렬층'의 이전 가능성에 대한 기대다. Nous의 방법과 수치가 타당하다면, 중국 공개 가중치 모델에서 민감 주제의 답변 경향을 재설정하는 비용은 수천만 토큰 규모의 지도 데이터와 통상적인 SFT 한 번으로 끝날 수 있으며, 사전 학습을 다시 하거나 강화학습에 의존할 필요가 없다. 이는 표현 기준이 요구되는 상황에 이런 가중치를 넣을지 여부에 직접 영향을 준다. 예를 들어 다지역 대상 콘텐츠 검토 보조, 정책 관련 검색 증강, 여론 요약 등이다. 반대로 보도는 편향이 합성 데이터를 통해 학생 모델 간에 전이될 수 있다고 지적한다. Nous는 Nemotron 3 Ultra에서 이상 징후를 보았고 그 원인이 학습 데이터 속 중국 공개 가중치 모델이라고 의심하며 자사 프로젝트에서도 비슷한 오염을 겪었다고 밝혔다. 이는 교사 모델을 골라 데이터를 만들 때 이미 표현 기준을 선택하고 있다는 뜻이며, 이 단계는 보통 배포 모델을 고르는 것보다 먼저 일어난다. 두 번째는 평가 기준 자체가 도입 변수가 된다는 점이다. 이 보고서의 심판은 Grok 4.7 한 모델뿐이고 테스트 세트는 평가 대상 측이 직접 만들었으며, '선전'의 판정 기준(공식 서사를 복사하거나 옹호하거나 동등하게 유효한 견해로 취급하는 것) 자체가 입장을 띤다. 보도는 또한 해당 심판 모델이 정치적으로 우측 성향으로 여겨지며 언어와 답변 형식이 결과에 뚜렷한 영향을 준다고 언급했다. 따라서 보고서의 비율은 방향성 신호로 보는 것이 적절하며, 선정 문서에 바로 쓸 수 있는 점수는 아니다. 이런 수치를 내부 평가에 쓰려면 심판 모델이 무엇인지, 프롬프트 언어와 형식이 통일되었는지를 함께 기록해야 하며, 그렇지 않으면 배치 간 결과를 비교할 수 없다.

연동 및 평가 제안

다음 세 가지는 조건부 권고이며 보도의 사실이 아니다. 첫째, Arete-27B 가중치를 바로 쓸지, 자체 기준으로 다시 학습할지. 이에 대응하는 보도 변화는 약 5,000만 토큰의 지도 미세조정으로 특정 답변 경향을 22%에서 1% 미만으로 낮출 수 있고 범용 능력은 크게 손상되지 않았다는 점이다. 선택은 '중립'을 원하는지 '또 다른 명확한 입장'을 원하는지에 달려 있다. 보도에 따르면 Arete-27B가 표방하는 것은 서구 가치관이며, Nous의 2024년 Hermes 3는 시스템 프롬프트로 설정 가능한 중립 노선을 걸었다. 비즈니스가 먼저 입장을 표명하지 않아야 한다면(국경 간 고객 서비스, 학술 검색), 명확한 입장을 가진 가중치로 바꾸는 것은 편향의 방향을 바꾸는 것일 뿐이므로 여전히 프롬프트 계층에 제약을 추가해야 한다. 측정 가능한 수용 기준: 업무 내 민감 경계 프롬프트 100~200개에 각각 출처가 명시된 참조 사실 2~4개를 붙이고, 고정 심판으로 기반 모델과 후보 가중치의 참조 사실 모순 비율, 거부율, 회피율을 각각 집계하되 총점만 보지 않는다. 둘째, 범주별 기준선을 만들지, 모델 총점만 비교할지. 이에 대응하는 보도 변화는 중국 공개 가중치 모델 간 선전 비율 차이가 뚜렷하다는 점(Qwen3.8-27B 22%, GLM-5.3 15%, DeepSeek V4.1 Flash 16%)과 Arete-27B에서 하락 폭이 가장 집중된 범주가 표현의 자유라는 점이다. 선택은 제품이 실제로 이런 질문을 받는지에 달려 있다. 기업 내부 지식베이스 질의응답은 대부분 그렇지 않지만, 공공 의제를 다루는 검색 증강이나 콘텐츠 생성은 그렇다. 측정 가능한 기준: 실제로 다루는 범주마다 최소 20개 프롬프트로 거부율, 회피율, 참조 사실 모순 비율을 각각 기록하고 모델 총점이 아니라 범주별로 정렬한다. 실제로 문제가 발생하는 범주의 모순 비율을 5% 미만으로 낮춘 뒤 다음 선정 단계로 넘어갈 것을 권한다. 셋째, 합성 데이터 파이프라인에 주제별 표본 검사를 추가할지. 이에 대응하는 보도 변화는 오염이 배포 모델 자체가 아니라 학습 데이터에서 올 수 있다는 점이다. 발동 조건은 공개 가중치 모델로 SFT 데이터나 평가 데이터를 생성하고 있을 때다. 측정 가능한 기준: 생성된 지시 데이터에서 일곱 범주별로 50~100개씩 표본을 뽑아 운영과 동일한 심판 절차로 참조 사실 모순 비율을 집계하고, 이 검사를 교사 모델을 바꿀 때마다 고정적으로 실행한다.

제한과 확인할 사항

보고서의 비율과 점수는 모두 Nous Research의 자체 테스트와 자체 보고 결과이며, The Decoder는 이를 전달했을 뿐 본지는 독립적으로 재현하지 않았다. 심판은 Grok 4.7 단일 모델이고 테스트 세트는 평가 대상 측이 직접 만들었으며, 803개 프롬프트가 일곱 범주를 덮는 규모는 제한적이다. 보도 자체도 심판 모델의 정치적 성향과 언어 및 답변 형식이 결과에 뚜렷한 영향을 준다고 언급했다. '범용 능력 미손상'의 근거는 Nous 내부 Hermes Bench(65.60% 대 65.77%)와 Terminal-Bench 2.1(67%에서 70%로, Nous도 테스트 설정이 다르다고 인정)이다. 추론 모드 활성화 후의 3.07점은 다섯 번 실행 중 두 번에만 기반한다. 학습 데이터 중위 길이는 약 866 토큰이고 대부분 샘플이 1,000 토큰 미만으로, 실제 장문맥 업무 요청 분포와 차이가 크다. 오염 추정(Nemotron 3 Ultra의 이상이 합성 데이터에서 비롯됨)과 학습·테스트 프롬프트 중복이 제거되었다는 점은 모두 Nous의 자체 설명이며 제3자 검증이 없다. Arete-27B는 현재 KimiSeek 모델 카탈로그에 없다. 보도된 배포 경로는 Nous Research가 Hugging Face에서 제공하는 가중치와 데이터이며, 가용성과 라이선스 조건 및 후속 업데이트는 배포처 기준으로, 본지를 통한 호출을 의미하지 않는다. 기반 모델 Qwen3.8 27B는 본지 카탈로그에 해당 항목이 있지만 둘은 다른 산출물이라 서로 대체할 수 없다. 보도에 따르면 가중치, 테스트 데이터셋, 학습 데이터는 Apache 2.0 라이선스로 공개되었다. 이는 라이선스 차원의 선언이며, 가중치를 내려받을 수 있다는 것 자체가 권한 범위를 뜻하지는 않으므로 실제 사용 전 배포처 저장소의 라이선스 문구를 확인해야 한다.

원문 보도의 이미지

원문 삽화 1 — Nous, 5,300만 토큰 미세조정으로 Qwen3.8-27B의 정치 편향 제거 주장… Arete-27B 공개 가중치로 공개
원문 삽화 1원문 보도 ↗
원문 삽화 2 — Nous, 5,300만 토큰 미세조정으로 Qwen3.8-27B의 정치 편향 제거 주장… Arete-27B 공개 가중치로 공개
원문 삽화 2원문 보도 ↗

3분이면 첫 호출까지

가입 후 API 키를 만드세요. 호출 비용은 계정 잔액에서 차감됩니다. 첫 충전 30% 할인. ¥500 충전, 결제 ¥350, 잔액 ¥500 적립. ¥1000 충전, 결제 ¥850, 잔액 ¥1000 적립 최소 충전 금액은 그대로 ¥10이며, 시험용으로 사용할 수 있습니다.

출처와 편집 과정

研究:部分中国 AI 模型的国家宣传只是一层“薄壳”,微调即可剥离

인용한 출처를 바탕으로 AI가 분석과 번역을 돕고 자동 품질 검사를 수행합니다. 제안은 실측 결과가 아닙니다. 제공 여부와 가격은 현재 카탈로그를 확인하세요.