All posts

SenseNova-Loop-9B 정식판: 가중치 재사용과 다운로드·엔진 지원 조건

32개 디코더 층으로 56회 층 계산을 수행하는 9B 모델이 나왔다. 접근 동의, 정밀도별 메모리 조건, 아직 열린 추론 엔진 지원 PR을 함께 확인했다.

중간 계산 층을 두 번 통과하는 은빛 경로로 SenseNova-Loop의 가중치 재사용을 표현한 개념 이미지

SenseNova가 2026년 11월 17일 SenseNova-Loop-9B 정식판을 발표했다. 10월 31일 나온 Preview의 후속 모델이다. 모델은 텍스트와 이미지를 받아 텍스트를 생성한다. 모델 카드는 약 9B 파라미터와 최대 512K 토큰 컨텍스트를 안내한다. 공식 모델 카드

같은 중간층을 두 번 통과하는 구조

이 모델은 같은 중간층 가중치를 다시 쓴다. 서로 다른 디코더 층은 32개지만 중간 24개 층을 두 번 실행해 한 번의 순전파에서 층 계산을 56회 수행한다. 첫 번째 통과의 출력이 두 번째 통과의 입력이 된다. 가중치를 공유하므로 계산 깊이와 저장할 파라미터 수가 같은 비율로 늘지는 않는다. 공식 구조 설명

개발팀은 4비트 가중치와 8비트 KV 캐시를 쓰는 조건에서 256K 컨텍스트의 멀티모달 추론에 약 15 GiB의 GPU 메모리가 필요하다고 설명한다. 이는 최대 컨텍스트 512K 전체를 같은 메모리로 실행한다는 수치가 아니다. GPU별 속도와 메모리 사용량은 이번에 직접 측정하지 않았다. 공식 저메모리 배포 설명

평가 점수와 다운로드 조건

개발팀 평가에서 AutomationBench는 36.67로 Qwen3.8-27B와 같았다. NL2Repo에서는 41.36으로 비교 모델의 44.60보다 낮았다. 과제마다 결과가 다르므로 9B 모델이 27B 모델을 전반적으로 대체한다고 해석하기는 어렵다. 이 점수는 개발팀의 자체 평가이며 이번에 독립 재현하지 않았다. 공식 평가 결과

공식 프로젝트는 Apache 2.0 라이선스를 안내한다. 다만 11월 18일 확인한 Hugging Face 페이지는 파일 접근에 동의와 로그인을 요구했다. 공개 API에서 가중치 파일 목록은 확인했지만 비로그인 파일 요청은 HTTP 401로 거절됐다. 라이선스 표기와 실제 다운로드 절차를 구분할 필요가 있다. 저장소 라이선스, 모델 메타데이터

추론 엔진 지원은 PR 상태부터 확인

확인 시점에 vLLM PR #64832는 열려 있었다. 작성자는 Preview 체크포인트의 비양자화 텍스트 추론으로 지원 범위를 제한했다. PR 설명에는 가중치를 공유해도 각 루프 방문의 캐시 상태는 따로 관리한다고 적혀 있다. 정식판의 멀티모달·양자화 추론까지 검증된 것으로 확대해 읽으면 안 된다.

SGLang PR #47281도 아직 열려 있다. 작성자는 텍스트·이미지·비디오 API 스모크 테스트 통과를 보고했지만 정리 커밋 뒤 HF 기준 비교를 다시 실행하지 않았고 과제 단위 정확도 평가는 대기 중이라고 밝혔다. 이 PR의 지원 범위와 정식 모델 카드의 입력 사양도 별도로 확인해야 한다.

도입을 검토한다면 접근 승인을 받은 체크포인트와 엔진 커밋을 고정한 뒤 자체 과제로 확인하는 편이 낫다. 최대 컨텍스트, 양자화 정밀도, 멀티모달 입력 조건을 함께 기록하면 개발팀 수치와 실제 서비스 조건을 비교하기 쉽다.

Discussion

No comments yet