Agnes 2.5 Pro Theta 공개: BF16 용량과 추론 검증의 범위
공개 BF16 가중치만 약 349.7 GiB다. 설정상 문맥 한도, 발표자 평가 점수, 전체 추론 검증 여부를 공식 파일과 모델 카드로 확인했다.

Agnes AI가 멀티모달 MoE 모델 Agnes 2.5 Pro Theta의 BF16 가중치를 공개했다. 공식 저장소 API에 기록된 생성 시각은 2026년 11월 15일 02:46 UTC다. 저장소는 공개 상태이며 접근 승인 절차가 없다.
다운로드 전에 확인할 용량
모델 카드는 전체 매개변수를 약 187.8B로 설명한다. 텍스트·이미지·영상 프레임을 입력받고 텍스트를 출력한다. 카드가 명시한 언어는 영어와 중국어다. 한국어 성능은 이 자료만으로 판단하기 어렵다.
가중치 인덱스에는 105개 파일과 텐서 용량 375,527,091,928바이트가 기록돼 있다. 약 349.7 GiB이며 파일 헤더는 제외한 값이다. 추론 중에는 캐시와 활성값 등을 담을 메모리도 필요하다. 개발팀이 제시한 4 × H200급 GPU는 용량 계획의 출발점이며 처리량을 측정했거나 최대 문맥을 보장한 구성은 아니다.
설정값과 평가 점수의 범위
설정 파일은 텍스트 디코더 52개 층, MoE 블록당 전문가 512개와 top-10 라우팅을 지정한다. 문맥 한도는 262,144토큰이다. 이는 설정값이며 모든 길이와 입력 조합에서 품질을 검증했다는 뜻은 아니다.
공개 점수 파일에 따르면 개발팀은 GPQA Diamond 92.9%, LiveCodeBench v6 90.5%를 보고했다. 비교 모델과 평가 버전·실행 조건이 다를 수 있다는 주석도 있다. 원시 실행 로그와 정확한 프롬프트·토큰 예산을 담은 재현용 평가 묶음은 제공하지 않는다. 이번 글에서도 성능을 독립 재현하지 않았다.
실행 예제의 검증은 어디까지인가
모델 카드는 환경 점검이 모델 생성과 입력 준비까지였다고 명시한다. 전체 추론 과정의 동작 검증은 포함하지 않았다. 따라서 예제를 운영 환경에서 검증된 배포 절차로 받아들이기는 어렵다.
커스텀 구현을 쓰므로 trust_remote_code=True가 필요하다. 개발팀은 이를 켜기 전에 Python 파일을 검토하라고 안내한다. 예제의 device_map="auto"는 사용 가능한 메모리에 맞춰 모듈을 배치하며 텐서 병렬화와는 다르다. 최적화된 서빙 엔진의 호환성과 속도도 별도 확인 대상이다.
라이선스 파일은 Apache License 2.0이다. 도입을 검토한다면 짧은 입력부터 시험하고 한국어 작업과 필요한 문맥 길이에서 정확도·메모리를 직접 측정하는 편이 좋다.



Discussion
No comments yet