OVHcloud Olala mini 발표: 로컬 실행 수치와 출시 일정 확인하기
OVHcloud가 Olala mini 7A1B를 발표했다. 회사 측 로컬 실행 수치와 현재 사양, 19일 출시 행사 및 모델 파일 확인 범위를 구분한다.

OVHcloud가 2026년 11월 17일 Olala mini 7A1B를 발표했다. 공식 출시 행사는 11월 19일로 예고했다. 로컬 실행을 검토하는 개발자는 발표된 사양과 실제 배포 파일을 구분해 살펴볼 필요가 있다.
현재 사양과 다음 버전
Olala mini는 전체 7B 파라미터 중 1B를 활성화하는 모델이다. 회사는 층마다 전문가 256개를 두고 Differential-TPA와 Mamba-3를 결합했다고 설명했다. 발표 자료의 형식은 BF16이다.
현재 문맥 창은 32,000토큰이다. 회사는 v1.1을 연말까지 내놓겠다고 밝혔다. v1.1은 128,000토큰과 수학 추론 개선을 목표로 한다. 이 계획을 현재 버전의 사양으로 읽으면 안 된다.
속도 수치를 읽는 조건
OVHcloud는 GPU 메모리 8 GB 환경에서 실행할 수 있다고 밝혔다. RTX A4500에서 초당 160토큰, CPU에서 초당 50토큰이라는 수치도 제시했다. 이는 회사 측 발표 수치다. 이 글에서 해당 속도를 재현하거나 독립적으로 검증하지 않았다.
개발자가 도입을 검토한다면 사용할 하드웨어와 입력 길이로 직접 측정하는 편이 좋다. 활성 파라미터 수만 보고 전체 가중치나 실행 중 메모리 사용량을 판단하기도 어렵다.
공개 계획과 확인할 항목
회사는 Apache 2.0으로 Hugging Face에 공개한다고 안내했다. 가중치, 사전학습 기본 모델, 기술 보고서와 AI Act 관련 문서도 공개 대상으로 들었다. 다만 이번 확인에서는 실제 모델 저장소와 파일의 배포 상태를 확인하지 못했다. 곧바로 다운로드할 수 있다고 단정할 근거는 부족하다.
로컬 추론 후보를 찾는 팀이라면 공식 저장소가 제공하는 라이선스와 실행 방법을 먼저 확인해야 한다. 이후 자체 작업에서 품질과 메모리 사용량을 측정하면 된다.



Discussion
No comments yet