All posts

BotPsy-0.8B 발표: 작은 도구 호출 모델의 배포 파일과 평가 조건

Tether AI Research의 0.8B 도구 호출 모델을 살펴봅니다. 공개된 GGUF 파일, 제작팀 평가의 조건과 한국어 서비스에서 따로 확인할 점을 정리했습니다.

스마트폰 안의 소형 신경망 프로세서가 달력·폴더·도구 아이콘과 연결된 온디바이스 AI 개념도

Tether AI Research가 2026년 11월 11일 BotPsy-0.8B를 발표했다. Qwen3.5-0.8B를 바탕으로 도구 호출을 학습한 모델이다. 개발자가 살펴볼 대목은 작은 모델의 호출 정확도와 실제 배포 조건이다. 공식 발표

제작팀의 평가에서 달라진 것

제작팀은 SFT, MOPD, 두 차례 RL을 차례로 적용했다. 자체 평가에서 BFCL v4 점수는 기반 모델의 23.4에서 44.0으로 올랐다. BrowseComp-Plus는 4.5로, 비교 모델 중 가장 높았어도 절대 점수는 낮다. 이 수치는 제작팀의 실험 결과다. 독립 재현이나 일반 업무의 성공률로 읽어서는 안 된다. 학습 방법과 평가 조건

작은 파일과 기기 성능은 따로 확인하기

공식 GGUF 저장소에는 BF16, Q80, Q4K_M 파일이 올라와 있다. 모델 카드의 파일 크기는 각각 약 1.52 GB, 0.81 GB, 0.53 GB다. 이 크기만으로 실행 중 필요한 메모리를 판단할 수는 없다.

GGUF 평가는 NVIDIA H100에서 llama-server로 수행됐다. 휴대전화의 지연 시간이나 배터리 소모를 측정한 결과로 볼 수 없다. GGUF 평가에서는 ToolSandbox를 실행하지 않았다. 배포 형식을 바꾸면 평가 범위도 함께 봐야 한다. 파일과 GGUF 평가

도구 호출을 앱에 연결할 때

공식 모델 카드는 도구 목록을 입력하고 모델이 반환한 호출을 읽는 예제를 제공한다. 이 구조에서는 앱이 실제 도구를 실행한다. 따라서 도입 시험에서는 함수 이름과 인자뿐 아니라 앱의 실행 권한도 점검하는 편이 좋다. 이는 예제 구조를 바탕으로 한 개발 권고다. 호출 예제

GGUF의 내장 chat template는 기본값이 non-thinking이다. 제작팀은 thinking 모드로 학습하고 평가했으므로, 같은 조건을 시험하려면 enable_thinking을 켜야 한다. 발표문의 배포 설명에는 미래형 표현이 남아 있지만 공식 저장소의 가중치와 GGUF 파일 목록은 확인된다. 실행 설정

한국어 서비스에 적용하기 전

모델 카드의 권장 언어는 영어다. 다국어 평가에 열거된 일곱 추가 언어에는 한국어가 없다. 한국어 도구 호출 품질을 확인하려면 별도 평가가 필요하다. 제작팀은 연구·교육을 지원하려고 모델을 개발했다. 안전이 중요한 자동 의사결정이나 금전·개인정보·건강 등 민감한 용도에는 쓰도록 설계하지 않았다고 명시한다. 용도와 한계

Discussion

No comments yet