All posts

FastFrames 공개: B200 생성 지연과 저장 영상 FPS를 구분하기

FastFrames의 36 ms 생성 응답과 16 fps 저장 영상은 측정 대상이 다르다. 공식 코드의 프로파일링 범위와 설치·가중치 조건을 확인한다.

GPU와 캐시 모듈에서 이어지는 네 장의 파도 영상 프레임과 지연 시간을 상징하는 시계의 개념도

Apple과 Cornell 연구진이 2026년 11월 17일 FastFrames 논문을 공개했다. 코드와 FastFrames-S·L 가중치도 공개했다. 연구진은 S 모델이 B200 한 대에서 36 ms, L 모델이 B200 여덟 대에서 45 ms의 생성 응답 지연을 기록했다고 보고했다. 이 수치는 연구진의 측정이며 독립 재현 결과는 아니다. 논문 제출 이력과 초록

모델 계산 밖의 지연 줄이기

FastFrames는 앞서 생성한 내용과 새 입력을 받아 다음 영상을 만드는 자기회귀 확산 모델이다. 연구진은 기존 파이프라인에서 VAE 디코딩과 KV 캐시 갱신이 전체 추론 지연의 절반 이상을 차지한다고 분석했다.

FastFrames는 VAE 디코더를 가벼운 픽셀 디코더로 바꾼다. KV 캐시는 별도 정제 네트워크로 갱신한다. 논문 본문은 이 변경과 시스템 최적화를 설명한다. 개발자는 생성 모델 밖에서 쓰는 시간도 따로 측정한 부분을 참고할 만하다.

36 ms와 영상 FPS의 차이

공식 프로젝트는 B200에서 480p 영상을 생성할 때의 지연을 비교한다. 측정은 워밍업을 마친 정상 상태를 기준으로 한다. FastFrames-S는 1.3B 모델이며 한 대에서 36 ms로 제시된다. FastFrames-L은 14B 모델이며 한 대에서 158 ms, 여덟 대에서 45 ms다. 공식 프로젝트의 비교 조건

추론 문서에 따르면 생성 단위는 잠재 프레임 하나다. 잠재 프레임 하나는 RGB 프레임 네 장을 만든다. 연구진은 텍스트 인코딩, 호스트 전송, 화면 표시 시간을 측정에서 제외했다. 여덟 GPU 실험은 NVSwitch가 있는 단일 노드를 요구한다. 따라서 이 수치를 사용자 입력부터 화면 출력까지 걸리는 전체 시간으로 읽으면 안 된다. 추론·프로파일링 문서

공식 저장소의 기본 영상 생성 예제는 832 × 480 해상도, 81프레임, 16 fps로 파일을 저장한다. 논문 초록의 28 RPS는 생성 응답 빈도이고 저장 파일의 16 fps는 재생 속도 설정이다. 두 값을 같은 FPS로 비교하면 측정 대상을 혼동한다. 공식 코드와 생성 예제

실행 환경과 가중치 준비

설치 문서는 Linux x86-64와 NVIDIA GPU, CUDA 12.8 호환 드라이버를 요구한다. uv는 Python 3.10과 PyTorch 2.9.1 / CUDA 12.8 환경을 설치한다. S 모델은 FastFrames 보조 네트워크 외에 Causal Forcing++ 생성기와 대응하는 Wan 파일도 필요하다. 설치·체크포인트 안내

가중치는 FastFrames-S 모델 카드와 FastFrames-L 모델 카드에서 확인할 수 있다. 두 카드의 라이선스 표시는 apple-amlr다. 저장소는 LingBot-World v2의 코드·가중치에 CC BY-NC-SA 4.0을, 그 밖의 FastFrames 코드에 Apple Sample Code License를 명시한다. 가중치와 코드, 외부 자산의 이용 조건을 각각 확인해야 한다.

실제 도입을 검토한다면 같은 입력과 출력 설정으로 생성 단위당 지연을 먼저 측정할 만하다. 이어 텍스트 처리와 화면 표시를 포함한 응답 시간도 재야 한다. 이 글에서는 모델을 실행하거나 소비자용 GPU의 속도·메모리 요구량을 검증하지 않았다.

Discussion

No comments yet