논리 파라미터 = 실제 모델 파라미터(패킹된 텐서 요소가 아님). MXFP4는 U8 바이트당 2개 FP4 값

토큰당 활성 파라미터 = 순방향 패스마다 사용되는 파라미터. MoE에서 top_k 전문가 + 공유 전문가만 활성

MoE(전문가 혼합): 라우티드 전문가는 EP로 분할, 공유 전문가는 항상 활성

MLA(멀티헤드 잠재 어텐션): 압축 잠재 KV(kv_lora_rank + qk_rope_head_dim) 사용, 전체 K/V 아님

MTP(멀티 토큰 예측): 추측적 디코딩용 보조 모듈. 명시적 활성화 전까지 일반 추론에서 제외

KV 캐시 = 토큰당 캐시 키/값 메모리. MLA는 잠재 공식, GQA/MQA는 클래식 공식

TP(텐서 병렬): 단일 NVSwitch 도메인 내 어텐션 + 비전문가 가중치 분할

EP(전문가 병렬): 라우티드 전문가 가중치 분할. TP=EP=8은 8 GPU, 64가 아님

PP(파이프라인 병렬): 스테이지 간 레이어 분할. 지연 페널티 모델 아직 없음

KV 풀 = 가중치 + 오버헤드 뺀 남은 VRAM. 동시성 = KV 풀 / 토큰당 KV / P95 활성 토큰

Roofline = 이론적 계산/메모리 하한. 실제 TTFT/TPOT 아님 — 벤치마크 없으면 UNKNOWN

낭비 페널티: 과대한 GPU 페널티. 8B 모델 on B300(288GB)은 H100(80GB)보다 더 많은 페널티

안전 마진: 사용 가능 VRAM의 3%를 여유로 유지. 모든 PASS 후보에서 margin > 0

참조: DeepSeek-V3 GitHub, vLLM recipes, OpenAI gpt-oss 문서, NVIDIA GPU 사양. 자세한 내용은 docs/calculation-methodology.md