พารามิเตอร์เชิงตรรกะ = พารามิเตอร์จริงของโมเดล (ไม่ใช่ packed tensor elements) สำหรับ MXFP4 มี 2 ค่า FP4 ต่อ 1 ไบต์ U8

พารามิเตอร์ที่ใช้งาน/token = พารามิเตอร์ที่ใช้ใน forward pass สำหรับ MoE มีเพียง top_k experts + shared experts ที่ทำงาน

MoE (Mixture of Experts): routed experts ถูกแบ่งด้วย EP, shared experts ทำงานเสมอ

MLA (Multi-head Latent Attention): ใช้ compressed latent KV (kv_lora_rank + qk_rope_head_dim) ไม่ใช่ K/V เต็มรูปแบบ

MTP (Multi-Token Prediction): โมดูลเสริมสำหรับ speculative decoding ไม่นับใน inference ปกติเว้นแต่เปิดใช้

KV cache = หน่วยความจำต่อโทเคนสำหรับ cached keys/values MLA ใช้สูตร latent GQA/MQA ใช้สูตร classic

TP (Tensor Parallel): แบ่ง attention + non-expert weights ข้าม GPU ในโดเมน NVSwitch เดียว

EP (Expert Parallel): แบ่ง routed expert weights ข้าม GPU TP=EP=8 หมายถึง 8 GPU ไม่ใช่ 64

PP (Pipeline Parallel): แบ่ง layers ข้าม stages ยังไม่มีโมเดล penalty เวลา

KV pool = VRAM ที่เหลือหลังหัก weights + overhead Concurrency = KV pool / KV-ต่อ-token / P95-active-tokens

Roofline = ขอบเขตล่างเชิงทฤษฎี ไม่ใช่ TTFT/TPOT จริง — แสดงเป็น UNKNOWN เมื่อไม่มี benchmark

Waste penalty: ลงโทษ GPU ที่ใหญ่เกินไป โมเดล 8B บน B300 (288GB) ถูกลงโทษมากกว่า H100 (80GB)

Safety margin: เก็บ 3% ของ VRAM ที่ใช้ได้ไว้ว่าง margin > 0 สำหรับทุก PASS

อ้างอิง: DeepSeek-V3 GitHub, vLLM recipes, OpenAI gpt-oss docs, NVIDIA GPU specs ดู docs/calculation-methodology.md สำหรับรายละเอียดเต็ม