論理パラメータ = 実際のモデルパラメータ(パックされたテンソル要素ではない)。MXFP4 は U8 バイトあたり 2 つの FP4 値

トークンあたりアクティブパラメータ = フォワードパスごとに使用されるパラメータ。MoE では top_k エキスパート + 共有エキスパートのみアクティブ

MoE(専門家の混合):ルーテッドエキスパートは EP でシャード、共有エキスパートは常にアクティブ

MLA(マルチヘッド潜在アテンション):圧縮潜在 KV(kv_lora_rank + qk_rope_head_dim)を使用、完全 K/V ではない

MTP(マルチトークン予測):投機的デコード用補助モジュール。通常推論では有効化しない限りカウントしない

KV キャッシュ = トークンあたりのキャッシュキー/値メモリ。MLA は潜在公式、GQA/MQA は古典公式

TP(テンソル並列):単一 NVSwitch ドメイン内でアテンション + 非エキスパート重みをシャード

EP(エキスパート並列):ルーテッドエキスパート重みをシャード。TP=EP=8 は 8 GPU、64 ではない

PP(パイプライン並列):ステージ間でレイヤーを分割。遅延ペナルティモデルはまだなし

KV プール = 重み + オーバーヘッドを引いた残り VRAM。同時実行 = KV プール / トークンあたり KV / P95 アクティブトークン

Roofline = 理論計算/メモリ下界。実際の TTFT/TPOT ではない — ベンチマークなしでは UNKNOWN

浪費ペナルティ:大きすぎる GPU をペナルティ。8B モデル on B300(288GB)は H100(80GB)より多くペナルティ

安全マージン:使用可能 VRAM の 3% を空きとして保持。すべての PASS 候補で margin > 0

参考:DeepSeek-V3 GitHub、vLLM recipes、OpenAI gpt-oss ドキュメント、NVIDIA GPU 仕様。詳細は docs/calculation-methodology.md