SIAM.AI CLOUD

SIAM AI 资源规划器

使用指南

← 概览
📥

输入 Hugging Face 模型 ID(如 Qwen/Qwen3-8B)然后点击分析

⚙️

自动:使用检查点的原生精度(FP8 保持 FP8,不扩展为 BF16)

🔧

高级选项可覆盖精度、KV dtype、引擎、工作负载预设和内存利用率

🔒

对于受限模型(如 Llama-3),在高级部分粘贴 Hugging Face token

📊

结果显示 GPU 对比、内存分解、KV 缓存、拓扑、并发规划等

✅

置信度:EXACT(safetensors 验证)、HIGH(已知架构)、MEDIUM(部分)、LOW(仅分析估计)

📑

使用标签页探索不同方面:概览、架构、内存、KV 缓存、性能、GPU 对比、拓扑、并发、存储、假设、公式审计、AI 解释