双 DGX Spark 部署与性能分析:公开证据说明 材料范围 本文依据 2026 年 9 月 3 日至 8 日保存的实验输出与测量脚本整理。发布期间未登录推理节点、变更服务配置或重新运行基准。公开附件移除了源主机路径、连接标识和会话标识;原始资料在作者本地留存。测量结果与分母保持不变。 附件对应关系 - initial-deployment.txt:CUDA 编译运行、MTU 前后通信对照、旧配置 136,068 token 输入请求及 API 鉴权检查。 - hybrid-loading.txt:最终混合精度检查点的加载内存记录。 - memory-pressure.txt:一次失败启动的可用内存离散采样、驱动错误与看门狗记录。 - benchmark-history.txt:配置迁移、执行器、关闭 MTP、检查点切换、异常接受率及修正重跑的汇总。 - final-workloads.txt:最终四个固定提示词的解码速度、接受计数及缓存容量。 - final-concurrency.txt:最终配置的温度对照与并发扫描。 - nccl-latency.txt、memory-bandwidth.txt:通信与单机算子微基准。 - speculator-branch.txt:实际草稿执行回退路径的历史源码与日志摘录。 - bench-workloads.py.txt、bench-vllm.sh.txt:用于解释测量口径的历史脚本副本。文件以文本形式提供,不属于本次执行结果。shell 副本的连接初始化已替换为 VLLM_API_KEY 环境变量与回环地址;测量和汇总逻辑不变。环境、依赖和服务配置需另行核对。 关键测量口径 1. 八路聚合吞吐为八个请求生成的总 token 数除以整组墙钟时间;T=0.7,每请求输出上限 200 token,每配置一次扫描。 2. 四任务测试每类仅一个固定提示词;T=0、关闭 thinking、输出上限 300 token。速度取三次请求中位数,接受率取同任务四次请求窗口的计数器差分。 3. bench-vllm.sh 的接受率来自整组实验末尾累计计数,不能配给某一行单流速度。 4. 折算步时来自不同汇总量相除,四任务约为 77.7、79.8、80.7、79.1 ms,均值约 79.3 ms;不是 profiler 直接测量。 5. 含 NaN 与超过 100% 接受率的异常测试已被排除。修正计数器读取后完成了重跑。 6. 98.3 tok/s 的 MTP=0 并发结果保留为反例;最终工作配置没有被认定为全局最优。 7. 输出质量、最终配置的长上下文和长期稳定性未完成验证。旧配置长输入请求与短时通信测试不替代这些检查。 公开说明与技术背景 NVIDIA DGX Spark:https://docs.nvidia.com/dgx/dgx-spark-porting-guide/overview.html NVIDIA 容器故障:https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/troubleshooting.html vLLM 推测解码:https://docs.vllm.ai/en/v0.28.0/features/speculative_decoding/ 社区检查点分析:https://github.com/MiaAI-Lab/Qwen3.8-Flash-Next-Dual-DGX-Sparks 这些外部资料用于说明概念和上游背景,不能代替本次历史输出。