DeepSeek V4.1 Flash
4 × RTX PRO 6000 Workstation 96 GB、Threadripper PRO 9985WX、约 639 GiB RAM,Engram 位于 RAM,使用带补丁的 SGLang 与 DSpark。
- 1 个请求
- 365 token/秒 · 单次响应中位数
- 8 个请求
- 1,194 token/秒 · 总吞吐量
- 32 个请求
- 3,081 token/秒 · 总吞吐量
开箱即用的 AI 电脑与服务器
适用于写作、文档、编程与团队工作。我们负责选型、在中国组装,并协助您开始使用。
选择服务器请帮我选择
请提炼这份文档的要点
以下是简要摘要
设备效果图
在您的设备上配置文档处理。
通过熟悉的聊天界面与 AI 交流。
选择适合您的模型、硬件和软件。
来自中国的整机方案
直接查看配置与价格。
模型、组装与启动服务一体交付。
基础目录中没有合适的服务器。我们会按所选模型和工作负载计算扩展平台配置。
估算日期为 2026 年 10 月 12 日:包含完整硬件,以及组装、所选模型初始设置和测试的预算。在中国交付;运输、进口、长期支持及复杂集成另行计算。
此初步区间依据公开组件与基础平台价格,加入预算预留及 10–15% 余量。下单前将通过报价确认最终价格、兼容性、供货、交期与保修。该区间不是集成商的正式报价。
查看计算与来源品牌设备
另有 16 套配置,来自 5 家企业。
适合您模型的工作站与服务器。
日常工作的好帮手
写作、寻找答案、处理代码。
让 AI 成为您的工作工具。
请列出签署合同前需要明确的问题。
建议确认以下三点: 1. 价格包含哪些内容,哪些项目另行收费。 2. 完成期限与交付流程。 3. 双方如何确认变更。
可以选择多项任务。
从选型到首次启动
清晰的流程。
共同确认配置、验收与供货条件。
目录中已提供整机配置和初步价格。
明确硬件、价格与条件。
在中国准备系统,并使用约定示例测试。
协商交付安排并协助首次启动。
交付前验收验收方案将包括系统能力及其处理您任务的表现。
您将收到双方确认的电脑或服务器,以及安装好的 AI 模型和所需软件。我们会协助开始使用,具体配置、启动服务、价格与支持范围以报价为准。
只需告诉我们希望 AI 提供什么帮助。我们会明确任务、选择模型,并用通俗语言说明合适的方案。
目录显示整机初步价格:包括硬件以及装配、初始设置和测试的预算。交付地点在中国。运输、进口及复杂集成另行计算。下单前将在报价中确认价格、交期与保修。
我们会使用约定任务测试所选系统,测量首次响应时间和生成速度。团队场景还会测试并发请求,不会将其他系统的测试结果当作您所购设备的速度。
本地模型可在您的设备上处理文档。部署位置、员工访问权限和连接的服务将按您的数据要求确认。
可以。我们考虑 DeepSeek、Qwen、GLM、MiniMax 等模型。具体版本与任务会影响硬件配置。若已有明确选择,可打开下方的技术选型工具。
可以讨论自提。提货地点、配置、验收、文件及保修条件将在报价中明确,也可以按订单协商运输。
面向技术用户
基于具体模型版本进行初步计算。最终配置与速度通过测试确认。
模型原始格式需要扩展平台。更小的格式只能作为独立版本考虑。 此处尚未确认原生上下文上限,所选长度需测试。
基础目录中没有适合此原始格式与工作负载的方案。
4 × RTX PRO 6000D 84 GB
DeepSeek 需要明确的 Engram 内存卸载方式,并验证峰值内存。GLM Flash 加载权重后的余量有限。工作负载和每张 GPU 上的部署均需测试。
4 × RTX PRO 5000 Blackwell 72 GB
排除 GLM Flash。四个 Qwen 副本需要四个单卡分组,速度不能直接按倍数推算。
2 × RTX PRO 6000 Blackwell Workstation 96 GB
Flash-Next 在未计缓冲区前,标称余量不超过 19.22 GiB。
1 × RTX PRO 5000 Blackwell 72 GB
Qwen BF16 通过初步权重容量检查。BF16 速度和 C4/C8 模式尚未实测。
2 × RTX PRO 5000 Blackwell 72 GB
144 GB 不作为 Flash-Next 的统一显存池使用。
2 台工作站,每台配备 1 × RTX PRO 5000 72 GB
两台工作站的显存总和不意味着可以直接拆分同一个模型,跨机部署需要单独方案。
2 × Radeon AI PRO R9700 32 GB
权重部署、ROCm、TP2、P2P 与并发请求尚未验证。
4 × Radeon AI PRO R9700 32 GB
两个 TP2 分组的同时运行尚未测试。
这些是作者在其他硬件上的结果,不能直接用于目录中的系统。
4 × RTX PRO 6000 Workstation 96 GB、Threadripper PRO 9985WX、约 639 GiB RAM,Engram 位于 RAM,使用带补丁的 SGLang 与 DSpark。
RTX PRO 5000 72 GB、Core Ultra 7 270K Plus、270 W、vLLM 0.26、MTP 1,单个请求。
缺少 usage 数据时,作者会统计 SSE 数据块,因此估算精度有限。
测试条件与代码从沟通开始
清晰配置、完整系统、启动指导。