文档与知识
在您的资料中找到答案,并展示出处。
面向本地 AI 模型的完整系统
我们专注于本地 AI,服务于文档、编程和团队工作。协助选择模型、硬件,并制定清晰的结果验证方法。
按我的任务选择系统查看系统及价格
请提炼这份文档的要点
以下是简要摘要
设备效果图
在您的设备上配置文档处理。
通过熟悉的聊天界面与 AI 交流。
选择适合您的模型、硬件和软件。
从您要完成的工作开始
无需盲目挑选显卡。先确定有用的结果,再选择模型与系统。
在您的资料中找到答案,并展示出处。
理解代码、准备修改,并通过测试验证。
为员工提供统一的本地服务,并配置所需访问权限。
来自中国的整机方案
直接查看配置与价格。
模型、组装与启动服务一体交付。
个人助手:写作、理解文档与编程。
交付前会测试速度及您的工作任务。 运输、进口及复杂集成另行收费。
一台服务器运行两个 AI 副本,分配任务与请求。
交付前会测试速度及您的工作任务。 运输、进口及复杂集成另行收费。
四张专业 GPU,用于开发、智能体与复杂任务。
交付前会测试速度及您的工作任务。 运输、进口及复杂集成另行收费。
估算日期为 2026 年 10 月 12 日:包含完整硬件,以及组装、所选模型初始设置和测试的预算。在中国交付;运输、进口、长期支持及复杂集成另行计算。
此初步区间依据公开组件与基础平台价格,加入预算预留及 10–15% 余量。下单前将通过报价确认最终价格、兼容性、供货、交期与保修。该区间不是集成商的正式报价。
查看计算与来源您的文档、代码片段或团队工作流程。
确定正确答案与可接受的响应时间。
一并记录模型、硬件及验证条件。
本地 AI 实践
国际研究、新模型,以及对您的系统选择有帮助的实用解读。
DeepSeek 发布了采用新架构、支持图像理解的模型,并提供权重和技术报告。公告同时说明了推理工具的后续适配工作。
根据确切的模型版本、兼容的推理引擎和实际负载选择硬件。单独评估本地部署效果,云端服务的表现不能直接套用。
NVIDIA 发布了融合文本、图像、音频和视频的开放模型,并提供权重、评测资料和本地部署指南。
可将其作为处理扫描件、表格和混合资料的候选模型。选硬件前,先用您的文档格式和语言验证信息提取效果。
SWE-bench 使用真实仓库问题进行评测。模型读取问题描述和代码,在项目环境中验证修改结果。
选择本地代码助手时,检查实际修改和项目测试。结果取决于模型、可用工具及运行环境。
可以选择多项任务。
从选型到首次启动
清晰的流程。
共同确认配置、验收与供货条件。
目录中已提供整机配置和初步价格。
明确硬件、价格与条件。
在中国准备系统,并使用约定示例测试。
协商交付安排并协助首次启动。
交付前验收验收方案将包括系统能力及其处理您任务的表现。
提供完整结果,而非仅有零件
订购前约定各项内容及费用。额外集成与后续维护将单独说明。
准确配置、部件状况及交付条件。
模型名称、权重格式及使用条件。
操作界面、所需软件及访问设置。
任务、条件及系统评价方法。
启动说明及约定的协助范围。
期限、负责联系人及维护流程。
您将收到双方确认的电脑或服务器,以及安装好的 AI 模型和所需软件。我们会协助开始使用,具体配置、启动服务、价格与支持范围以报价为准。
只需告诉我们希望 AI 提供什么帮助。我们会明确任务、选择模型,并用通俗语言说明合适的方案。
目录显示整机初步价格:包括硬件以及装配、初始设置和测试的预算。交付地点在中国。运输、进口及复杂集成另行计算。下单前将在报价中确认价格、交期与保修。
我们会使用约定任务测试所选系统,测量首次响应时间和生成速度。团队场景还会测试并发请求,不会将其他系统的测试结果当作您所购设备的速度。
本地模型可在您的设备上处理文档。部署位置、员工访问权限和连接的服务将按您的数据要求确认。
可以。我们考虑 DeepSeek、Qwen、GLM、MiniMax 等模型。具体版本与任务会影响硬件配置。若已有明确选择,可打开下方的技术选型工具。
可以讨论自提。提货地点、配置、验收、文件及保修条件将在报价中明确,也可以按订单协商运输。
面向技术用户
基于具体模型版本进行初步计算。最终配置与速度通过测试确认。
基于确切 checkpoint 的初步计算。速度、实际内存使用及所选负载尚未实测。
1 × RTX PRO 5000 Blackwell 72 GB
1,390,000–1,650,000 RUB(俄罗斯卢布)整机初步价格
一个模型副本。上下文和所选负载将通过测试验证。
KV 缓存:至少 2 GiB/组。尚未包含其他状态和缓冲区。
Qwen BF16 通过初步权重容量检查。BF16 速度和 C4/C8 模式尚未实测。
2 × RTX PRO 5000 Blackwell 72 GB
3,120,000–3,480,000 RUB(俄罗斯卢布)整机初步价格
2 个独立模型副本;请求分配需测试。
KV 缓存:至少 2 GiB/组。尚未包含其他状态和缓冲区。
144 GB 不作为 Flash-Next 的统一显存池使用。
4 × RTX PRO 5000 Blackwell 72 GB
5,640,000–6,330,000 RUB(俄罗斯卢布)整机初步价格
4 个独立模型副本;请求分配需测试。
KV 缓存:至少 2 GiB/组。尚未包含其他状态和缓冲区。
排除 GLM Flash。四个 Qwen 副本需要四个单卡分组,速度不能直接按倍数推算。
4 × RTX PRO 6000D 84 GB
DeepSeek 需要明确的 Engram 内存卸载方式,并验证峰值内存。GLM Flash 加载权重后的余量有限。工作负载和每张 GPU 上的部署均需测试。
4 × RTX PRO 5000 Blackwell 72 GB
排除 GLM Flash。四个 Qwen 副本需要四个单卡分组,速度不能直接按倍数推算。
2 × RTX PRO 6000 Blackwell Workstation 96 GB
Flash-Next 在未计缓冲区前,标称余量不超过 19.22 GiB。
1 × RTX PRO 5000 Blackwell 72 GB
Qwen BF16 通过初步权重容量检查。BF16 速度和 C4/C8 模式尚未实测。
2 × RTX PRO 5000 Blackwell 72 GB
144 GB 不作为 Flash-Next 的统一显存池使用。
2 台工作站,每台配备 1 × RTX PRO 5000 72 GB
两台工作站的显存总和不意味着可以直接拆分同一个模型,跨机部署需要单独方案。
2 × Radeon AI PRO R9700 32 GB
权重部署、ROCm、TP2、P2P 与并发请求尚未验证。
4 × Radeon AI PRO R9700 32 GB
两个 TP2 分组的同时运行尚未测试。
这些是作者在其他硬件上的结果,不能直接用于目录中的系统。
4 × RTX PRO 6000 Workstation 96 GB、Threadripper PRO 9985WX、约 639 GiB RAM,Engram 位于 RAM,使用带补丁的 SGLang 与 DSpark。
RTX PRO 5000 72 GB、Core Ultra 7 270K Plus、270 W、vLLM 0.26、MTP 1,单个请求。
缺少 usage 数据时,作者会统计 SSE 数据块,因此估算精度有限。
测试条件与代码从沟通开始
清晰配置、完整系统、启动指导。
选择整机系统
1 × RTX PRO 5000 Blackwell 72 GB
1,390,000–1,650,000 RUB(俄罗斯卢布)整机初步价格 · 运输与进口另计Qwen3.8-27B-FP8 · FP8
Ryzen 9 9950X · 16 核
64 GB DDR5 UDIMM · 2 × 32 GB
系统 2 TB + 模型 4 TB
1000 W · 支持 GPU 主动散热的机箱