下载 Excel 原文件
问答后端服务问答前端服务Elasticsearch数据库Milvus数据库Minio数据库解析实例
操作系统Linux(预装docker>=20.10.0)Linux(预装docker>=20.10.0)Linux(预装docker>=20.10.0)Linux(预装docker>=20.10.0)Linux(预装docker>=20.10.0)Linux(预装docker>=20.10.0)
CPU8 cores4 cores8 cores8 cores4 cores8 cores
内存16GB8GB32GB64GB8GB16GB
硬盘50GB50GB200GB200GB200GB50GB
GPU2 * L20////1 * L20
GPU最小显存*2 * 12GB = 24GB////16GB
GPU建议显存*2 * 24GB = 48GB////16GB
GPU算力*2 * 119.5 = 239////119.5
*最小显存是能运行系统所需的最低配置,这个时候同时在线访问能力和模型上下文长度会收到限制,无法发挥全部能力
*L20算力flops按照fp16大约119.5计算
*A800算力flops按照fp16大约312计算
注:以上资源情况是根据历史经验得出,实际部署是可能会因需求差异,导致部署资源有所调整
Agent后端服务Agent前端服务Elasticsearch数据库Milvus数据库Minio数据库Postgres数据库解析实例deliver服务mermaid服务报告生成服务SQL问答
操作系统Linux(预装docker>=20.10.0)Linux(预装docker>=20.10.0)Linux(预装docker>=20.10.0)Linux(预装docker>=20.10.0)Linux(预装docker>=20.10.0)Linux(预装docker>=20.10.0)Linux(预装docker>=20.10.0)Linux(预装docker>=20.10.0)Linux(预装docker>=20.10.0)Linux(预装docker>=20.10.0)Linux(预装docker>=20.10.0)
CPU8 cores4 cores8 cores8 cores4 cores4cores8 cores2 cores2 cores4 cores4cores
内存16GB8GB32GB64GB8GB8GB16GB4GB4GB8GB8GB
硬盘50GB50GB200GB200GB200GB200GB50GB200GB200GB50GB50GB
GPU2 * L20/////1 * L20///-
GPU最小显存*2 * 12GB = 24GB/////16GB///-
GPU建议显存*2 * 24GB = 48GB/////16GB///-
GPU算力*2 * 119.5 = 239/////119.5-
*最小显存是能运行系统所需的最低配置,这个时候同时在线访问能力和模型上下文长度会收到限制,无法发挥全部能力
*L20算力flops按照fp16大约119.5计算
*A800算力flops按照fp16大约312计算
注:以上资源情况是根据历史经验得出,实际部署是可能会因需求差异,导致部署资源有所调整
多模态解析服务定制化报告
操作系统Linux(预装 docker>=20.10.0)Linux(预装 docker>=20.10.0)
CPU16 cores4cores
内存64GB8GB
硬盘200GB200GB
GPU4 * H20-
GPU 最小显存 *4 * 24GB = 96GB-
GPU 建议显存 *4 * 24GB = 96GB-
GPU 算力 *4 * 298.8 = 1195.2-
注:以上资源情况是根据历史经验得出,实际部署是可能会因需求差异,导致部署资源有所调整