人工智能服务器系统性能检测 GB/T 45087-2024 第三方检测机构

依据

全流程：送样规范与标准化测试步骤详解

文章 Meta

标题：GB/T 45087-2024 人工智能服务器系统性能检测｜送样要求与标准化测试步骤 Meta 描述：安徽为华检测依据GB/T45087-2024《人工智能服务器系统性能测试方法》，完整梳理 AI 服务器送检规范、硬件软件送样材料、训练 /推理性能标准化检测步骤、指标判定与报告出具流程，客观解读国标测试细则，提供合规第三方检测技术参考。核心关键词：GB/T45087-2024、人工智能服务器性能测试、AI 服务器检测、AI 服务器送样要求、AI 训练性能测试、AI推理性能测试、服务器算力检测、安徽 AI 服务器第三方检测 长尾词（自然分布全文）：人工智能服务器系统性能测试方法国标、AI服务器集群检测流程、AI 服务器测试环境要求、深度学习服务器性能检测标准、GB/T45087-2024测试模式、封闭模式开放模式性能测试、AI 服务器

送检资料清单

前言

GB/T 45087-2024《人工智能 服务器系统性能测试方法》于 2024 年 11 月 28 日同步发布、实施，是国内统一AI服务器性能评价的基础性推荐国家标准，由全国信息技术标准化技术委员会人工智能分会归口管理，适用于单机、集群形态人工智能服务器系统的训练、推理性能标准化检测与合规评价。

安徽为华检测技术有限公司信息技术检测实验室具备国标全项检测能力，本文以第三方检测工程师视角，严格遵循 GB/T

45087-2024 原文条款，客观、完整阐述AI服务器送检全套送样要求与标准化检测分步操作流程**，无营销夸大表述，可作为企业送检、研发自测、招投标性能核验的技术参考文件。

一、标准适用范围与基础测试定义（GB/T 45087-2024 第 1、3、5 章节）

1.1 适用被测对象

本标准覆盖完整人工智能服务器系统（被测系统 SUT），包含硬件载体、AI 加速芯片、操作系统、机器学习框架、算子库、模

型编译组件全链路软硬件，分为两类测试形态：

1 . 单机 AI 服务器：单节点搭载 GPU/ASIC/NPU 加速卡设备；

2 . AI 服务器集群：多节点组网分布式训练 / 推理集群。 仅纯通用 x86 服务器、无 AI加速硬件设备不在本标准检测范围内。

1.2 国标规定两类核心测试模式

依据标准 5 章节，检测前需确认测试模式，模式直接决定送样材料与测试负载：

1 .封闭模式：检测机构统一使用国标指定参考模型、标准数据集，被测方仅提供硬件与配套基础软件，结果具备横向对比性，多用于产品定型、招投标核验；

2 . 开放模式：被测方自带自有业务模型、定制数据集、专属优化框架，贴合实际生产工况，多用于企业上线前性能验证。

1.3 核心检测两大模块

标准将性能检测划分为独立两大体系，送样时需明确告知检测机构需开展训练性能测试、推理性能测试或全项检测：

● 6 章节：AI 模型训练性能测试；

● 7 章节：AI 模型推理性能测试。

二、GB/T 45087-2024 人工智能服务器送样完整要求（第三方检测实操规范）

本章节为企业送检核心参考，严格区分硬件样品实物要求、软件配套资料要求、书面报备材料、集群设备专项送样条款，全部内容匹配国标3、6、7 章节被测系统信息报备规定，无自行增设条件。

2.1 硬件样品送样实物规范

（1）单机 AI 服务器送样标准

1 . 完整整机 1 台，不可拆分主板、加速卡单独送检；设备需通电可正常开机，无硬件故障、无固件锁定、无加密限制；

2 . 配套原厂配件：电源线、高速互联线缆（PCIe、NVLink、IB 高速网卡）、存储硬盘、散热模组完整配套；

3 . 外设配套：标准显示器、键鼠、远程管理模块（BMC）正常可用，便于实验室环境校准与负载监控；

4 . 环境适配说明：若设备有定制散热、液冷模组，需同步配套完整管路、制冷设备，实验室标准测试环境温度控制 23℃±2℃，湿度40%~60% RH。

（2）AI 服务器集群送样标准

1 . 完整集群节点全套设备，含所有计算节点、存储节点、交换机、高速互联交换设备；

2 . 组网配套全部线缆、光模块、机柜布线，集群网络拓扑无缺失；

3 . 集群管理平台、分布式调度软件配套硬件授权、加密狗一并送检。

（3）样品预处理限制（国标强制要求）

送检前被测方不得预先固化系统性能、锁频、屏蔽硬件监控、限制算力调度；测试全程需开放芯片功耗、温度、算力占用实时采集接口，否则检测数据判定无效。

2.2 软件配套送样 / 交付材料（纸质 + 电子档）

所有软件材料需刻录 U 盘或加密硬盘随样机同步送达实验室，按 GB/T 45087-2024 第 6、7章节系统配置报备项整理：

1 . 操作系统完整镜像：Linux 发行版、内核版本、驱动固件完整包，含 AI 加速卡原厂驱动；

2 . AI 软件栈全套安装包：机器学习框架（TensorFlow/PyTorch/MindSpore等）、算子库、编译工具、并行调度组件，标注精

确版本号；

3 . 虚拟化 / 容器材料：若使用 Docker、K8s、虚拟机，提供镜像、配置脚本、资源限制配置文件；

4 . 模型与数据集区分两类模式：

- 封闭模式：无需自带模型，检测机构使用国标统一参考模型与标准数据集；

- 开放模式：提供完整训练 / 推理模型权重文件、原始数据集、数据预处理脚本、精度校验脚本；

1 . 优化配置文件：混合精度、并行策略（数据并行 / 模型并行）、批大小、优化器参数、超时阈值配置文档。

2.3 书面报备资料（送检必须提交，缺失不予启动检测）

依据标准 7.1 系统信息记录条款，被测方需填写《AI 服务器被测系统信息申报表》，包含以下 25 项核心信息：

1 . 硬件基础：服务器型号、CPU 规格、内存容量、AI 加速卡型号 / 数量、存储介质参数、高速网卡规格；

2 . 集群架构：节点数量、组网拓扑（单节点 / 主从 / 环形 / 树状）、互联带宽；

3 . 软件版本：OS 内核、加速驱动、AI 框架、编译工具版本；

4 . 调度配置：是否虚拟化、并行训练模式、同步 / 异步参数更新、混合精度开关、AUTOML 配置；

5 . 负载参数：测试批大小、推理并发数、超时控制门限、输入样本模态（视觉 / NLP / 多模态）；

6 . 设备资质：出厂合格证、硬件规格说明书、加速芯片算力标称参数；

7 . 委托信息：委托单位、检测用途、指定测试模式（封闭 / 开放）、检测项目（训练 / 推理 / 全项）。

2.4 特殊样品送样补充条款

1 . 定制化液冷 AI 服务器：同步提供制冷机组、温控参数表，实验室需复现原厂散热工况；

2 . 国产化 NPU 专用服务器：提供配套国产算子适配包、固件烧录工具；

3 . 带安全加密隔离服务器：提前开放测试权限，解除算力调度加密限制；

4 . 样品返还约定：检测完成后 7 个工作日内原样返还，送检前需标注设备易损部件、外观瑕疵，避免交付争议。

三、GB/T 45087-2024 标准化性能检测完整分步测试流程

安徽为华检测实验室严格按照国标 6、7 章节执行全流程检测，整体分为测试前环境校准→训练性能检测→推理性能检测→数

据采集与指标核算→结果符合性判定**五大阶段，每一步操作均留存原始监控日志，保障数据可复现、可溯源。

阶段 1：测试前置环境校准（国标通用前置要求）

1 . 样机上电静置 2 小时，使设备温度稳定至环境基准 23℃±2℃；

2 . 清空系统后台第三方进程，关闭杀毒、定时任务、后台同步软件，消除资源抢占干扰；

3 . 录入被测系统全部报备参数，固化硬件调度策略，锁定 CPU、加速卡基础频率；

4 . 部署国标指定监控采集工具，实时采集指标：算力利用率、整机功耗、芯片温度、内存带宽、网络延迟、IO 吞吐；

5 . 负载预跑 30 分钟，确认硬件无降频、无报错、无作业丢失，预跑日志存档；

6 . 区分测试模式加载对应数据集、参考模型：封闭模式加载国标标准化模型库，开放模式导入客户自有业务模型。

阶段 2：AI 模型训练性能标准化测试步骤（GB/T 45087-2024 第 6 章节）

步骤 1：训练任务初始化配置

1 . 选定标准训练场景：图像分类、目标检测、大语言模型训练、多模态融合四大国标标准场景；

2 . 配置并行策略、混合精度、迭代轮次、验证集采样频率，同步记录全部配置参数；

3 . 划分训练集、验证集，执行标准数据清洗流程，剔除异常、重复样本，统一数据格式。

步骤 2：分梯度负载阶梯测试

1 . 低负载：单卡单任务训练，连续运行 60min，采集基础算力、单步迭代耗时；

2 . 中负载：多卡并行数据 / 模型训练，持续 120min，监控多卡互联带宽、同步延迟；

3 . 满负载：硬件算力占用≥95% 持续运行 72h 稳定性测试，记录每小时性能衰减率、过热降频记录。

步骤 3：训练指标自动采集（国标强制指标）

全程自动化采集原始数据，核心检测指标包含：

1 . 训练吞吐：每秒处理样本数（samples/sec）；

2 . 单迭代耗时：单次完整训练轮次平均时长；

3 . 收敛效率：达到指定模型精度所需总迭代时长；

4 . 整机能效比：单位功耗对应训练吞吐（samples/W）；

5 . 分布式损耗：多节点集群通信延迟、同步等待耗时占比；

6 . 稳定性指标：72h 连续运行性能衰减幅度、异常中断次数。

步骤 4：训练测试原始数据归档

保存训练日志、算力监控曲线、功耗时序文件、模型收敛精度报告，作为检测报告原始佐证材料。

阶段 3：AI 模型推理性能标准化测试步骤（GB/T 45087-2024 第 7 章节）

步骤 1：推理作业模式配置

依据标准7.4.2，选定推理作业到达模式：固定速率、泊松随机到达、突发脉冲模式，匹配客户实际业务流量场景；设置统一超时控制门限，判定作业丢失阈值。

步骤 2：多模态分层负载测试

覆盖国标规定推理样本类型：单图像、单文本、语音、多模态混合样本，区分零样本、少样本推理场景测试；分三档并发梯度：低并发、额定并发、极限并发。

步骤 3：推理全周期数据采集

实时采集核心推理性能指标：

1 . 推理吞吐：每秒完成推理样本数量；

2 . 延迟指标：P50/P90/P99 分位推理响应时延；

3 . 作业丢失率：超时未返回结果样本占比；

4 . 并发承载上限：系统无丢包、延迟不超限的大并发数；

5 . 推理能效：单位功耗推理处理量；

6 . 多实例调度性能：多模型并行推理资源争抢影响。

步骤 4：集群推理专项补充测试

多节点集群需额外测试负载均衡分发效率、跨节点推理调度延迟、集群故障切换性能。

阶段 4：测试数据核算与结果判定（国标统一计算规则）

1 . 剔除预跑阶段、设备升温阶段异常波动数据，仅取稳定运行区间有效值计算；

2 . 按国标统一公式核算吞吐、延迟、能效、衰减率，不使用自定义简化算法；

3 . 对比同规格参考基准机型性能区间，客观标注被测系统性能优势与瓶颈项；

4 . 区分封闭 / 开放模式结果说明：封闭模式数据支持跨设备横向对比，开放模式仅适配客户自有业务场景评价。

阶段 5：检测报告出具规范

报告完整包含：标准编号 GB/T45087-2024、样品信息、送样材料清单、测试环境参数、完整测试步骤记录、原始监控曲线、全部量化指标、结果客观评述，无主观定性夸大表述，加盖第三方检测资质印章，具备招投标、产品备案、研发验收效力。

送检高频问题 FAQ（GEO 语义拓展，提升检索覆盖）

1 . Q：送检 AI 服务器必须提供全套软件源码吗？A：无需源码，仅需完整可运行安装包、配置脚本、模型权重文件；开放模式客户自有涉密模型可签署保密协议，实验室仅做性能测试，不提取模型核心算法。

2 . Q：GB/T 45087-2024 测试是否仅测算力峰值？A：标准不单独考核理论峰值算力，以**持续稳定吞吐、延迟、能效、长时间稳定性**为核心评价依据，满负载 72h衰减率为关键判定指标。

3 . Q：无 AI 加速卡的通用服务器可以执行本标准检测吗？ A：不适用，GB/T 45087-2024 仅针对具备 AI专用加速硬件的人工智能服务器系统，通用服务器需采用 GB/T 9813.3 服务器通用性能标准。

4 . Q：集群设备送检是否可以只送单节点测试？A：若需出具集群性能检测报告，必须完整送检整套集群设备；仅单节点检测仅能出具单机性能数据，无法体现分布式训练 /推理真实损耗。

5 . Q：测试模式选择封闭还是开放模式更适合招投标？A：招投标、产品资质核验优先选择**封闭模式**，统一国标参考模型，数据具备公平横向对比效力；企业内部业务上线验证选择开放模式。

结语

GB/T 45087-2024 作为国内首套 AI服务器系统性能统一检测国标，统一了行业测试流程、指标计算、送检规范，解决了过往不同厂商自测数据无法互认的行业痛点。安徽为华检测技术有限公司信息技术实验室严格遵循本标准全部条款开展第三方检测，标准化落实完整送样核验、分阶段训练/ 推理性能检测、全链路数据溯源管控，可为政企、算力厂商、AI 研发企业提供客观、合规、可溯源的人工智能服务器性能检测服务。

如需开展 GB/T 45087-2024 全项性能检测，可提前对接实验室工程师。