ICS 33.040.40 CCS M32 YD 中 华 人 民 共 和 国 通 信 行 业 标 准 YD/T xxxx-xxxx AI服务器及能力平台技术要求 technical requirements for AI servers and capability platforms （报批稿） 中华人民共和国工业和信息化部 发 布xxxx-xx-xx发布 xxxx-xx-xx实施YD/T xxxx—xxxx II目  次 前  言 ............................................................................. III 1 范围 ................................................................................. 4 2 规范性引用文件 ....................................................................... 4 3 术语、定义和缩略语 ................................................................... 4 3.1 术语和定义 ....................................................................... 4 3.2 缩略语 ........................................................................... 5 4 AI能力平台技术要求 .................................................................. 5 4.1 总体要求 ......................................................................... 5 4.2 功能要求 ......................................................................... 6 4.3 接口要求 ........................................................................ 15 5 AI服务器技术要求 ................................................................... 15 5.1 总体要求 ........................................................................ 16 5.2 配置要求 ........................................................................ 16 5.3 环境要求 ........................................................................ 16 5.4 云计算技术要求 .................................................................. 16 YD/T xxxx—xxxx III前  言 本文件按照 GB/T 1.1—2020给出的规则起草。 请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别这些专利的责任。 本文件由中国通信标准化协会提出并归口。 本文件起草单位： 中国电信集团有限公司、中国信息通信研究院、北京百度网讯科技有限公司 本文件主要起草人： 陈子开、 李锋、高飞、 王峰、郭亮、赵继壮、谢丽娜、李洁、康亚京、程帅、 郑超、张学聪、王少鹏 、贾冠一、高达、穆浩然YD/T xxxx—xxxx 4AI服务器及能力平台技术要求 1　范围 本文件规定了包括 AI服务器的标注平台、训练平台、模型管理平台、模型服务平台、基础资源平 台等子平台的技术要求。 本文件适用于 AI服务平台的设计、建设及服务器设备选型参考。 2　规范性引用文件 下列文件对于本文件的应用是必不可少的 。凡是注日期的引用文件 ，仅所注日期的版本适用于本文 件。凡是不注日期的引用文件，其最新版本（包括所有的修改单）适用于本文件。 GB/T 34990-2017 信息安全技术 信息系统安全管理平台技术要求和测试评价方法 GB/T 37956-2019 信息安全技术 网站安全云防护平台技术要求 3　术语、定义和缩略语 下列术语和定义适用于本文件。 3.1　术语和定义 3.1.1　 模型 model 训练完的结果文件和配置文件集合（包括网络结构、参数等）。 3.1.2　 引擎 engine 将模型部署为稳定服务时，模型可进行推理的容器环境 3.1.3　 能力 ability 模型部署完成后提供稳定访问的服务，能力部署时包括模型和引擎两部分 注：业务层需提供一个管理功能，对各能力有版本、调用权限的管理。 3.1.4　 数据预处理 data preprocessing 对原始数据进行必要的清理、集成、转换、离散和规约等一系列的处理工作 注：处理有多种方法，如数据清理、数据集成、数据变换、数据归约等。 3.1.5　 YD/T xxxx—xxxx 5 特征工程 feature engineering 本质是一项工程活动，目的是最大限度地从原始数据中提取特征以供算法和模型使用。 3.1.6　 关联分析 association analysis 通过研究已经产生的数据 ，找出存在于项目集合之间的关联模式 ，在具备关联性情况下通过其中一 个项集对另外一个项集进行预测。 3.1.7　 数据标注 data annotations 指数据标注员借助标注工具 ，对图像、文本、语音、视频等数据进行拉框 、描点、转写、语义分割 等操作，以产出适合机器学习数据集的过程。 注：通常数据标注的类型包括：图像标注、语音标注、文本标注、视频标注等种类。标记的基本形式有标注画框、 3D画框、文本转录、图像打点、目标物体轮廓线等。 3.1.8　 超参数 hyperparameter 在机器学习中，超参数是指在开始学习过程之前设置值的参数，而不是通过训练得到的参数数据。 通常情况下，需要对超参数进行优化，给学习机选择一组最优超参数，以提高学习的性能和效果。 3.1.9　 租户 tenant 可根据自身需求对租用的系统实例进行个性化配置的主体，且保证同一平台下的数据隔离。 3.2　缩略语 下列缩略语适用于本文件 AI 人工智能 Artificial Intelligence API 应用程序编程接口 Application Programming Interface BIOS 基本输入输出系统 Basic Input Output System CPU 中央处理器 Central Processing Unit FPGA 现场可编程逻辑门阵列 Field Programmable Gate Array GPU 图形处理器 Graphics Processing Unit HBA 主机总线适配器 Host Bus Adapter IPMI 智能型平台管理接口 Intelligent Platform Management Interface KVM 键盘、显示器、鼠标 Keyboard Video Mouse OCR 光学字符识别 Optical Character Recognition PCIE 高速外设互联标准 Peripheral Component Interconnect Express RAID 独立磁盘冗余阵列 Redundant Array of Independent D