1 AI训练开发平台介绍

1.1 平台架构

1.2 训练推理一站式开发流程

1.3 国产硬件平台

1.3.1 STPU芯片

STPU S100芯片是商汤专为图像识别、视频处理领域设计的专用人工智能推理芯片。S100芯片面向云侧和边缘侧场景，支持多路图片流和视频流处理，满足人工智能在实际落地中的复杂图像及数据处理需求，使能智慧应用。

1.3.2 卧龙AI开发者套件

WylonGo商汤卧龙开发者套件，是基于商汤自研STPU芯片，为人工智能开发者打造的低成本低门槛的AI开发者套件。内置商汤自研操作系统Hiten OS和加速引擎Hiten Engine，具备8核A76超强CPU性能，8TOPS(INT8)算力，支持商汤协天Hiten Studio（OpenMMLab）模型的高效推理部署，满足人工智能开发者在模型部署、测试、验证及AI应用开发等方面的应用需求。内置Hiten OS协天操作系统和Hiten Engine协天推理加速引擎，天然适配HitenStudio模型部署应用。

1.4 人工智能开发平台

人工智能开发平台依托业内领先的计算机视觉算法库OpenMMLab，包含数据管理、数据标注、模型训练、精度评测、模型量化、模型转换等功能。

平台提供可视化界面和Open API两种使用方式。可视化界面方式提供一站式的端对端训练服务，用户在训练服务器上通过docker部署服务后，在PC端通过浏览器即可访问WEB界面进行操作，大幅降低算法生产门槛，助力用户算法快速落地。此外，Open API方式提供了模块化的后端接口及详细的开发文档，方便用户进行二次开发和集成定制。

1.4.1 数据管理

用户可通过数据管理模块，上传已标注的数据，查看和管理训练服务器中的数据集资源。

l数据集导入：通过浏览器上传数据集或输入服务器上的压缩包路径

l数据集列表：显示训练服务器中的所有数据集

l数据集检索：按数据集来源、任务类型、名称进行检索

l数据集预览：查看类别标签、图片数量等，预览数据集中的图片和标注

1.4.2 数据标注

如果用户只有数据（图片或视频），可以使用指定的标注工具，在标注教程的指导下对数据进行标注，并将数据集打包上传。

如果用户已有数据和标注文件，可以参考标准格式说明，将已有的标注文件转换为标准的标注格式，并将数据集打包上传。

1.4.3 模型仓库

模型仓库提供了OpenMMLab中的优质预训练模型，用户可以基于这些模型，使用自己的数据进行训练，从而快速生产出满意的模型。

l模型导入：通过浏览器上传模型压缩包或输入服务器上的压缩包路径

l模型列表：显示训练服务器上的所有预训练模型

l模型检索：按模型来源、任务类型、算法、特点、名称进行检索

l模型详情：查看模型的详细信息，包括模型特点、模型精度报告等

1.4.4 模型训练

用户指定数据集和预训练模型后，简单设置训练参数后（或者直接采用默认参数），即可开始训练模型。训练过程中可以随时跟踪查看训练进度、模型精度信息，可以随时暂停或恢复训练。

1.4.5 精度评测

模型训练过程中，系统会根据用户的设置自动保存多个模型。这些模型已经自动完成了精度评测，并且自带验证集上的精度信息。用户可以根据精度信息挑选满意的模型，无需手动评测模型精度。

1.4.6 模型量化及格式转换

模型训练完成后，支持将模型转换为下列两种格式：

l中间格式：标准的ONNX格式，用户需要根据具体的硬件，进一步完成量化及模型格式的转换。

l卧龙格式：能够直接部署至卧龙硬件的模型格式，已经自动完成了量化及格式转换。

1.4.7 用户权限管理

提供管理员和普通用户的权限管理功能。管理员可最多创建10个普通用户。管理员能够查看、使用、删除普通用户的数据集和模型，各普通用户之间的数据相互独立。

1.5 协天计算架构

1.5.1 Hiten CE协天推理加速平台

Hiten CE是专为卧龙智算设备定制的推理平台，包括Hiten Engine协天推理加速引擎和Hiten OS协天操作系统。

Hiten Engine是基于OpenPPL和Hiten CE的异构计算推理加速引擎，具有高效推理、极简部署、简单开发的特点，能够充分发挥STPU算力。

Hiten OS是面向卧龙硬件的操作系统，支持服务器、终端、开发板、加速卡等卧龙算力基础设施的操作系统，支持服务器、边缘计算、嵌入式等应用场景。具有安全、稳定、易用特性。

1.5.2 Hiten Tool Kits协天辅助开发工具包

Hiten Tool Kits协天辅助开发工具包基于协天异构计算架构，为用户在卧

龙系列硬件上进行模型部署和AI软件开发时提供对应平台的编译资源、模型推理Pipeline、典型AI业务Sample、API文档等参考与支持，使用户能够快速熟悉和使用协天异构加速引擎，更方便快捷地构建自己的AI业务软件。

开发支撑：行业SDK、Sample等模型部署和软件开发支撑，快速上手；

层次丰富：底层API文档、推理sample、业务sample，自由选择；

架构兼容：兼容X86和Arm架构，切换仅需交叉编译，无需更换代码；