资源管理

功能概览

资源管理模块为大模型全生命周期提供算力支撑。在最新导航中，相关能力分布在 模型推理、模型训练评测、开发环境 和 资源管理 菜单下，涵盖以下四大功能：

功能	说明
开发环境（Notebook 实例）	一键创建交互式开发环境，支持 JupyterLab、VS Code、Eclipse Theia
模型推理	通过 公共推理服务 和 推理实例 两类入口提供模型推理能力
模型微调	基于 LLaMA-Factory 或 MS-Swift 框架，对基座模型进行定制化训练
模型评测	基于主流评测框架，对模型进行基准测试和性能评估

开发环境

开发环境介绍

通过开发环境功能，用户可一键创建独立的计算环境，直接使用平台算力资源进行数据分析、模型训练和实验。

创建开发实例

介绍如何在行业大模型平台创建开发实例，选择开发环境和算力资源。

使用开发实例

介绍如何在行业大模型平台中使用开发实例，包括启动 Notebook、查看日志、计费详情及停止删除操作。

模型推理

模型推理介绍

平台提供一键推理功能，帮助用户快速分配算力并启动推理服务，无需复杂的环境配置。

创建推理实例

介绍如何在行业大模型平台为模型创建推理实例，提供独占算力的推理服务。

使用推理实例

介绍如何使用行业大模型平台的推理实例，包括 API 调用、Playground 测试、实时监控和计费管理。

模型推理常见问题

模型推理实例常见问题解答。

推理框架介绍

介绍行业大模型平台支持的各类推理框架，包括文本生成、图像生成、语音合成和视频生成框架的特性与适用场景。

文本生成

介绍如何使用推理实例进行文本生成任务，包括对话补全和 API 调用说明。

文本生成图像

介绍如何使用推理实例进行文本生成图像任务，包括 API 调用说明。

图像文本生成

介绍如何使用推理实例进行图像文本生成任务（多模态理解），包括 API 调用说明。

特征提取

介绍如何使用推理实例进行文本特征提取（Embeddings），包括 API 调用说明。

模型微调

模型微调介绍

平台提供高性能 GPU 加速的微调实例托管服务，支持 LLaMA-Factory 和 MS-Swift 框架。

创建微调实例

介绍如何在行业大模型平台为模型创建微调实例，配置算力资源和微调框架。

使用微调与状态监控

介绍如何使用行业大模型平台的微调实例进行模型训练，包括 Web UI 操作、Notebook 开发、训练监控和计费管理。

模型微调常见问题

模型微调常见问题解答。

导出微调模型

介绍如何在行业大模型平台导出微调后的模型，包括通过 LLaMA-Factory Web UI 导出和通过 MS-Swift CLI 导出两种方式。

微调框架介绍

介绍行业大模型平台支持的微调框架，包括 LLaMA-Factory 和 MS-Swift 的核心特性、适用场景和对比分析。

模型评测

创建模型评测任务

介绍如何在行业大模型平台创建模型评测任务，使用标准基准测试评估模型性能。

使用模型评测

介绍如何在行业大模型平台中使用模型评测功能，包括评测状态说明、查看评测详情、下载评测结果和删除评测任务。

模型评测常见问题

模型评测常见问题解答。

评测框架介绍

介绍平台支持的三种主流模型评测框架：lm-evaluation-harness、OpenCompass 和 EvalScope。

自定义评测数据集

介绍如何使用自定义数据集在平台上评测模型效果，支持 OpenCompass、EvalScope 和 lm-evaluation-harness 三种框架。