模型推理常见问题

常见问题

部署按钮置灰，提示"推理框架暂未支持该模型"

原因：当前推理框架暂时不支持该模型架构。

解决方案：请联系平台管理员，告知需要支持的模型名称和相关信息，管理员将评估后尽快添加支持。

部署按钮置灰，提示"模型 metadata 未识别"

原因：模型文件不完整，或模型的配置信息（config.json 中的架构信息）暂不支持自动识别。

解决方案：

1. 确认模型仓库中包含完整的 config.json 文件。
2. 请联系平台管理员，在后台手动触发模型元数据扫描。

实例长时间处于"启动中"状态

原因：可能是算力资源紧张，或模型镜像拉取耗时较长。

解决方案：

1. 等待一段时间（大型模型镜像拉取可能需要数分钟）。
2. 如超过 15 分钟仍未启动，请联系平台管理员排查。

API 调用返回 401 Unauthorized

原因：实例安全级别为私有，请求未携带有效的访问令牌。

解决方案：在请求头中添加访问令牌：

-H "Authorization: Bearer <访问令牌>"

访问令牌可在平台 个人设置 → 访问令牌 中生成。