华为云Flexus+DeepSeek征文｜华为云ModelArts Studio：利用New API实现大模型网关与AI资产管理的无缝对接

发布于：2025-06-25 ⋅ 阅读:(20) ⋅ 点赞:(0)

华为云Flexus+DeepSeek征文｜基于华为云Flexus X实例和ModelArts Studio部署新一代大模型网关与AI资产管理系统New API

前言

随着人工智能技术的迅猛发展，大模型的应用已成为推动产业智能化的重要力量。华为云ModelArts Studio凭借其强大的AI开发能力与全新升级的New API接口，为开发者打造了一个高效、灵活的一站式开发平台。本文将围绕如何利用New API实现大模型网关与AI资产管理的无缝对接，探索华为云在AI生态构建中的创新实践与技术优势。

一、华为云ModelArts Studio平台介绍

1.1 ModelArts Studio介绍

  • 🌟 平台介绍

ModelArts Studio是华为云提供的一个大模型即服务平台（MaaS服务），旨在简化模型开发流程，支持定制化大模型的开发，并使这些模型能够无缝集成到业务系统中。通过降低企业AI应用的成本和难度，ModelArts Studio助力企业快速实现AI技术落地。

  • 👉 立即体验：通过ModelArts Studio，让大模型成为企业数字化转型的核心驱动力，解锁智能未来！

在这里插入图片描述

1.2 ModelArts Studio主要特点

  • 全栈模型生态，性能卓越
    ✅ 主流模型全覆盖：集成Llama、Baichuan、Yi、Qwen、DeepSeek等99%业界SOTA开源模型，预适配昇腾算力底座，精度与推理性能显著提升。
    ✅ 零代码自动化开发：沉淀100+行业调优经验，提供一键训练、自动超参优化、标准化流水线，无需手动调参，开发周期缩短50%+。
    ✅ 昇腾深度优化：基于昇腾算子与显存优化技术，训练/推理效率大幅提升，预置最优超参配置，开箱即用。

  • 资源灵活可控，成本优化
    💡 按需付费，弹性扩缩：分钟级获取算力资源，按实际使用收费，避免闲置浪费，降低AI入门门槛。
    💡 高可用性保障：多数据中心部署，支持故障快速恢复（快恢）与断点续训，确保训练任务不中断，保护项目连续性。

  • 智能应用快速构建
    🤖 Agent开发加速器：提供优质Prompt模板与智能Agent沉淀，支持复杂任务拆解（如多系统协同决策），快速生成业务专属智能体。
    🤝 组件化生态集成：即插即用MCP Server、LangChain、RAG、Guard等工具，一站式构建智能问答、知识管理、流程自动化等应用。

  • 一站式全生命周期服务
    📦 全流程工具链：覆盖模型调优、压缩、部署、评测等环节，支持「即开即用」，无需跨平台切换。
    ⚙️ 标准化流水线：内置性能与精度评价体系，自动化完成模型优化，确保全场景高性能表现。

二、New API介绍

2.1 New API简介

New API 是基于 One API 的二次开发项目，打造新一代的大语言模型（LLM）网关和 AI 资产管理平台。它支持将多种主流大模型（如 OpenAI、Claude 等）统一格式调用，适用于个人开发者及企业内部进行 AI 模型接口的管理与分发。

2.2 主要特性

特性 描述
🎨 全新的UI界面 提供现代化、简洁直观的操作界面，提升用户体验。
🌍 多语言支持 支持多语言切换，满足国际化使用需求。
💰 支持在线充值功能（易支付） 用户可通过集成支付系统实现便捷充值。
🔍 支持用key查询使用额度 配合 neko-api-key-tool 实现API Key的额度查询与管理。
🔁 兼容原版One API的数据库 无缝迁移原有 One API 数据，降低升级成本。
💵 支持模型按次数收费 可根据不同模型设置调用次数计费策略。
⚖️ 支持渠道加权随机 根据配置权重智能分配请求到不同渠道，提高可用性。
📈 数据看板（控制台） 提供可视化数据统计面板，便于监控整体运行情况。
🔒 令牌分组、模型限制 支持对Token进行分组管理，并限制可调用的模型。
🤖 支持更多授权登录方式 支持 LinuxDO、Telegram、OIDC 等多种身份认证方式。
🔁 支持Rerank模型（Cohere和Jina） 支持排序模型接入，提升搜索与推荐质量。
⚡ 支持OpenAI Realtime API（包括Azure渠道） 完整支持 OpenAI 实时语音交互接口。
⚡ 支持Claude Messages 格式 兼容 Anthropic Claude 的 Messages 接口格式。
💬 支持使用路由 /chat2link 进入聊天界面 快速进入网页聊天界面，方便测试与演示。
🧠 支持通过模型名称后缀设置 reasoning effort 通过后缀（-high / -medium / -low）灵活控制推理模式。
🔁 思考转内容功能 将模型的“思考”过程转换为最终输出内容。
🔀 针对用户的模型限流功能 可针对特定用户或组设置模型调用频率限制。
💰 缓存计费支持 缓存命中时可按设定比例计费，节省资源与成本。

三、本次实践介绍

3.1 本次实践介绍

  1. 本次实践基于个人测试环境，采用华为云 Flexus X 实例作为部署载体，结合 ModelArts Studio 平台开展相关测试与验证工作；
  2. 借助New API，华为云 ModelArts Studio 实现了与大模型网关及 AI 资产管理系统的高效集成与无缝对接。

3.2 环境规划

云厂商 云服务器 云服务 部署项目 备注
华为云 华为云Flexus X实例 MaaS平台提供的DeepSeek商用服务 New API ——

四、开通DeepSeek商用服务

4.1 进入ModelArts Studio控制台

ModelArts Studio是华为云提供的一个大模型即服务平台（MaaS服务），旨在简化模型开发流程，支持定制化大模型的开发，并使这些模型能够无缝集成到业务系统中。通过降低企业AI应用的成本和难度，ModelArts Studio助力企业快速实现AI技术落地。我们登录华为云官网后，进入ModelArts Studio大模型即服务平台的介绍页。官网地址：https://www.huaweicloud.com/product/modelarts/studio.html。点击“ModelArts Studio控制台”，即可进入maas服务控制台内。

在这里插入图片描述

4.2 开通商业服务

访问 ModelArts Studio 大模型即服务平台后，ModelArts Studio 控制台，登录后进入 模型推理 页面，选择 在线推理 > 预置服务 > 商用服务，在模型列表中找到 DeepSeek-R1-32K，点击“开通服务”以启用该模型，具体操作如下所示：

在这里插入图片描述

同样的方法，我们可以开通DeepSeek-V3-32K和DeepSeek-R1-32K-0528商用服务，如下所示已正常开通。

在这里插入图片描述

4.3 复制OpenAI SDK信息

您可以选择某个已开通的商用服务（例如 DeepSeek-V3-32K），点击其右侧的 “调用说明” 选项，即可查看与该模型兼容的 OpenAI SDK 调用信息。请在此页面复制所需的 模型名称 和 API 地址，并保存至本地，以便后续配置和使用。

在这里插入图片描述

4.4 创建API key

我们在ModelArts Studio控制台左侧菜单栏中，单击“API Key管理”，开始创建API key。

在这里插入图片描述

填写API key的标签和描述，填写完毕后，确认创建。

在这里插入图片描述

复制我们刚才生成的密钥，如下所示：

在这里插入图片描述

可以在本地建一个临时文本文件，将以上关键信息保存下来。

在这里插入图片描述

五、本地部署New API系统

5.1 创建部署目录

为开展本次实践，需在本地准备一台已安装Linux操作系统的服务器，本文以 Ubuntu 22.04.1 LTS 为例，且已预先配置好 Docker 运行环境。在此基础上，我们将在该服务器上创建用于部署 New-API 项目的相应目录结构，为后续服务部署做好准备。

mkdir -p /data/newapi/ && cd /data/newapi/

5.2 下载容器镜像

执行以下命令，拉取New AP镜像 calciumion/new-api:latest

root@jeven01:/data/newapi# docker pull  calciumion/new-api:latest
latest: Pulling from calciumion/new-api
fe07684b16b8: Already exists
72ab02d99a23: Pull complete
438427684c28: Pull complete
977cda970a68: Pull complete
Digest: sha256:89fdeb989a368d6256a9816f304193daffe3ea52aeecb0bc2452fd1d1a384eb0
Status: Downloaded newer image for calciumion/new-api:latest
docker.io/calciumion/new-api:latest

5.3 创建New API容器

如果想要使用docker命令行方式部署，可参考以下示例：

docker run -d \
   --restart always \
   --name new-api \
   -p 5200:3000 \
   -v /data/newapi/data:/data \
   calciumion/new-api:latest

本次实践使用docker compose方式创建容器，建议采用该方式进行创建容器项目。

vim docker-compose.yaml

version: '3'

services:
  new-api:
    image: calciumion/new-api:latest
    container_name: new-api
    ports:
      - "5200:3000"
    volumes:
      - ./data:/data
    restart: always

执行以下命令，创建New API相关容器。

docker compose up -d

在这里插入图片描述

5.4 检查容器状态

检查容器状态，确保New API相关容器都正常启动。

root@jeven01:/data/newapi# docker compose ps
WARN[0000] /data/newapi/docker-compose.yaml: the attribute `version` is obsolete, it will be ignored, please remove it to avoid potential confusion
NAME      IMAGE                       COMMAND      SERVICE   CREATED              STATUS              PORTS
new-api   calciumion/new-api:latest   "/one-api"   new-api   About a minute ago   Up About a minute   0.0.0.0:5200->3000/tcp, [::]:5200->3000/tcp

5.5 检查容器日志

检查New API容器日志，可以看到New API服务正常运行。

docker compose logs

在这里插入图片描述

六、访问New API服务

6.1 访问New API初始页

浏览器访问http://<云服务器公网IP地址>:5200，将IP替换为云服务器的弹性公网IP地址，访问New API的初始页。如果无法访问到该页面，需要检查操作系统的防火墙是否关闭或放行相关服务端口。

在这里插入图片描述

6.2 注册账号

在 New API 的注册页面中，用户可自行填写账号和密码，并选择使用模式为【对外运营模式】，完成设置后点击“初始化系统”按钮即可完成系统初始化。

在这里插入图片描述

6.3 重新登录New API

使用此前设置的账号和密码，在 New API 的登录页面重新进行登录操作。

在这里插入图片描述

在这里插入图片描述

七、New API使用体验

7.1 添加渠道

在New API首页，依次点击渠道——添加渠道，进入渠道设置页面。

在这里插入图片描述

创建新渠道配置项，可参考如下：

  • 类型：OpenAI
  • 名称：华为云 （自定义命名）
  • 密钥：华为云maas的API Key
  • API地址： https://api.modelarts-maas.com （会提示不要加/v1）
  • 模型：DeepSeek-V3 （自定义模型DeepSeek-V3）
  • 其余配置默认，提交即可。

在这里插入图片描述

7.2 渠道测试

在New API的左侧菜单栏中，我们选择个人设置——其他设置——价格设置，勾选接受未设置价格模型，确定保存配置。

在这里插入图片描述

回到渠道模块页面，点击“测试”按钮，可以看到提示该渠道测试成功，可以正常使用。

在这里插入图片描述

7.3 创建API令牌

依次点击API令牌——添加令牌，进入API令牌配置页面。

在这里插入图片描述

在 API 令牌设置中，由于当前为测试环境，我们填写名称为“华为云”，过期时间选择“永不过期”，并设置额度为无限，确认后提交即可。

在这里插入图片描述
在这里插入图片描述

7.4 测试对话

在左侧菜单栏中，我们选择“操练场”，选择刚才设置自定义模型DeepSeek-V3，在对话框内进行提问。

在这里插入图片描述

通过简单的提问测试，可以确认 DeepSeek-V3 已能够正常响应问题并给出相应的回答，服务运行稳定、反馈准确。

在这里插入图片描述

在本次测试中，我们向 AI 提出了问题：“请对世界名著《巴黎圣母院》进行简要总结，并阐述你的理解与思考。”用以检验其对文学作品的理解与分析能力。从回答结果可以看出，AI 能够按照要求清晰作答，内容结构合理、见解深刻，展现出较强的文学解析能力。

在这里插入图片描述

7.5 调用统计

在 New API 的数据看板以及华为云 ModelArts Studio（MAAS）的 API 调用统计中，可以清晰地观察到 Tokens 使用量始终保持一致，均为 102。这一数据表明系统间的调用记录与计费统计实现了精准同步，验证了接口对接的稳定性与准确性。

在这里插入图片描述

在这里插入图片描述

八、实践体验与总结

🌟 实践体验分享
在本次华为云ModelArts Studio的实践过程中，我们深刻体会到其作为一站式AI开发平台的强大与便捷。通过全新升级的New API接口，我们成功实现了大模型网关与AI资产管理系统之间的无缝对接，极大简化了数据流转流程，提升了模型调用效率与资产管理能力。整个操作过程流畅、响应迅速，充分展现了华为云在AI工程化落地方面的领先实力。📊✨

🚀 总结与展望：技术驱动未来
华为云ModelArts Studio凭借灵活的API扩展能力和高度集成的开发环境，为开发者和企业提供了稳定可靠的AI开发底座。借助New API，不仅实现了系统间的高效协同，也为构建智能化、可扩展的AI应用打开了更多可能性。随着AI技术不断演进，华为云将持续引领创新方向，助力每一位开发者释放潜能，推动智能产业升级！🧠🔗

📢 拥抱智能新时代，从华为云ModelArts Studio开始！

网站公告

今日签到

点亮在社区的每一天
去签到

热门文章

最新发布