华为云Flexus+DeepSeek征文 | 探索华为云ModelArts Studio和ChatWise的结合:打造高效的本地AI聊天机器人

发布于:2025-06-30 ⋅ 阅读:(26) ⋅ 点赞:(0)

引言


随着人工智能技术的飞速发展,本地化AI聊天机器人正逐渐成为个人与企业提升效率、实现智能化服务的重要工具。华为云ModelArts Studio凭借其强大的模型服务能力,为开发者和企业提供了稳定高效的AI基础设施。结合轻量级应用ChatWise,用户可以轻松构建本地化的智能对话系统,真正实现开箱即用的AI交互体验。


一、ModelArts Studio平台介绍

华为云ModelArts Studio简介

华为云ModelArts Studio是基于ModelArts构建的一站式大模型即服务平台(MaaS),深度整合昇腾算力资源与全链路开发工具,为开发者提供从数据准备、模型训练微调、提示词工程到应用部署的全流程解决方案。平台不仅预置主流开源大模型,还具备海量数据智能预处理、自动化标注、分布式训练及模型自动生成能力,全面覆盖AI模型全生命周期管理。无论是深耕算法的工程师、AI领域初学者,还是寻求智能化转型的企业,都能依托ModelArts Studio的高效开发能力,快速实现AI应用的高质量落地与规模化部署。

  • 华为云ModelArts Studio平台地址:https://www.huaweicloud.com/product/modelarts/studio.html

在这里插入图片描述

ModelArts Studio主要特点

  • 模型全、免配置、免调优、性能优
    业界 SOTA 大模型覆盖度高达 99%,内置最优超参配置,结合昇腾算子优化与显存管理,显著提升训练与推理性能。

  • 开箱即用,一站式模型开发服务
    提供模型调优、压缩、部署、评测等全栈工具,功能覆盖大模型全生命周期,用户无需搭建即可直接使用。

  • 资源一站式按需开通,建设周期短
    计算资源可分钟级获取,支持按需计费、弹性扩缩容,并具备断点续训与故障快速恢复能力。

  • 多服务组合竞争力,一站式应用能力集成
    支持 MCP Server、LangChain、RAG、Agent、Guard、九问等组件即插即用,灵活构建复杂 AI 应用场景。

  • 兼容性强,适配主流框架与自定义需求
    全面支持 TensorFlow、PyTorch、MindSpore 等主流 AI 框架,同时支持用户自研算法框架接入。

二、ChatWise介绍

ChatWise简介

ChatWise 是一款支持任何大型语言模型(LLM)的高性能 AI 聊天机器人,专为追求速度与隐私的用户设计,兼容多种本地和云端模型。

功能特点

  • 极速响应:提供业内领先的聊天交互速度,适用于各类大型语言模型。
  • 完全离线运行:除需外部 API 的模型外,其余操作可在本地完成,保障数据隐私。
  • 多平台模型支持:无缝集成 OpenAI、Anthropic、Google AI、Groq、Ollama 等主流 LLM 平台。
  • 多模态能力:支持文本、图像等多种输入输出形式,满足复杂交互需求。
  • 高质量语音合成:内置基于 OpenAI 和 ElevenLabs 的文本转语音(TTS)功能,实现自然语音输出。

三、安装ChatWise工具

下载ChatWise软件

ChatWise下载地址:https://github.com/egoist/chatwise-releases/releases/,我们选择点击【ChatWise_0.8.70_x64-setup.exe】进行下载,当前ChatWise最新版本为0.8.70。

在这里插入图片描述

安装ChatWise工具

下载ChatWise安装包后,在本地Windows上直接安装即可。

在这里插入图片描述

双击ChatWise安装包,我们按照安装提示,依次点击下一步安装即可。安装完成后,打开后的ChatWise 界面如下所示:

在这里插入图片描述

四、开通Maas商用服务

访问ModelArts Studio控制台

登录华为云官网并访问ModelArts Studio的介绍页面(官方网址:https://www.huaweicloud.com/product/modelarts/studio.html)。在该页面上,只需点击“ModelArts Studio控制台”按钮,即可便捷地进入ModelArts Studio的控制台界面。

在这里插入图片描述

在这里插入图片描述

开通DeepSeek-R1-0528服务

DeepSeek-R1-0528 是 DeepSeek 最新推出的大语言模型版本,专为提升复杂代码生成数学推理能力而设计。该模型在训练数据和算法架构上进行了深度优化,显著提升了以下方面的能力:

  • 逻辑推理准确性
  • 程序生成效率
  • 数学问题求解能力

适用于如自动化编程、科研辅助、金融建模、数据分析等对精度与性能要求极高的高端应用场景,是开发者与研究人员的理想选择。


在ModelArts Studio控制台的左侧菜单栏中,我们选择模型推理——在线推理,选择商务服务DeepSeek-R1-0528,点击“开通服务”。

在这里插入图片描述

备注:

服务类型 描述 注意事项
免费服务 适合用于体验模型,受严格的速率限制。 平台可能会不定时调整其适用模型、免费额度、有效期等内容。
- 单个模型提供200万token推理额度。 额度消耗完后可选择开通商用级别的推理API服务或部署为付费服务使用。
商用服务 提供商用级别的推理API服务。 开通后可获取付费API服务(仅限贵阳一)。
- 用户可以前往费用中心查看模型服务的优惠折扣发放和使用情况。 可以前往“我的服务”部署为个人服务后付费使用。

点击“开通服务”后,我们勾选同意协议,确认“立即开通”。

在这里插入图片描述

生成API Key

进入API Key管理页面。可以选择“创建API Key”。第一次生成后,记得注意保存此API Key,建议保存在本地以便后续使用。

在这里插入图片描述

复制及保存OpenAI SDK信息

我们可以查看DeepSeek-R1-0528的使用说明,只需要点击“调用说明”选项。

在这里插入图片描述

调用说明会详细的在此页面显示,我们将DeepSeek-R1-0528服务的OpenAI SDK相关信息复制,与API Key一起保存在本地文件中,以便后续使用。

在这里插入图片描述

开通其它商用服务

我们也可以开通DeepSeek-V3-32KDeepSeek-R1-32K商用服务,直接像上述步骤一样,点击“立即开通”就可以了。

在这里插入图片描述

五、ChatWise基本配置工作

配置AI提供商

点击主界面左下角的【系统设置】图标,进入【提供商】页面,点击“+”按钮,选择【自定义提供商】,在供应商类型中选择【OpenAI Compatible】进行配置。

在这里插入图片描述

相关配置项设置可参考如下:

  • Provider name: 华为云
  • API Base URL:https://api.modelarts-maas.com/v1
  • API Key:刚才在华为云Maas创建的API Key
  • Model Names: 点击【获取模型列表】,自动获取华为云下的所有模型列表。

在这里插入图片描述

测试AI对话

选择刚才添加的AI提供商和大模型,在对话框输入简单提问进行测试,如下所示:

在这里插入图片描述

可以看到,ChatWise 准确地回答了“你是谁”的提问,表明我们的 AI 配置已成功生效并运行正常。

在这里插入图片描述

六、ChatWise使用体验

写作能力体验

我们在对话框输入指令:“帮我写一篇关于‘AI在医疗领域应用’的技术博客框架”。ChatWise 会快速生成包含 标题、引言、应用场景(如影像诊断、药物研发)、挑战与伦理问题、未来展望 等完整结构的草稿,并支持进一步扩展段落细节。

在这里插入图片描述

编程能力体验

我们进行提问:“用 Python 实现一个统计文本中关键词频率的脚本”。ChatWise 不仅提供代码片段(如 import re 和 collections.Counter 的组合),还能针对用户补充的“忽略大小写”“过滤标点”等需求动态调整代码逻辑。

在这里插入图片描述

七、总结


通过将华为云 ModelArts Studio 强大的AI模型服务与轻量级本地聊天机器人工具 ChatWise 相结合,我们能够快速构建一个高效、灵活、可定制的本地AI助手。这种整合不仅降低了部署和使用大模型的门槛,还极大地提升了交互体验与应用效率。无论是在写作辅助、编程支持,还是日常问答中,ChatWise结合ModelArts Studio提供的商用模型(如DeepSeek)都展现出出色的性能与实用性。💡

🔗 未来,随着更多AI模型的接入与功能的持续优化,这套本地化AI对话系统将在企业内部智能助手、教育辅助、个人知识管理等多个场景中发挥更大价值。让我们期待AI技术为生活和工作带来更多便利与创新!🚀

💡 总结ModelArts Studio × ChatWise = 高效、安全、灵活的本地 AI 聊天解决方案!



网站公告

今日签到

点亮在社区的每一天
去签到