(笔记)maxkb+ollama+qwen千文知识库问答机器人全新搭建

发布于:2024-12-07 ⋅ 阅读:(136) ⋅ 点赞:(0)

使用1panel面板安装,主要里边有可用加速镜像

ubuntu

curl -sSL https://resource.fit2cloud.com/1panel/package/quick_start.sh -o quick_start.sh && sudo bash quick_start.sh

centos

curl -sSL https://resource.fit2cloud.com/1panel/package/quick_start.sh -o quick_start.sh && sh quick_start.sh

debian

curl -sSL https://resource.fit2cloud.com/1panel/package/quick_start.sh -o quick_start.sh && sudo bash quick_start.sh

(出现执行出错,试过没装curl命令,安装下就行了)

看中文配置就行,加速镜像选y,安装完后有面板地址账号密码等信息,

然后输入面板地址登录后选"应用商店"》"AI/大模型"》分别安装maxkb和ollama,点安装时在高级设置那里有个外部端口访问,有需要就打勾开放防火墙

安装中可以设置下面板,点左边“面板设置”》“服务器地址“输入你电脑的IP

下载千文模型

电脑上  qwen2.5 查看最新的库https://ollama.com/library/qwen2.5​​​​​​​

自己看需求选库,越大需求配置越高,回答越准确,然后旁边会生成命令

然后回到linux 输入 docker ps (ubuntu的是  sudo docker ps )查看运行的容器 CONTAINER ID 下对应的是容器名

然后输入docker exec 加容器id 加生成的命令(ubuntu的是  sudo docker exec )例如

docker exex 18bdccb6732d ollama run qwen2.5:14b

下载完后进入MaxKB面板

地址http://你电脑ip:8080,

例如我的http://172.18.220.57:8080/

账号:admin 密码MaxKB@123..      这里有2个点的

登录后

系统管理》模型设置》添加模型》Ollama》名称随便》模型类型选大语言》基础模型输入qwen2.5:14b ,这个就是上边下载run 后边那段内容》API域名,你的服务器:11434,

例如http://172.18.220.57:11434》按添加

点知识库》创建知识库》然后按提示随便输入》知识库类型看需要,自己上传文档就选同用,如何从网站获取就选web站,创建》然后你可以上传文档了,这个很简单了

点应用》创建应用》随便输入》随便输入》AI模型选择ollama》关联知识库那里点添加,然后勾选你要这个问答机器人搜索知识库,然后确认》右上方按保存并发布》点左边的”概览“,然后就能看到你的问答机器人的访问地址了


网站公告

今日签到

点亮在社区的每一天
去签到