使用1panel面板安装,主要里边有可用加速镜像
ubuntu
curl -sSL https://resource.fit2cloud.com/1panel/package/quick_start.sh -o quick_start.sh && sudo bash quick_start.sh
centos
curl -sSL https://resource.fit2cloud.com/1panel/package/quick_start.sh -o quick_start.sh && sh quick_start.sh
debian
curl -sSL https://resource.fit2cloud.com/1panel/package/quick_start.sh -o quick_start.sh && sudo bash quick_start.sh
(出现执行出错,试过没装curl命令,安装下就行了)
看中文配置就行,加速镜像选y,安装完后有面板地址账号密码等信息,
然后输入面板地址登录后选"应用商店"》"AI/大模型"》分别安装maxkb和ollama,点安装时在高级设置那里有个外部端口访问,有需要就打勾开放防火墙
安装中可以设置下面板,点左边“面板设置”》“服务器地址“输入你电脑的IP
下载千文模型
电脑上 qwen2.5 查看最新的库https://ollama.com/library/qwen2.5
自己看需求选库,越大需求配置越高,回答越准确,然后旁边会生成命令
然后回到linux 输入 docker ps (ubuntu的是 sudo docker ps )查看运行的容器 CONTAINER ID 下对应的是容器名
然后输入docker exec 加容器id 加生成的命令(ubuntu的是 sudo docker exec )例如
docker exex 18bdccb6732d ollama run qwen2.5:14b
下载完后进入MaxKB面板
地址http://你电脑ip:8080,
例如我的http://172.18.220.57:8080/
账号:admin 密码MaxKB@123.. 这里有2个点的
登录后
系统管理》模型设置》添加模型》Ollama》名称随便》模型类型选大语言》基础模型输入qwen2.5:14b ,这个就是上边下载run 后边那段内容》API域名,你的服务器:11434,
例如http://172.18.220.57:11434》按添加
点知识库》创建知识库》然后按提示随便输入》知识库类型看需要,自己上传文档就选同用,如何从网站获取就选web站,创建》然后你可以上传文档了,这个很简单了
点应用》创建应用》随便输入》随便输入》AI模型选择ollama》关联知识库那里点添加,然后勾选你要这个问答机器人搜索知识库,然后确认》右上方按保存并发布》点左边的”概览“,然后就能看到你的问答机器人的访问地址了