【DeepSeek】公司内网部署离线deepseek+docker+ragflow本地模型实战

发布于:2025-08-31 ⋅ 阅读:(25) ⋅ 点赞:(0)

企业内部可能有些数据比较敏感,不能连接互联网。本次实验操作是将deepseek完全离线后迁移至内网使用,实验基于Windows server 2022 datacenter系统安装deepseek、docker、ragflow。

使用VMware新建WIN2022虚拟机

(本步骤省略)

一、安装DeepSeek模型

  1. 下载ollama
    官网https://ollama.com/下载自已电脑对应的ollama 版本。
    在这里插入图片描述

在这里插入图片描述
下载太慢的请看这里,我用移动的宽带下特别快
两个文件下到同一目录,用360解压缩
https://download.csdn.net/download/xzzteach/90571904
https://download.csdn.net/download/xzzteach/90571885

  1. 安装ollama

注意:
Ollama安装包默认只能安装到C盘,Ollama本身大概会占用4GB左右;
如果大家都C盘空间充足的话可以直接双击打开安装包点击安装即可;
建议将Ollama安装包放到想要安装的路径下,本实验安装在 D:\ds\ollama

在安装文件目录中进入CMD

在这里插入图片描述
输入安装指令

OllamaSetup.exe /DIR=D:\ds\ollama

在这里插入图片描述
点击install进行安装
在这里插入图片描述
检查安装成功的版本号

ollama -v

在这里插入图片描述

  1. 本地离线部署DeepSeek
    选择模型并下载
    打开Ollama官网,点击顶部的Models链接,选择deepseek-r1模型,如下图所示:

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

这里以14B模型为例(推荐使用移动宽带这样下载快一些)

ollama run deepseek-r1:14b

在这里插入图片描述
出现success就代表成功了,并且可以进行对话.
在这里插入图片描述

二.安装Docker

安装前先打开启用或关闭Windows功能界面 ,随后打开红框中的内容,如果第一个红框没有的话那么看看有没有一个叫做虚拟机平台 的进行打开

开始菜单搜索“控制面板”
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
执行

dism /online /enable-feature /all /featurename:Microsoft-Hyper-V

在这里插入图片描述
提示重启,输入Y重启服务器

下载docker
https://www.docker.com/

在这里插入图片描述

因为笔者服务器系统Windows server 2022 C盘空间特别小,这里把Docker安装到D盘
先创建两个文件夹

mkdir D:\ds\DockerDesktop
mkdir D:\ds\DockerDesktop\data

查看目录已成功创建
在这里插入图片描述

现在开始安装

start /w "" "Docker Desktop Installer.exe" install -accept-license --installation-dir="D:\ds\DockerDesktop" --wsl-default-data-root="D:\ds\DockerDesktop\data" --windows-containers-default-data-root="D:\\ds\\DockerDesktop"

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

wsl --update

在这里插入图片描述
这样更新一般会特别慢,下面链接可以点击下载直接更新
https://download.csdn.net/download/xzzteach/91804044

下载ragflow
https://github.com/infiniflow/ragflow
在这里插入图片描述
原来是这样的
在这里插入图片描述
修改成如下所示:也就是标红部分未注释的注释掉,已注释的取消(这样才能带Embedding模型)
在这里插入图片描述
docker端口与本地对应关系根据自己的情况修改,我这里保持了默认:
在这里插入图片描述
来到ragflow的docker目录执行命令如下:

docker compose -f docker-compose.yml up -d

网站公告

今日签到

点亮在社区的每一天
去签到