DeepSeek本地部署安装教程
软件介绍
DeepSeek(深度求索)是一款由杭州深度求索人工智能基础技术研究有限公司开发的人工智能大模型,能够理解自然语言及生成高质量文本内容。DeepSeek 作为一款开源且性能强大的大语言模型,支持灵活的本地部署方案,用户可以在本地环境中高效运行模型,无需支付在线 API 费用。模型部署完成后无需联网也可流畅运行,避免“服务器繁忙”等问题。
安装步骤一、安装本地部署文件:1-1.解压安装包:鼠标右击【DeepSeek】压缩包,选择电脑上安装的解压软件,点击【解压到deepseek】。1-2.打开解压后的文件夹,鼠标右击【OllamaSetup】选择【以管理员身份运行】。1-3.点击【Install】(该软件默认安装在C盘且无法更改安装位置)。1-4.安装中...1-5.鼠标右击桌面【开始】菜单,选择【终端管理员】。1-6.在终端界面中输入命令【ollama help】在键盘上按【Enter键】(即回车)。1-7.安装成功!二.安装模型:2-1.打开模型的官网地址:https://ollama.com/library/deepseek-r1选择模型版本(如:模型版本:1.5b,注意需要的空间和电脑配置),复制右边的命令。模型版本及部署命令:
模型版本:1.5b(需要1.1GB空余空间),模型命令:【ollama run deepseek-r1:1.5b】
模型版本:7b(需要4.7GB空余空间),模型命令:【ollama run deepseek-r1:7b】
模型版本:8b(需要4.9GB空余空间),模型命令:【ollama run deepseek-r1:8b】
模型版本:14b(需要9GB空余空间),模型命令:【ollama run deepseek-r1:14b】
模型版本:32b(需要20GB空余空间),模型命令:【ollama run deepseek-r1:32b】
模型版本:70b(需要43GB空余空间),模型命令:【ollama run deepseek-r1:70b】
模型版本:671b(需要404GB空余空间),模型命令:【ollama run deepseek-r1:671b】
模型对应的配置说明:
1.5B、7B、8B、14B、32B、70B是蒸馏后的小模型,671B是基础大模型,它们的区别主要体现在参数规模、模型容量、性能表现、准确性、训练成本、推理成本和不同使用场景:671B参数数量最多,模型容量极大,能够学习和记忆海量的知识与信息,对各种复杂语言模式和语义关系的捕捉能力最强。如果电脑内存为4G,建议你使用1.5B模型,内存16G,可以使用1.5B、7B、8B、14B等模型,以此类推。
2-2.在终端中输入模型命令【如:ollama run deepseek-r1:1.5b,模型命令详见2-1模型版本及部署命令】后在键盘上按【Enter键】。
2-3.安装中...2-4.当界面显示【success】即为成功。2-5.在【Send a message for help】处输入问题开始使用。三:安装图形化UI对话3-1.打开安装包解压后的【DeepSeek】文件夹,鼠标右击【Chatbox-1.9.8-Setup】选择【以管理员身份运行】。3-2.点击【下一步】。3-3.修改安装位置:修改路径地址中的第一个字符C可更改安装位置(如:把C改为D软件将安装到D盘),点击【安装】。3-4.安装中...3-5.点击【完成】。3-6.点击【使用自己的...】。3-7.选择【ollama API】。3-8.选择步骤【2-3】安装的模型【如:deepseek-r1:8b】,点击【保存】。3-9.安装成功!