AI学习--本地部署ollama

发布于:2025-07-23 ⋅ 阅读:(17) ⋅ 点赞:(0)

AI小白,记录下本地部署ollama

1.下载安装ollama

下载地址

 ollama官方地址

https://ollama.com/download

根据系统下载即可

下面是我下载的地址 

https://release-assets.githubusercontent.com/github-production-release-asset/658928958/e8384a9d-8b1e-4742-9400-7a0ce2adb947?sp=r&sv=2018-11-09&sr=b&spr=https&se=2025-07-21T08%3A01%3A35Z&rscd=attachment%3B+filename%3DOllamaSetup.exe&rsct=application%2Foctet-stream&skoid=96c2d410-5711-43a1-aedd-ab1947aa7ab0&sktid=398a6654-997b-47e9-b12b-9515b896b4de&skt=2025-07-21T07%3A01%3A13Z&ske=2025-07-21T08%3A01%3A35Z&sks=b&skv=2018-11-09&sig=YIaY7eKsgt%2FSHdg53E4Lkmuds7wzraXD%2Bt9aFLvAF%2BM%3D&jwt=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJnaXRodWIuY29tIiwiYXVkIjoicmVsZWFzZS1hc3NldHMuZ2l0aHVidXNlcmNvbnRlbnQuY29tIiwia2V5Ijoia2V5MSIsImV4cCI6MTc1MzA4Mjc0OCwibmJmIjoxNzUzMDgyNDQ4LCJwYXRoIjoicmVsZWFzZWFzc2V0cHJvZHVjdGlvbi5ibG9iLmNvcmUud2luZG93cy5uZXQifQ.P2I55yI26BUGvaGAR4LF7gwVw8qDfSy-qApa1t8_jkU&response-content-disposition=attachment%3B%20filename%3DOllamaSetup.exe&response-content-type=application%2Foctet-stream

下载后一步一步安装就行

安装后会自动开启开机自启

2.下载模型

在 Windows 系统中,Ollama 下载的模型文件默认存储路径为C:\Users\<用户名>\.ollama\models

如果用户通过环境变量OLLAMA_MODELS修改了模型存储路径,那么模型文件将存放在自定义的路径下。例如,将OLLAMA_MODELS设置为D:\ollama\models,则模型会下载到D:\ollama\models目录中

下面是下载deepseekr1-1.5B

使cmd用命令行执行下面的命令

ollama run deepseek-r1:1.5b

执行后会产生如下日志

C:\Users\Mayn>ollama run deepseek-r1:1.5b
pulling manifest
pulling aabd4debf0c8... 100% ▕████████████████████████████████████████████████████████████████████████████████████████▏ 1.1 GB
pulling c5ad996bda6e... 100% ▕████████████████████████████████████████████████████████████████████████████████████████▏  556 B
pulling 6e4c38e1172f... 100% ▕████████████████████████████████████████████████████████████████████████████████████████▏ 1.1 KB
pulling f4d24e9138dd... 100% ▕████████████████████████████████████████████████████████████████████████████████████████▏  148 B
pulling a85fe2a2e58e... 100% ▕████████████████████████████████████████████████████████████████████████████████████████▏  487 B
verifying sha256 digest
writing manifest
success

3.对话示例

直接继续在命令行输入对话内容即可

>>> hello
<think>

</think>

Hello! How can I assist you today? 😊

>>> 请说汉语
<think>

</think>

请问您有什么问题或需求吗?我在这里等待您的回复。

>>> Send a message (/? for help)

4.安装包

避免以后找不到,直接放安装包


网站公告

今日签到

点亮在社区的每一天
去签到