如何安装移步ollama官网:https://ollama.com/
Windows本地部署ollama
- 官网下载ollama 运行
- 外网访问配置变量
很重要
ollama 启动的时候默认只提供本地127.0.0.1 调用,如果需要对外提供第三方调用需要设置ollama host . windows 平台cmd 命令下设置 set OLLAMA_HOST=0.0.0.0 (当然你也可以把这个值设置到系统的环境变量) 设置后 启动ollama run 这个时候就可以对外提供第三方调用了。
-
根据你的需要下载对应模型(模型列表快速跳转)
上图我在下载:ollama pull qwen:14b -
启动ollama serve
具体多看ollama官网说明(快速跳转)