Aichatweb 适配调用本地ollama

如何安装移步ollama官网:https://ollama.com/

Windows本地部署ollama

  1. 官网下载ollama 运行
  2. 外网访问配置变量

很重要

ollama 启动的时候默认只提供本地127.0.0.1 调用,如果需要对外提供第三方调用需要设置ollama host . windows 平台cmd 命令下设置 set OLLAMA_HOST=0.0.0.0 (当然你也可以把这个值设置到系统的环境变量) 设置后 启动ollama run 这个时候就可以对外提供第三方调用了。

  1. 根据你的需要下载对应模型(模型列表快速跳转


    上图我在下载:ollama pull qwen:14b

  2. 启动ollama serve

具体多看ollama官网说明(快速跳转

Aichatweb 配置指南

创建平台

image

创建模型

添加api key

image

前端对话

image

至此配置完成

1 个赞

那个请问下如何在调用本地ollama内模型的时候也可以启用联网插件啊~~~