基于Ollama + Open-Webui实现局域网内DeepSeek大模型分享以及知识库构建

大数据学习路线图

作者:厦门大学信息学院计算机科学系2023级研究生 黄万嘉
指导老师:厦门大学数据库实验室 林子雨 博士/副教授

​ 部分行业(如金融、医疗、政务等)对数据存储和传输有严格的合规要求,在局域网内部署DeepSeek可以满足监管需求。同时,内网部署 DeepSeek 并使用局域网共享,不仅能够提升数据安全性和服务稳定性,还能满足团队高效协作、合规管控和定制化需求,是团队或企业内部智能化升级的理想选择。

​ 基于此,本文采用Ollama + Open-Webui的方案,实现宿主机本地部署DeepSeek等大模型并构建知识库,其他同一局域网内的用户机可以通过浏览器使用DeepSeek以及宿主机构建的知识库。

实验环境:

  1. 本地部署的DeepSeek-r1-1.5b:采用1.5b作为示例,用户可以根据内部需要部署更大的大模型以满足实际需求。具体部署可以参考文章:在自己本地计算机上部署DeepSeek R1大模型实战
  2. Ollama 0.5.11
  3. Open-Webui
  4. 在同一局域网内的Windows PC机若干台。宿主机IP为192.168.166.65

修改Ollam配置

在宿主机的cmd中执行以下命令:

setx OLLAMA_HOST "0.0.0.0"
setx OLLAMA_ORIGINS "*"

ollama默认允许本机跨域访问,修改系统变量OLLAMA_ORIGINS,设置为通配符“*”即可解决非本机跨域问题,修改系统变量OLLAMA_HOST为0.0.0.0可以让Ollama接受来自局域网中任何网络接口的连接请求

执行以上命令之后,重启Ollama,在浏览器中访问

宿主机IP:11434

如宿主机IP为192.168.561则访问http://192.168.56.1:11434/,如果看到浏览器显示Ollama is running,则表明现在Ollama服务可以接受局域网内其他机子的请求,这时候也可以用局域网内的其他机子测试访问【宿主机IP:11434】。

配置Open-Webui

更改Ollama API URL

在Open-Webui中的管理员设置中更改外部连接中的Ollama API连接设置

将Ollama URL设置为http://宿主机IP地址:11434

之后可以点击URL旁的Verify Connection验证是否能访问该API

设置模型权限

Open-Webui中模型权限默认为private,需要设置为public,其他非管理员用户才能正确访问

宿主机构建知识库

在工作空间中选择知识库,新增知识库并添加文件

出于演示,创建了一个名为deepseek的知识库,其中包含三篇关于DeepSeek的技术文档。

局域网下其他用户机使用DeepSeek

在同一局域网下,其他用户机在浏览器中访问:

宿主机IP:8080

即可通过局域网访问宿主机的Open-Webui服务,并可以使用宿主机已经安装好的deepseek-r1-1.5b

用户机在对话框中输入“#”,就可以看到宿主机已经创建好的知识库,实现知识库的共享

其他常见问题

  1. 用户机无法使用宿主机的大模型:

    这种情况需要检查Ollama的跨域服务是否正确,宿主机中Open-Webui中Ollama URL是否正确,宿主机中Open-Webui的模型权限是否为public

  2. 用户机想访问宿主机的知识库:

    可以在管理员设置-用户-权限组中创建一个可以访问知识库的权限组,并加入用户。

  3. 用户没法注册:
    依次点击,设置管理员面板--->设置--->默认用户角色,默认情况下是待激活,此时新用户注册需要管理员通过才可进入系统。