作者:厦门大学信息学院计算机科学系2023级研究生 黄万嘉
指导老师:厦门大学数据库实验室 林子雨 博士/副教授
部分行业(如金融、医疗、政务等)对数据存储和传输有严格的合规要求,在局域网内部署DeepSeek可以满足监管需求。同时,内网部署 DeepSeek 并使用局域网共享,不仅能够提升数据安全性和服务稳定性,还能满足团队高效协作、合规管控和定制化需求,是团队或企业内部智能化升级的理想选择。
基于此,本文采用Ollama + Open-Webui的方案,实现宿主机本地部署DeepSeek等大模型并构建知识库,其他同一局域网内的用户机可以通过浏览器使用DeepSeek以及宿主机构建的知识库。
实验环境:
- 本地部署的DeepSeek-r1-1.5b:采用1.5b作为示例,用户可以根据内部需要部署更大的大模型以满足实际需求。具体部署可以参考文章:在自己本地计算机上部署DeepSeek R1大模型实战
- Ollama 0.5.11
- Open-Webui
- 在同一局域网内的Windows PC机若干台。宿主机IP为192.168.166.65
修改Ollam配置
在宿主机的cmd中执行以下命令:
setx OLLAMA_HOST "0.0.0.0"
setx OLLAMA_ORIGINS "*"
ollama默认允许本机跨域访问,修改系统变量OLLAMA_ORIGINS,设置为通配符“*”即可解决非本机跨域问题,修改系统变量OLLAMA_HOST为0.0.0.0可以让Ollama接受来自局域网中任何网络接口的连接请求
执行以上命令之后,重启Ollama,在浏览器中访问
宿主机IP:11434
如宿主机IP为192.168.561则访问http://192.168.56.1:11434/,如果看到浏览器显示Ollama is running,则表明现在Ollama服务可以接受局域网内其他机子的请求,这时候也可以用局域网内的其他机子测试访问【宿主机IP:11434】。
配置Open-Webui
更改Ollama API URL
在Open-Webui中的管理员设置中更改外部连接中的Ollama API连接设置
将Ollama URL设置为http://宿主机IP地址:11434
之后可以点击URL旁的Verify Connection验证是否能访问该API
设置模型权限
Open-Webui中模型权限默认为private,需要设置为public,其他非管理员用户才能正确访问
宿主机构建知识库
出于演示,创建了一个名为deepseek的知识库,其中包含三篇关于DeepSeek的技术文档。
局域网下其他用户机使用DeepSeek
在同一局域网下,其他用户机在浏览器中访问:
宿主机IP:8080
即可通过局域网访问宿主机的Open-Webui服务,并可以使用宿主机已经安装好的deepseek-r1-1.5b
用户机在对话框中输入“#”,就可以看到宿主机已经创建好的知识库,实现知识库的共享