Author: 黄, 万嘉

基于Ollama + Open-Webui实现局域网内DeepSeek大模型分享以及知识库构建

作者:厦门大学信息学院计算机科学系2023级研究生 黄万嘉
指导老师:厦门大学数据库实验室 林子雨 博士/副教授

​ 部分行业(如金融、医疗、政务等)对数据存储和传输有严格的合规要求,在局域网内部署DeepSeek可以满足监管需求。同时,内网部署 DeepSeek 并使用局域网共享,不仅能够提升数据安全性和服务稳定性,还能满足团队高效协作、合规管控和定制化需求,是团队或企业内部智能化升级的理想选择。

​ 基于此,本文采用Ollama + Open-Webui的方案,实现宿主机本地部署DeepSeek等大模型并构建知识库,其他同一局域网内的用户机可以通过浏览器使用DeepSeek以及宿主机构建的知识库。

继续阅读

基于Cherry Studio实现DeepSeek大模型 + RAG知识库

作者:厦门大学信息学院计算机科学系2023级研究生 黄万嘉
指导老师:厦门大学数据库实验室 林子雨 博士/副教授

Cherry Studio 是一款功能强大的跨平台桌面客户端,专为支持多模型服务而设计,旨在为用户提供高效、便捷的 AI 交互体验。它集成了超过 300 个大语言模型,支持多种主流 AI 服务商(如DeepSeek ),并兼容本地模型运行(通过 Ollama),满足用户在不同场景下的需求。

本文使用到的工具及模型有:

  1. Ollama:模型部署工具
  2. DeepSeek R1 1.5b:推理模型,基于Ollama本地部署
  3. nomic-embed-text:嵌入模型,用于对输入的文件(知识)进行向量化
  4. Cherry Studio:集成各功能的AI助手平台

通过上述工具和模型,可以构建一个本地的知识库,帮助大模型进行更准确地回复。

继续阅读

基于DeepSeek大模型和Page Assist构建本地知识库

作者:厦门大学信息学院计算机科学系2023级研究生 黄万嘉
指导老师:厦门大学数据库实验室 林子雨 博士/副教授

在构建本地知识库时,通常会结合 Page Assistnomic-embed-text,常见的方案为:

  1. 使用 nomic-embed-text 模型将知识库文档向量化。
  2. 当用户提问时,将问题向量化并与知识库中的文档向量进行相似性匹配,找到最相关的上下文。
  3. 将检索到的上下文输入大语言模型(如 DeepSeek),生成最终的回答

Page Assist提供了一个本地大模型的Web UI,同时也提供了方便的RAG设置,使得我们更快捷地构建本地知识库,基于此,本文采用Page Assist,基于DeepSeek大模型,实现了用户提供本地知识库(.pdf/.csv/.docx/.md),大模型进行更加专业地回复。

继续阅读