首页 最新 热门 推荐

  • 首页
  • 最新
  • 热门
  • 推荐

deepseek模型部署--本地知识库构建open-webui方法

  • 25-02-16 06:41
  • 2852
  • 7926
blog.csdn.net

简介:这里采用了open webui作为交互界面。

ollama:运行大语言模型的工具

open-webui:调用Ollama的图形界面

Docker:运行open-webui的工具

1、安装python3.11.8版本(python官网:Welcome to Python.org)

选择适合自己电脑的版本下载、配置。

2、安装open-webui库:

打开命令行(CMD)输入:

pip install open-webui

可以参考open-webui的github:

GitHub - open-webui/open-webui: User-friendly AI Interface (Supports Ollama, OpenAI API, ...)

3、安装docker(官网:Docker: Accelerated Container Application Development)

选择适合自己电脑的版本下载、安装。

4、配置环境:

a\控制面板(调整成小图标)-程序和功能-启用或关闭Windows功能(左栏):

弹出如下窗口,将“windows虚拟机监控程序平台”勾选上(说明:如果是win11专业版,还要勾选“hyper-v”)

b\(如果Ollama在您的计算机上,请使用此命令:)

在终端中输入:(结果如下图所示,会加载一些东西)

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

5、快速启动:

打开docker

直接在将“localhost:3000”以网页形式打开(会加载一段时间)/或者:点击docker中的“3000:8000”即可直接进入

calhost:3000”以网页形式打开(会加载一段时间)

完成创建管理员账户/登录操作之后,进入如下界面:

6、个人知识库

点击左栏“工作空间”,右侧在知识库菜单下可以添加文件集,在不同文件集中可以分别上传不同内容类型的文件。

在对话框,输入#,可以调用不同的文件集/文件用于对话问答:

以下是有无添加文件集的问答情况:

未添加:

添加:

7、其余简单介绍:

在对话栏左上方,可以换模型(会自动识别本地的模型):

在左栏下方,点击头像,再点击管理员面板,可以进入设置(直接点击的设置是另一个设置):

直接点击设置(如下图):

点击右上角设置按钮(对话高级设置),可以进行参数的微调和输入系统提示词:

------------------------------------------------------------------------------------------------

下面是部署过程中一次失败的例子,该例子中不能上传文件,只能进行基础对话:

安装后,使用以下方式启动服务器

打开命令行(CMD)输入:open-webui serve

另打开一个命令行(CMD)输入:ipconfig,找到ipv4地址。把“ipv4地址:8080”或者“localhost:8080”以网页形式打开。

当终端显示如下时,即连接成功:(此时网页可能白屏一会,请耐心等待;如果浏览器中显示‘网页出错了’可以刷新一下,看是否终端如下图)

但此时可能出现”文件无法上传“的情况(如下图所示):

------------------------------------------------------------------------------------------------

注:本文转载自blog.csdn.net的羽翼.玫瑰的文章"https://blog.csdn.net/2302_81352333/article/details/145479773"。版权归原作者所有,此博客不拥有其著作权,亦不承担相应法律责任。如有侵权,请联系我们删除。
复制链接
复制链接
相关推荐
发表评论
登录后才能发表评论和回复 注册

/ 登录

评论记录:

未查询到任何数据!
回复评论:

分类栏目

后端 (14832) 前端 (14280) 移动开发 (3760) 编程语言 (3851) Java (3904) Python (3298) 人工智能 (10119) AIGC (2810) 大数据 (3499) 数据库 (3945) 数据结构与算法 (3757) 音视频 (2669) 云原生 (3145) 云平台 (2965) 前沿技术 (2993) 开源 (2160) 小程序 (2860) 运维 (2533) 服务器 (2698) 操作系统 (2325) 硬件开发 (2492) 嵌入式 (2955) 微软技术 (2769) 软件工程 (2056) 测试 (2865) 网络空间安全 (2948) 网络与通信 (2797) 用户体验设计 (2592) 学习和成长 (2593) 搜索 (2744) 开发工具 (7108) 游戏 (2829) HarmonyOS (2935) 区块链 (2782) 数学 (3112) 3C硬件 (2759) 资讯 (2909) Android (4709) iOS (1850) 代码人生 (3043) 阅读 (2841)

热门文章

126
软件工程
关于我们 隐私政策 免责声明 联系我们
Copyright © 2020-2025 蚁人论坛 (iYenn.com) All Rights Reserved.
Scroll to Top