首页 最新 热门 推荐

  • 首页
  • 最新
  • 热门
  • 推荐

Deepseek本地化部署指南:在window环境下部署,windows远程web-ui访问(window环境)

  • 25-02-16 14:41
  • 3686
  • 13530
blog.csdn.net

一、Windows 系统部署

前置要求:

  • Windows 10/11 64位

下载地址:

https://ollama.com/download

安装步骤:

1、 下载完的文件,双击安装

2、验证安装

ollama list # 查看已安装模型

 配置远程 Ollama 服务:

如果 Ollama 作为 systemd 服务运行,应使用 systemctl 设置环境变量:

  • 调用 systemctl edit ollama.service 编辑 systemd 服务配置。这将打开一个编辑器。
  • 在 [Service] 部分下为每个环境变量添加一行 Environment:

    1. [Service]
    2. Environment="OLLAMA_HOST=0.0.0.0"
    3. Environment="OLLAMA_ORIGINS=*"

  • 重新加载 systemd 并重启 Ollama:
    systemctl daemon-reloadsystemctl restart ollama

 拉取并运行DeepSeek模型

官方模型库参考:Ollama DeepSeek-R1 页面 拉取模型

ollama pull deepseek-r1 # 官方推荐模型名称

DeepSeek R1 模型列表

 ModelBase ModelUsage scenario
DeepSeek-R1-Distill-Qwen-1.5BQwen2.5-Math-1.5B适合移动设备或资源受限的终端
DeepSeek-R1-Distill-Qwen-7BQwen2.5-Math-7B适合普通文本生成工具
DeepSeek-R1-Distill-Llama-8BLlama-3.1-8B适合小型企业日常文本处理
DeepSeek-R1-Distill-Qwen-14BQwen2.5-14B适合桌面级应用
DeepSeek-R1-Distill-Qwen-32BQwen2.5-32B适合专业领域知识问答系统
DeepSeek-R1-Distill-Llama-70BLlama-3.3-70B-Instruct适合科研、学术研究等高要求场景

DeepSeek R1 电脑配置要求

  1. 1.5B:CPU最低4核,内存8GB+,硬盘icon3GB+存储空间,显卡icon非必需,若GPU加速可选4GB+显存,适合低资源设备部署等场景。
  2. 7B:CPU 8核以上,内存16GB+,硬盘8GB+,显卡推荐8GB+显存,可用于本地开发测试等场景。
  3. 8B:硬件需求与7B相近略高,适合需更高精度的轻量级任务。
  4. 14B:CPU 12核以上,内存32GB+,硬盘15GB+,显卡16GB+显存,可用于企业级复杂任务等场景。
  5. 32B:CPU 16核以上,内存64GB+,硬盘30GB+,显卡24GB+显存,适合高精度专业领域任务等场景。
  6. 70B:CPU 32核以上,内存128GB+,硬盘70GB+,显卡需多卡并行,适合科研机构等进行高复杂度生成任务等场景。

 32B 模型在推理基准测试中表现优异,接近 70B 模型的推理能力,但对硬件资源需求更低。

模型规格选项(按需选择):

ollama pull deepseek-r1:32b # 32B参数进阶版(需更高显存)

运行模型

ollama run deepseek-r1:32b

验证交互:

>>> 你好,请用中文回答你好!我是DeepSeek-R1,很高兴为您提供帮助!

 二、在window上安装Web UI 

windows下安装openwebui有三种方式  docker、python+node.js、整合包

非Docker方式安装

1. 安装Python:
下载并安装Python 3.11,建议安装路径中不要包含中文字符,并勾选“Add python 3.11 to Path”选项。
安装完成后,在命令提示符中输入python,若显示Python版本信息则表示安装成功。

2. 安装Node.js和npm:
访问Node.js中文网,下载并安装较新版本的Node.js(如20.12.2),安装过程中会自动安装npm。在命令提示符中输入npm -v,若显示npm版本信息则表示安装成功。

3. 克隆OpenWebUI项目:
打开命令行工具(如CMD、PowerShell或Git Bash),执行以下命令克隆OpenWebUI项目:

git clone https://github.com/open-webui/open-webui.git
导航到OpenWebUI项目目录

4. 安装npm依赖:
npm install
5. 安装Python依赖:
pip install -r ./backend/requirements.txt
(我下载到的项目requirements.txt依赖管理文件在backend目录下,具体看文件路径)

6. 安装uv
macOS/Linux:

curl -LsSf https://astral.sh/uv/install.sh | sh
windows:

powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex"
 7. 安装与pip
安装Open WebUI:

pip install open-webui
更新Open WebUI

要更新到最新版本,只需运行:

pip install --upgrade open-webui

8. 运行Open WebUI
通过指定的 Python 版本(3.11)来启动 open-webui 项目,并且将项目的数据存储路径设置为 C:\open-webui\data(示例路径),最后启动该项目的 Web 服务器,以便用户可以通过浏览器访问。
windows powershell:

$env:DATA_DIR="C:\open-webui\data"; uvx --python 3.11 open-webui@latest serve 

访问地址:127.0.0.1:8080

此方法安装所有必要的依赖项并启动Open WebUI,允许简单高效的设置。安装后,可以在http://localhost:8080访问Open WebUI。

以后启动可以使用:

open-webui serve

参考? Home | Open WebUI

或者是在OpenWebUI项目的backend目录下,找到start_windows.bat文件并双击运行。

注:本文转载自blog.csdn.net的u013486597的文章"https://blog.csdn.net/u013486597/article/details/145586688"。版权归原作者所有,此博客不拥有其著作权,亦不承担相应法律责任。如有侵权,请联系我们删除。
复制链接
复制链接
相关推荐
发表评论
登录后才能发表评论和回复 注册

/ 登录

评论记录:

未查询到任何数据!
回复评论:

分类栏目

后端 (14832) 前端 (14280) 移动开发 (3760) 编程语言 (3851) Java (3904) Python (3298) 人工智能 (10119) AIGC (2810) 大数据 (3499) 数据库 (3945) 数据结构与算法 (3757) 音视频 (2669) 云原生 (3145) 云平台 (2965) 前沿技术 (2993) 开源 (2160) 小程序 (2860) 运维 (2533) 服务器 (2698) 操作系统 (2325) 硬件开发 (2492) 嵌入式 (2955) 微软技术 (2769) 软件工程 (2056) 测试 (2865) 网络空间安全 (2948) 网络与通信 (2797) 用户体验设计 (2592) 学习和成长 (2593) 搜索 (2744) 开发工具 (7108) 游戏 (2829) HarmonyOS (2935) 区块链 (2782) 数学 (3112) 3C硬件 (2759) 资讯 (2909) Android (4709) iOS (1850) 代码人生 (3043) 阅读 (2841)

热门文章

130
用户体验设计
关于我们 隐私政策 免责声明 联系我们
Copyright © 2020-2025 蚁人论坛 (iYenn.com) All Rights Reserved.
Scroll to Top