首页 最新 热门 推荐

  • 首页
  • 最新
  • 热门
  • 推荐

喂饭式教程 - 腾讯云轻量服务器部署DeepSeek

  • 25-02-15 23:01
  • 3059
  • 8326
blog.csdn.net

前置条件

有1台 最低配置为 2核4G 的轻量应用服务器,理论上来说,服务器配置越高,效果越好。

一、选择镜像

新购或旧有系统重装,选择应用模板,再选择 DeepSeek-R1 1.5B 即可。

在这里插入图片描述

二、查看应用信息

系统安装完成后,在轻量应用服务器详细页面,可以查看应用信息及进行应用管理。

在这里插入图片描述

三、开始使用

默认自带的有Open WebUI 界面,可以可视化的使用大模型。

若系统刚重装完毕,点击该网站有可能打不开,大概率是应用正在启动,稍后再试即可。

在这里插入图片描述

四、创建管理员账号

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

五、进行对话

至此私有化部署及设置DeepSeek已完成,可以进行对话。

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

不愧是AI,想的就是多。

六、选择模型

系统默认已经完成DeepSeek 1.5B 模型的安装,也可以添加模型。

在这里插入图片描述

七、添加模型

DeepSeek-R1就是深度搜索-R1模型,包含Distilled models 的是蒸馏模型。

模型模型名模型大小
DeepSeek-R1-Distill-Qwen-1.5Bdeepseek-r1:1.5b1.1G
DeepSeek-R1-Distill-Qwen-7Bdeepseek-r1:7b4.7G
DeepSeek-R1-Distill-Llama-8Bdeepseek-r1:8b4.9G
DeepSeek-R1-Distill-Qwen-14Bdeepseek-r1:14b9.0G
DeepSeek-R1-Distill-Qwen-32Bdeepseek-r1:32b20G
DeepSeek-R1-Distill-Llama-70Bdeepseek-r1:70b43G
DeepSeek-R1deepseek-r1:671b404G

具体详细信息以官网介绍为准。

如要安装模型 DeepSeek-R1-Distill-Qwen-7B ,则只需输入模型名 deepseek-r1:7b ,点击拉取后,系统会自动拉取模型进行下载,下载完成后,再选择模型即可。

下载通常需要较多的时间。

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

八、对话高级设置

点击右上角按钮可以进入高级设置,适合对AI模型有一定了解的用户配置。

在这里插入图片描述

选择什么样的模型

从表中可以看出,模型参数越大则文件体积越大,相应的对硬件要求也就越高。从运行结果来看,拥有更大参数量的模型(如DeepSeek-R1)在推理效果上更胜一筹,但另一方面,更小参数的 Distilled models(蒸馏模型)模型的响应速度更快、占用资源更少、部署时长更短,在处理较为简单的任务时,仍是不错的选择。

具体选择要根据服务器硬件参数来决定,配置低的就选择低参数量,如要追求更好的推理结果,高参数量的模型也必须搭配高配置的服务器。

如果运行一个模型响应很卡顿,大概率说明服务器配置不够,可以考虑升级配置或降低模型参数量。

注:本文转载自blog.csdn.net的云计算课代表的文章"https://blog.csdn.net/weixin_42260748/article/details/145543233"。版权归原作者所有,此博客不拥有其著作权,亦不承担相应法律责任。如有侵权,请联系我们删除。
复制链接
复制链接
相关推荐
发表评论
登录后才能发表评论和回复 注册

/ 登录

评论记录:

未查询到任何数据!
回复评论:

分类栏目

后端 (14832) 前端 (14280) 移动开发 (3760) 编程语言 (3851) Java (3904) Python (3298) 人工智能 (10119) AIGC (2810) 大数据 (3499) 数据库 (3945) 数据结构与算法 (3757) 音视频 (2669) 云原生 (3145) 云平台 (2965) 前沿技术 (2993) 开源 (2160) 小程序 (2860) 运维 (2533) 服务器 (2698) 操作系统 (2325) 硬件开发 (2491) 嵌入式 (2955) 微软技术 (2769) 软件工程 (2056) 测试 (2865) 网络空间安全 (2948) 网络与通信 (2797) 用户体验设计 (2592) 学习和成长 (2593) 搜索 (2744) 开发工具 (7108) 游戏 (2829) HarmonyOS (2935) 区块链 (2782) 数学 (3112) 3C硬件 (2759) 资讯 (2909) Android (4709) iOS (1850) 代码人生 (3043) 阅读 (2841)

热门文章

116
云平台
关于我们 隐私政策 免责声明 联系我们
Copyright © 2020-2025 蚁人论坛 (iYenn.com) All Rights Reserved.
Scroll to Top