首页 最新 热门 推荐

  • 首页
  • 最新
  • 热门
  • 推荐

轻松上手!Mac 上安装 LM Studio 的完整指南 ️

  • 25-02-16 06:41
  • 3541
  • 12711
blog.csdn.net

LM Studio:在 Mac 上轻松运行本地 AI 大模型

文章目录

    • LM Studio:在 Mac 上轻松运行本地 AI 大模型
    • 1. 下载与安装 LM Studio
      • 步骤 1:访问官网并下载
      • 步骤 2:安装 LM Studio
      • 步骤 3:为 LM Studio 更换镜像源(全局替换)
        • 使用第2种办法:全局替换
      • 步骤 4:设置中文(可选)
      • 步骤 5:设置模型目录(可选)
    • 2. 使用聊天界面
      • 点击Load Model![在这里插入图片描述](https://img1.iyenn.com/thumb02/c4a7c4f8a7c4b29e/204517395037605621.jpeg)
      • 功能亮点
    • 3. 利用 API 服务器
      • 步骤 1:启动 API 服务器
      • 步骤 2:发送 API 请求
    • 4. 常见问题与解决方案
      • 问题 1:无法下载模型
      • 问题 2:模型加载缓慢
    • 结语

在这里插入图片描述


1. 下载与安装 LM Studio

步骤 1:访问官网并下载

  1. 打开浏览器,访问 LM Studio 官网。
  2. 选择适用于 Mac 的版本并下载安装包。
    在这里插入图片描述

步骤 2:安装 LM Studio

  1. 将下载的 .dmg 文件拖拽到 Applications 文件夹中。
  2. 打开 Applications 文件夹,双击 LM Studio 图标启动程序。
  3. 根据提示完成安全设置(如允许从“未知来源”安装)。
    在这里插入图片描述
    在这里插入图片描述

步骤 3:为 LM Studio 更换镜像源(全局替换)

原因:安装开始搜索模型时,列表可以看到,但无法下载模型。这是因为 https://huggingface.co/ 在国内无法访问。即便有科学上网,设置了全局代理也无法生效,无法下载模型。

详细拆解:

  • 科学上网的作用:
    • 科学上网工具(如 VPN 或代理)通常会将你的网络流量通过境外服务器转发,从而绕过国内的网络限制。
  • LM Studio 的特殊性:
    • 对于大多数软件(如浏览器),科学上网工具可以正常工作,因为它们会遵循系统的代理设置或环境变量(如 HTTP_PROXY)。
    • 但是 LM Studio 不支持通过 HTTP_PROXY 设置代理,因此即使你有科学上网工具,LM Studio 也不会使用你配置的代理工具,而是通过 HTTPS 直接尝试连接 Hugging Face。

解决办法:

  1. 在 huggingface.co 或国内镜像站 hf-mirror.com 的项目介绍页面下载模型后,拖入 LM Studio 的模型文件夹。这样无法利用 LM Studio 本身的搜索功能。
  2. 使用国内镜像站 hf-mirror.com 替换 huggingface.co。
使用第2种办法:全局替换

在 macOS 上使用 VSCode 为 LM Studio 设置国内模型源(将 huggingface.co 替换为 hf-mirror.com)的操作步骤如下:

  • 准备工作:检查VSCode 的 code 命令有没有正确安装或配置到系统的环境变量中

    • 安装 VSCode 的 code 命令
      1. 打开 VSCode。
      2. 按下 Cmd+Shift+P,打开命令面板。
      3. 输入 Shell Command: Install 'code' command in PATH,然后选择并运行该命令。
      4. 完成后,关闭并重新打开终端。
        在这里插入图片描述
    • 验证 code 命令是否可用
      在终端中输入以下命令:
      code --version
      
      • 1
      如果显示 VSCode 的版本号,说明 code 命令已成功安装。
      在这里插入图片描述
    • 确认 LM Studio 的安装路径
      • 通常位于 /Applications/LM Studio.app/Contents/
  • 定位 LM Studio 的配置文件

    • 打开 终端(Terminal)。
    • 输入以下命令,进入 LM Studio 的 .webpack 目录:
       cd /Applications/LM\ Studio.app/Contents/Resources/app/.webpack
      
      • 1
    • 使用以下命令在 VSCode 中打开该目录:
      code .
      
      • 1
  • 全局替换域名

    • 在 VSCode 中,按下 Ctrl+Shift+H(或点击菜单栏的 Search > Replace in Files),打开全局替换功能。
    • 在 Find 输入框中输入 huggingface.co,在 Replace 输入框中输入 hf-mirror.com。
    • 点击 Replace All,将所有文件中的 huggingface.co 替换为 hf-mirror.com。
      保存所有修改(Ctrl+S)。
      在这里插入图片描述
  • 重启 LM Studio

    • 关闭 VSCode 和 LM Studio(如果已打开)。
    • 重新启动 LM Studio,此时模型下载功能应已恢复正常。
      在这里插入图片描述
  • 验证

    • 在 LM Studio 中尝试搜索并下载模型(如 Llama 3.2 3B Instruct 4bit)。
    • 如果模型能够正常下载,说明替换成功。
      在这里插入图片描述

步骤 4:设置中文(可选)

在 LM Studio 的右下角设置中,选择中文语言。
在这里插入图片描述

步骤 5:设置模型目录(可选)

可以修改但是建议将模型目录设置为英文路径,避免中文特殊符号导致的问题。
在这里插入图片描述


2. 使用聊天界面

点击Load Model在这里插入图片描述

功能亮点

  • 实时互动:与模型对话,观察其反应和性能指标(如每秒 token 数)。

  • 多模型支持:轻松切换不同模型,体验不同的 AI 能力。

  • Qwen2-7B-Instruct-4bit请添加图片描述

  • DeepSeek-Coder-V2-Lite-Instruct-4bit-mlx
    请添加图片描述

  • Llama-3.2-3B-Instruct-4bit
    请添加图片描述


3. 利用 API 服务器

步骤 1:启动 API 服务器

  1. 点击左侧边栏的“服务器”图标。
  2. 点击“启动服务器”按钮,复制提供的服务器地址(如 http://localhost:1234)。

步骤 2:发送 API 请求

  1. 使用 Postman 或代码向服务器发送请求。例如:
    curl http://localhost:1234/v1/chat/completions \
    -H "Content-Type: application/json" \
    -d '{
        "model": "deepseek-coder-v2-lite-instruct-mlx",
        "messages": [
            {"role": "system", "content": "你是一个乐于助人的助手,对Python非常了解"},
            {"role": "user", "content": "讲一个笑话"}
        ],
        "temperature": 0.7,
        "max_tokens": 50,
        "stream": false
    }'
    
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
  2. 观察模型的回复,并将其集成到你的应用中。
    在这里插入图片描述

4. 常见问题与解决方案

问题 1:无法下载模型

  • 原因:国内用户可能无法直接访问 Hugging Face 模型库。
  • 解决方案:使用镜像站点 hf-mirror.com 替换 huggingface.co,具体方法如下:
    1. 打开 LM Studio 的安装目录。
    2. 使用文本编辑器全局替换 huggingface.co 为 hf-mirror.com。
    3. 如果替换后仍无法下载模型,可以尝试清除 LM Studio 的缓存或重新安装软件。

问题 2:模型加载缓慢

  • 原因:模型文件较大,或硬件配置不足。
  • 解决方案:选择较小的模型(如 llama2 3B),或升级硬件配置(建议至少 16GB 内存)。

结语

LM Studio 是一款功能强大且易于使用的工具,适合任何希望在 Mac 上运行本地 AI 模型的用户。无论是探索 AI 的初学者,还是需要快速集成模型的开发者,LM Studio 都能满足你的需求。赶快下载并体验吧!?

如果你在安装或使用过程中遇到问题,欢迎在评论区留言,我会尽力为你解答!?


参考来源:

  • LM Studio 官网
  • CSDN 博客
注:本文转载自blog.csdn.net的X_taiyang18的文章"https://blog.csdn.net/weixin_46445090/article/details/145176171"。版权归原作者所有,此博客不拥有其著作权,亦不承担相应法律责任。如有侵权,请联系我们删除。
复制链接
复制链接
相关推荐
发表评论
登录后才能发表评论和回复 注册

/ 登录

评论记录:

未查询到任何数据!
回复评论:

分类栏目

后端 (14832) 前端 (14280) 移动开发 (3760) 编程语言 (3851) Java (3904) Python (3298) 人工智能 (10119) AIGC (2810) 大数据 (3499) 数据库 (3945) 数据结构与算法 (3757) 音视频 (2669) 云原生 (3145) 云平台 (2965) 前沿技术 (2993) 开源 (2160) 小程序 (2860) 运维 (2533) 服务器 (2698) 操作系统 (2325) 硬件开发 (2491) 嵌入式 (2955) 微软技术 (2769) 软件工程 (2056) 测试 (2865) 网络空间安全 (2948) 网络与通信 (2797) 用户体验设计 (2592) 学习和成长 (2593) 搜索 (2744) 开发工具 (7108) 游戏 (2829) HarmonyOS (2935) 区块链 (2782) 数学 (3112) 3C硬件 (2759) 资讯 (2909) Android (4709) iOS (1850) 代码人生 (3043) 阅读 (2841)

热门文章

122
操作系统
关于我们 隐私政策 免责声明 联系我们
Copyright © 2020-2025 蚁人论坛 (iYenn.com) All Rights Reserved.
Scroll to Top