Claude Code Local:把 AI 编程助手完全跑在本地

正文顶部截图

Claude Code 是 Anthropic 出的 AI 编程工具,日常写代码、改文件、管理项目都用得上。但它的默认模式依赖云端 API,代码和对话内容都要经过远程服务器。

Claude Code Local 这个项目做了一件事:让 Claude Code 完全在 MacBook 上本地运行,不需要联网,不需要 API Key,不需要订阅。

GitHub 上目前 2,819 个 Star。MIT 协议开源。

支持三款本地模型

项目集成了三个本地 AI 模型,通过同一个 MLX 服务器切换:

模型 参数量 速度 显存占用 适合场景
Gemma 4 31B 31B 约15 tok/s 18 GB 日常编码,32GB Mac 就能跑
Qwen 3.5 122B 122B(每次只激活10B) 65 tok/s 75 GB 最大吞吐量,需要96GB以上内存
DeepSeek V4 Flash 284B(每次激活37B) 约32 tok/s 81 GB 超长上下文,支持100万 token

Qwen 速度快是因为它用了 MoE 架构,122B 参数里每次只激活 10B。DeepSeek V4 Flash 更大,但每次只激活 37B,而且自带磁盘 KV 缓存,25K token 的系统提示只需要预填充一次。

DeepSeek V4 Flash 走的是 Antirez(Redis 作者)写的 ds4 引擎,纯 C 加 Metal 内核,代码量不大。项目方测试过,本地 DeepSeek 在同一台 MacBook 上跑同一个提示,完成时间比云端 Claude 还快。

另外,项目团队自己在 HuggingFace 上发布了经过 abliteration 处理的 MLX 模型权重。Abliteration 会移除模型内置的拒绝方向,让它不那么容易拒绝正常但措辞敏感的请求,但这不是能力增强,许可证仍然跟随上游模型。

四种运行模式

项目提供四种使用方式,每种都有对应的双击启动器:

Code 模式:用本地模型跑 Claude Code,体验和云端版一样,只是模型换成了本地的。启动器包括 Claude Local.commandGemma 4 Code.commandLlama 70B.command

Browser 模式:本地 AI 通过 Chrome DevTools 协议控制 Brave 浏览器,可以自动打开网页、点击按钮、填写表单。启动器是 Browser Agent.command

Hands-Free Voice 模式:对着麦克风说话,AI 用克隆的语音回复你,整个过程都在设备上完成。需要配合 NarrateClaude 项目使用。

Phone 模式:通过 iMessage 发送文字、图片或视频,AI 处理后把结果发回来。

README区域截图

数据安全

这个项目在隐私方面做到了位:代码不离开本机,不发遥测数据,不做匿名分析。所有推理都在 Apple Silicon 的 GPU 上完成。

对于处理敏感信息的行业,比如律师、会计、医生、心理咨询师,本地运行意味着客户数据不会经过任何第三方服务器。

安装和使用

项目需要一台 Apple Silicon Mac(M 系列芯片)。安装步骤:

从项目仓库克隆代码后,进入目录运行安装脚本:

bash scripts/setup.sh

选择模型后,双击对应的 .command 启动器就行。也可以用命令行:

MLX_MODEL=divinetribe/gemma-4-31b-it-abliterated-4bit-mlx \
  bash scripts/start-mlx-server.sh

本地 AI 的实际表现

项目做了几个对比测试。在极光绘制任务中,四个引擎跑同一个提示,Qwen 3.6 27B 生成了 5,262 个 token 用时 163 秒,DeepSeek V4 Flash 生成 3,879 个 token 用时 115 秒,云端 Claude 用了 110 秒,Gemma 31B 生成 2,001 个 token 用时 83 秒。四个引擎里有三个完全在本地运行。

在 HTML 物理模拟的对比中,Gemma 31B 用时 56 秒,云端 Claude 22 秒,Llama 70B 2 分 17 秒。三个里有两个完全离线完成。

本地模型的速度比不上云端 Claude,但换来的是数据不出本机。对很多场景来说,这个交换是值得的。

四部分本地优先架构

这个仓库是整个系统的"大脑",整个架构分四个部分:

  • Brain(本仓库):AI 推理引擎
  • Ears+Mouth:语音输入输出
  • Hands:浏览器控制
  • Phone:iMessage 集成

每个仓库独立可用,组合在一起就能让 Claude Code 脱离键盘和屏幕。作者还提供了预配置的 Mac mini 硬件方案(AirGap Box),开箱即用,一次性付费,没有订阅。

适合谁

  • 想用 Claude Code 但不想把代码传到云端的开发者
  • 处理敏感数据、有合规要求的专业人士
  • 想在本地测试不同 AI 模型表现的技术人员
  • 对 AI 隐私有要求的个人用户

不需要联网,不需要 API Key,不需要每月付费。一台 MacBook,一个项目,三个模型,四种模式。

不同 AI 模型表现的技术人员

  • 对 AI 隐私有要求的个人用户

不需要联网,不需要 API Key,不需要每月付费。一台 MacBook,一个项目,三个模型,四种模式。

Logo

中国智能体开发者社区,聚焦智能体与大模型开发,提供前沿资讯、实用工具链、开源项目及行业案例。通过技术沙龙、开发者大赛等活动,促进经验交流与协作,助力开发者快速构建创新智能应用。

更多推荐