让AI自动化控制电脑的一切操作automation-mcp
摘要:自动化MCP是一款为AI模型提供完整macOS桌面自动化能力的服务器,支持鼠标控制、键盘输入、屏幕捕获、窗口管理等操作。安装方式包括使用furi工具快速部署或常规Bun运行时安装。使用前需授予辅助功能和屏幕录制权限。该工具采用本地安全运行模式,提供跨平台自动化支持,可轻松与Claude Desktop等应用集成。包含详细API文档和故障排查指南,项目开源地址:https://github.c
✨ 什么是自动化 MCP?
自动化 MCP 是一个模型上下文协议(MCP)服务器,为AI模型提供完整的 macOS 桌面自动化能力。它使AI助手能够:
-
🖱️ 控制鼠标(点击、移动、滚动、拖拽)
-
⌨️ 输入键盘指令(包括系统快捷键)
-
📸 截取屏幕截图并分析内容
-
🪟 管理窗口(聚焦、移动、调整大小、最小化)
-
🎯 通过坐标与UI元素交互
-
🎨 分析屏幕颜色并高亮区域
-
🔍 等待图像出现在屏幕上
正经ai研究所
,赞4
🚀 快速开始
确保已安装 furi,然后运行以下命令:
ounter(linefuri add ashwwwin/automation-mcp
接着运行:
ounter(linefuri start automation-mcp
即可完成!(或直接使用furi桌面应用无需命令行)。
🥲 常规安装(不使用furi)
先决条件
-
Bun 运行时 - 安装命令:
curl -fsSL https://bun.sh/install | bash
1. 克隆与安装
ounter(lineounter(lineounter(linegit clone https://github.com/ashwwwin/automation-mcp.gitcd automation-mcpbun install
2. 启动服务器
ounter(lineounter(lineounter(lineounter(lineounter(line# 使用HTTP传输启动(推荐用于Web应用)bun run index.ts# 或使用stdio传输启动(适用于命令行工具)bun run index.ts --stdio
3. 授予权限
首次运行时,macOS会请求权限。必须授予这些权限以确保完整功能:
-
辅助功能 - 允许键盘/鼠标控制
-
屏幕录制 - 启用截图和屏幕分析
或手动在以下位置启用:系统设置 → 隐私与安全性 → 辅助功能/屏幕录制
🛠️ 可用工具
🖱️ 鼠标控制
-
mouseClick- 在坐标处点击左/右/中键 -
mouseDoubleClick- 在坐标处双击 -
mouseMove- 移动光标至指定位置 -
mouseGetPosition- 获取当前光标位置 -
mouseScroll- 向任意方向滚动 -
mouseDrag- 从当前位置拖拽至目标位置 -
mouseButtonControl- 按下/释放鼠标按钮 -
mouseMovePath- 沿多点平滑路径移动
⌨️ 键盘输入
-
type- 输入文本或按键组合 -
keyControl- 高级按键按下/释放控制 -
systemCommand- 常用快捷键(复制、粘贴、撤销、保存等)
📸 屏幕捕获与分析
-
screenshot- 截取全屏、区域或特定窗口 -
screenInfo- 获取屏幕尺寸 -
screenHighlight- 视觉高亮屏幕区域 -
colorAt- 获取任意像素颜色 -
waitForImage- 等待图像出现(模板匹配)
🪟 窗口管理
-
getWindows- 列出所有打开窗口 -
getActiveWindow- 获取当前活动窗口 -
windowControl- 聚焦、移动、调整大小、最小化窗口
🔧 架构
核心组件
-
FastMCP 服务器 - 处理MCP协议通信
-
nut.js 集成 - 跨平台桌面自动化(自定义构建)
-
平台权限管理 - 原生权限处理(macOS/Windows/Linux)
-
屏幕工具 - 截图与分析工具
-
备用系统 - 平台特定实现(必要时)
🔒 安全与权限
平台特定权限
macOS
-
辅助功能 - 需要用于:
-
鼠标点击与移动
-
键盘输入模拟
-
窗口管理
-
-
屏幕录制 - 需要用于:
-
截取屏幕截图
-
屏幕分析
-
颜色检测
-
权限处理
服务器自动:
-
检测支持平台上缺失的权限
-
请求权限授予(macOS)
-
尽可能提供备用功能
-
显示清晰的平台特定权限说明
安全说明
-
仅限本地运行(无网络访问)
-
需要显式权限授予
-
可限制为特定应用程序
-
所有操作均被记录
🚀 集成示例
与 Claude Desktop + furi
如果已配置furi与Claude Desktop,无需额外操作。
在MCP配置中添加:
ounter(lineounter(lineounter(lineounter(lineounter(lineounter(lineounter(lineounter(line{"mcpServers": {"furi": {"command": "furi","args": ["connect"]}}}
与 Claude Desktop
在MCP配置中添加:
ounter(lineounter(lineounter(lineounter(lineounter(lineounter(lineounter(lineounter(line{"mcpServers": {"automation": {"command": "bun","args": ["run", "/path/to/automation-mcp/index.ts", "--stdio"]}}}
🐛 故障排除
常见问题
权限被拒绝错误
-
确保已授予辅助功能和屏幕录制权限
-
确保安装Xcode命令行工具:
xcode-select --install
🙋♂️ 支持
遇到问题?请查看故障排除部分或提交问题,包括:
-
操作系统及版本
-
错误信息
-
重现步骤
祝您自动化愉快!🎉 让您的AI以前所未有的方式控制计算机。
项目地址
https://github.com/ashwwwin/automation-mcp/blob/main/README.md
火山引擎开发者社区是火山引擎打造的AI技术生态平台,聚焦Agent与大模型开发,提供豆包系列模型(图像/视频/视觉)、智能分析与会话工具,并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长,新用户可领50万Tokens权益,助力构建智能应用。
更多推荐
所有评论(0)