让 AI 操作
你的 iPhone。

用自然语言打开 App、设置闹钟、切换系统设置。连接一块 ESP32-S3,选择支持图片输入的模型,无需越狱。

首次安装需要 Mac 和 Xcode;安装完成后,运行时只需 iPhone 和板子。

ESP32 Agent 的任务输入与已保存任务界面
ESP32 Agent 实际界面与 ESP32-S3 连接示意。
约 7 美元开发板参考价,模型调用另计
iOS 18+USB-C 直连;Lightning 需转换器
视觉模型支持图片输入的 OpenAI 兼容接口

它如何操作手机

板子接收投屏并发送鼠标、键盘输入,手机上的 App 调用模型,决定下一步操作。

了解工作原理
01

看见屏幕

iPhone 通过 AirPlay 向板子投屏。板子再经蓝牙将视频传回同一台手机上的 App。

02

决定下一步

App 把截图发给视觉模型,由规划器和执行器把任务拆解成具体操作。

03

实际动手

板子作为 USB 鼠标和键盘,通过辅助触控移动指针,完成点按、滑动和输入。

看看它如何设置重复闹钟

告诉它时间和重复日期,Agent 会打开时钟、修改闹钟。运行结束后,你可以逐步回放,检查每次操作。

“设置早上 8:00 的闹钟,每周一和周二重复,然后保存。”

查看演示说明与任务示例
连接 ESP32-S3 的真实 iPhone 正在执行闹钟任务,旁边是旧版 Agent 界面
此演示来自使用电脑的 v0.1.0;当前版本在 iPhone App 内运行。

按这三步完成搭建

跟随完整指南安装,或直接查看你需要的步骤。

先确认它适合你的任务

目前支持竖屏 App 和 ASCII 键盘输入。运行时需要保持手机解锁;密码输入、Apple Pay 和受保护视频等画面无法被看到。

查看设备要求与使用限制

常见问题

还需要 Mac 吗?

首次搭建需要。当前文档使用 Mac 刷写开发板,并在 Xcode 中编译安装 iPhone App。安装完成后,运行时只需 iPhone 和板子。

全部成本只有 7 美元吗?

不是。这只是已测试开发板的大致价格。你还需要 iPhone、首次安装使用的 Mac,以及视觉模型接口。转换器、蜂窝数据和模型调用也可能产生费用。

需要给 iPhone 越狱吗?

不需要。板子通过 AirPlay 屏幕镜像获取画面,通过标准 USB 鼠标、键盘和 iOS 辅助触控执行操作。

可以完全离线运行吗?

当前方案用板子的 Wi-Fi 热点投屏,用蜂窝数据访问模型。即使模型是自行部署的,也需要提供手机能够访问的服务地址。

准备好设备了吗?

按指南刷写固件、安装 App,并验证你的第一条任务。

查看完整搭建指南