跳到主要内容

Computer Use:让 AI 操作屏幕

1. 关于本文​

Computer use(计算机使用)是指 AI 智能体查看您屏幕的截图,代替您使用鼠标和键盘。智能体会打开菜单、点击按钮、在窗口中输入数值,并再次通过屏幕截图检查结果。

何时使用?原因
您的 StatiCAD 版本没有终端通道时(Profesyonel、Standart、Betonarme、Yığma)智能体只能通过屏幕操作程序。
没有终端命令的工作如对话框中的设置、选择、移动、视图和报告预览。
目视检查让智能体亲眼在平面图和三维视图中检查它所建立的模型。
信息

有终端时优先用终端:与终端命令相比,computer use 慢得多,还可能点错。在 Ultimate 和 Hybrid 中,智能体应优先使用终端命令,只在必要时才切换到屏幕操作。Claude Code 文章中的第一个提示词已经说明了这一点。

2. 使用哪些工具?​

工具在 Windows 上的情况所需套餐
Claude 桌面应用(Claude Code)支持(研究预览版)。Claude Pro 或 Max
OpenAI Codex支持;在 Windows 上前台运行。在欧洲经济区、英国和瑞士不可用。ChatGPT 套餐
Google Antigravity对桌面程序的支持没有文档说明。—

3. 准备电脑​

  1. 将屏幕缩放设为 100%,分辨率尽可能设为 1920×1080(Windows 设置 › 系统 › 屏幕)。StatiCAD 用户指南和 AGENTS.md 都是按这一设置编写的;较大的缩放比例会增加点错的概率。
  2. 打开 StatiCAD,并将窗口放大到占满屏幕;确保已插入加密锁。
  3. 关闭不需要的窗口。特别是电子邮件、网上银行、密码管理器等会显示个人信息的窗口,请务必关闭。
  4. 暂时关闭 Windows 通知(专注助手 / 请勿打扰);弹出的通知可能会干扰点击。

4. 在 Claude 中开启 computer use​

  1. 更新 Claude 桌面应用(如果 Claude 没有自动更新,请从 claude.com/download 重新安装)。
  2. 在 Settings(设置)› 桌面应用(Desktop app)部分中开启 Computer use 开关。在 Windows 上,该设置立即生效。
  3. 在 Code 选项卡中开启会话(Claude Code,第 6 步)。
  4. Claude 第一次要使用屏幕时,会询问它要使用哪些应用;请允许 StatiCAD。需要时,它还会就其他应用另行询问。
信息

权限级别:对于您允许的应用,Claude 可以完全使用。出于安全考虑,对于网络浏览器它只能查看,在终端和代码编辑器中它只能点击(不能输入)。您允许的应用仅限于当前会话。

5. Codex 中的 computer use​

  • 在 Codex 应用的设置中开启计算机使用(computer use)功能。
  • 在 Windows 上,Codex 使用屏幕时窗口会切换到前台;此时请不要触碰鼠标和键盘。
  • 安装与账户:ChatGPT(Codex)文章。

6. 提示词示例​

Ultimate 和 Hybrid:终端 + 必要时使用屏幕。Claude Code 文章中的提示词就足够了:

请阅读 C:\StatiCAD\Ultimatex64 文件夹中的 AGENTS.md 和 YARDIM_AI_KOMUTLAR.md 文件,我希望你通过终端、必要时通过 computer use 使用该程序(StatiCAD.exe)来创建我的项目。

没有终端通道的版本(以 Profesyonel 为例;请根据您的版本修改文件夹名称:V10StdX64、BAV10、YigmaV10ProX64、YigmaV10StdX64;Betonarme 的程序文件为 StatiCAD-Betonarme.exe,Yığma 为 StatiCAD-Yigma.exe):

我使用的是 StatiCAD Profesyonel;程序文件为 C:\StatiCAD\V10ProX64\StatiCAD.exe。此版本没有终端通道,你将通过 computer use 在屏幕上操作程序。
- 先查看 C:\StatiCAD\V10ProX64 文件夹中是否有 AGENTS.md,有就阅读;没有就通过读取屏幕来进行。
- 如果程序已打开,不要再次启动。每次点击之前,先用屏幕截图确认目标。
- 覆盖已有文件和关闭程序之前,先问我。
准备就绪后,截取主界面的截图,简要说明你看到了什么,然后问我想做什么。
信息

智能体指令文件:为智能体准备的指令文件(AGENTS.md 以及专门针对 computer use 的工作指南:识别屏幕状态、可靠点击、等待点、常见错误)只包含在 Ultimate 安装中。在其他版本中,上面的提示词会自行把这些文件中最必要的规则告诉智能体。

会话进行中,要引导智能体使用屏幕:

对于无法用终端命令完成的工作,请使用 computer use:先截取屏幕上 StatiCAD 窗口的截图,再打开相关的菜单或窗口。如果有对话框没有关闭,终端命令会一直等待;请检查并关闭该对话框。工作结束时,截取三维视图的截图,并向我总结你对模型的检查情况。

7. 智能体工作时​

  • 不要触碰鼠标和键盘;智能体的点击会与您的操作混在一起。
  • 在对话窗口中观察智能体在做什么。如果它进入了错误的窗口或菜单,请用停止按钮中断工作,并重新写出它应该做什么。
  • 如果 StatiCAD 中发生了不需要的更改,请在停止后用 Ctrl+Z 撤销。
  • 让智能体在重要步骤(例如分析完成时、报告预览时)截取屏幕截图,并总结它看到的内容。

8. 安全​

危险

您是在让别人使用您的屏幕:

  • 智能体只能使用您允许的应用;在允许 StatiCAD 以外的应用之前,请先问清原因。
  • 不要让智能体输入密码、银行卡信息或身份证号码;如果看到这样的请求,请停止工作。
  • 屏幕上显示的一切(打开的文档、通知)都会进入发送给 AI 公司的截图中。请关闭保密信息。
  • 如果智能体看到“未找到加密锁”(Kilit Bulunamadı)之类的许可警告,应停下来通知您;加密锁和许可方面的操作请您亲自处理。

9. 故障排除​

现象原因和解决方法
智能体点错位置屏幕缩放不是 100%,或者窗口太小。请将缩放设为 100%,放大 StatiCAD 窗口;并让智能体在每次点击前用屏幕截图确认。
看不到 computer use 选项应用不是最新版本,或者套餐不符合要求(Claude 需要 Pro/Max)。请更新后重试。
智能体找不到土耳其语菜单请告诉它菜单名称(例如“Analiz(分析)菜单中的 STATIK ANALIZ YAP(进行静力分析)”),或者让它阅读 AGENTS.md(位于 Ultimate 文件夹中)。
智能体卡在某个窗口中可能有未关闭的询问或警告窗口。请让它检查该窗口,或者由您自己关闭。
Codex 运行时无法使用电脑在 Windows 上 Codex 在前台运行;请等待工作完成。

Anthropic、OpenAI 和 Google 服务的套餐、价格和菜单名称可能随时间变化;最新信息请参阅所链接的官方页面。AI 建立的模型及其生成的结果必须由负责工程师检查。