2026年10月30日,Google在Gemini API更新日志中宣布,Computer Use工具进入正式可用阶段,覆盖Interactions API和GenerateContent API。开发者可以用它让模型看屏幕截图、生成点击与键盘操作,在浏览器、手机和桌面环境里替用户完成多步任务。这次变化的关键不在于多了一个新功能:接口进入正式可用,意味着团队可以按生产标准接入,但模型只负责看屏和决策,真正执行动作、截图回传、确认拦截的运行环境,仍然要开发者自己搭建。
正式可用之后,工具本身能做什么
按Google官方文档的说法,Computer Use面向的是浏览器、手机和桌面三类控制场景。模型拿到当前屏幕截图后,会返回一个带坐标的操作建议,例如点击、滚动或输入文字,客户端执行后把新截图发回去,循环直到任务完成或终止。Gemini 4和Gemini 3.x模型还会在每一步附上说明操作意图的字段,安全系统则把动作分成允许、需要确认和拦截三档。开发者还可以打开提示词注入检测,让工具扫描截图里藏着的对抗指令。这些能力决定了它不是聊天框里的附加功能,而是一套需要接进自动化流程的开发工具。
开发者真正要搭的东西,比调用接口多得多
官方文档把前提写得很直接:智能体必须跑在隔离的沙箱虚拟机或容器里,客户端要自己实现坐标换算、动作执行和截图采集,示例里用的是Playwright操作浏览器。模型返回的坐标是归一化坐标,执行前要按实际视口换算;安全系统判为需要确认的动作,必须等用户确认后才能执行,判为拦截的动作要停下来处理。换句话说,正式可用解决的是接口稳定性问题,部署、权限、审计和兜底流程,仍然是接入团队的工程量。先在低风险任务上跑通这条链路,比直接把高权限操作交给模型更划算。
先从哪些任务试起,哪些先别放手
重复填表、网站流程测试、跨站比价和资料搜集,是最容易验证价值的起点:步骤固定、出错可撤销、结果容易核对。涉及付款、删除、改账号权限的操作,以及页面内容来自不可信来源的任务,要先开注入检测、保留人工确认,并且限制智能体能接触的数据范围。更新日志本身只宣布了正式可用,没有同时公布价格或支持模型范围的变化,接入前要以官方文档和实际接口返回为准。接下来值得看的,是团队在真实业务流程里跑出的稳定性数据,而不是演示里的一次成功操作。