AI导航

Gemini Computer Use进入正式可用:让AI看屏操作电脑,开发者自己搭执行环境

AI资讯
2 min read
10 次阅读

2026年10月30日,Google在Gemini API更新日志中宣布,Computer Use工具进入正式可用阶段,覆盖Interactions API和GenerateContent API。开发者可以用它让模型看屏幕截图、生成点击与键盘操作,在浏览器、手机和桌面环境里替用户完成多步任务。这次变化的关键不在于多了一个新功能:接口进入正式可用,意味着团队可以按生产标准接入,但模型只负责看屏和决策,真正执行动作、截图回传、确认拦截的运行环境,仍然要开发者自己搭建。

正式可用之后,工具本身能做什么

按Google官方文档的说法,Computer Use面向的是浏览器、手机和桌面三类控制场景。模型拿到当前屏幕截图后,会返回一个带坐标的操作建议,例如点击、滚动或输入文字,客户端执行后把新截图发回去,循环直到任务完成或终止。Gemini 4和Gemini 3.x模型还会在每一步附上说明操作意图的字段,安全系统则把动作分成允许、需要确认和拦截三档。开发者还可以打开提示词注入检测,让工具扫描截图里藏着的对抗指令。这些能力决定了它不是聊天框里的附加功能,而是一套需要接进自动化流程的开发工具。

开发者真正要搭的东西,比调用接口多得多

官方文档把前提写得很直接:智能体必须跑在隔离的沙箱虚拟机或容器里,客户端要自己实现坐标换算、动作执行和截图采集,示例里用的是Playwright操作浏览器。模型返回的坐标是归一化坐标,执行前要按实际视口换算;安全系统判为需要确认的动作,必须等用户确认后才能执行,判为拦截的动作要停下来处理。换句话说,正式可用解决的是接口稳定性问题,部署、权限、审计和兜底流程,仍然是接入团队的工程量。先在低风险任务上跑通这条链路,比直接把高权限操作交给模型更划算。

先从哪些任务试起,哪些先别放手

重复填表、网站流程测试、跨站比价和资料搜集,是最容易验证价值的起点:步骤固定、出错可撤销、结果容易核对。涉及付款、删除、改账号权限的操作,以及页面内容来自不可信来源的任务,要先开注入检测、保留人工确认,并且限制智能体能接触的数据范围。更新日志本身只宣布了正式可用,没有同时公布价格或支持模型范围的变化,接入前要以官方文档和实际接口返回为准。接下来值得看的,是团队在真实业务流程里跑出的稳定性数据,而不是演示里的一次成功操作。

推荐工具

NVIDIA Chat with RTX AI聊天 Chat with RTX 是 NVIDIA 面向 RTX 电脑的本地 AI 聊天工具,可围绕本地文档和视频资料做问答,适合重视隐私、离线检索并具备硬件条件的用户更适合资料不便上传云 HuggingChat AI聊天 HuggingChat 是 Hugging Face 的开源模型聊天应用,支持 Omni 自动选模型,也可手动选社区开放模型对话。它适合体验开源模型、技术探索和问答,结果可能不稳定,重要内容需复核。 纳米AI搜索 AI搜索 纳米AI 是 360 旗下 AI 搜索和智能体入口,支持文字、语音、拍照提问、多模型协作与内容创作,适合中文用户做日常搜索、学习问答、移动查询、热点追踪、生活决策、知识整理和轻量创作。 Qwen Chat(通义千问) AI聊天 Qwen Chat 是Qwen 大模型聊天助手,支持Qwen 模型聊天、写作和编程问答,适合中文用户和开发者完成 AI 对话、资料问答和任务协作,适合上线前核对权限、成本和资料质量。 DuckDuckGo AI Chat AI聊天 DuckDuckGo AI Chat 适合重视隐私的普通用户使用,围绕隐私 AI 聊天、免账户使用和多模型问答提供对话式 AI 支持和任务协作能力,适合上线前核对权限、成本和资料质量。 Goody-2 AI聊天 Goody-2 是以极端安全和伦理对齐为特色的 AI 聊天助手,常用于观察模型拒答边界、内容安全策略、保守输出体验和 AI 风险讨论,更适合作为安全边界样本使用前应理解它偏实验性质,不适合。