AI导航

OpenHands联合Snowflake:不必重建框架,用现有智能体配置直接做模型后训练

AI资讯
2 min read
0 次阅读

2026年11月3日,OpenHands与Snowflake AI Research联合发布了一种做法:开发者不用把已经搭好的智能体框架搬进另一套强化学习框架,就能针对自己的智能体配置对开源权重模型做后训练。沿用的还是原来的提示词、工具、技能和任务定义,变的是模型更适应这套工作方式。

问题出在训练与部署的脱节上。多数模型在通用配置下做后训练,到了具体框架里,就可能调错工具、忽略技能、多走冤枉路,或在预算耗尽前完不成任务。传统强化学习框架往往自带智能体循环与任务结构,开发者要先把现有框架重建一遍,既费工,又可能让训练环境与上线环境不一致。

新流程把三部分拼在一起:OpenHands Agent SDK负责智能体配置,Harbor格式负责任务定义,Snowflake Cortex Training负责GPU算力。每次训练 rollout 都真实执行一次开发者的智能体,配置直接传入;中间代理记录模型每轮实际生成的 token 作为训练数据,提示词和工具结果不计入损失。每个 rollout 在独立的Snowflake Cortex Sandbox里运行,终端与评分器在同一个沙箱内,奖励直接反映执行结果。

上手路径已经做成了一个名为cortex-training-rl的技能,放在OpenHands的extensions仓库里。开发者说清模型、任务目录、技能文件、回合预算和步数,智能体就会完成配置、启动训练、按步汇报奖励,并在完成后释放GPU。本地只在CPU上跑 rollout,训练与采样在Snowflake GPU上进行,默认用4块H200。同一技能也可以在Claude Code和Cursor里使用,运行需要一个开通了Cortex Training的Snowflake账号和一套Harbor任务。

官方用代码定位任务验证:智能体拿到真实Python仓库的 issue,要在10轮内找出需改动的文件、模块和函数,奖励为三级F1之和。团队用Qwen3.5-4B训练了25步,每步64个 rollout,整轮在几小时内完成,结果与专门搭建的强化学习实现相当。限制也要先说清:训练期间智能体只能通过终端改文件,file_editor工具暂不可用,每个命令都在新 shell 里执行,环境变量和后台进程不会保留。已有框架和评测任务的团队可以少重建一套系统;还没有稳定任务集的团队,先搭任务比急着训练更重要。

推荐工具

NVIDIA Chat with RTX AI聊天 Chat with RTX 是 NVIDIA 面向 RTX 电脑的本地 AI 聊天工具,可围绕本地文档和视频资料做问答,适合重视隐私、离线检索并具备硬件条件的用户更适合资料不便上传云 HuggingChat AI聊天 HuggingChat 是 Hugging Face 的开源模型聊天应用,支持 Omni 自动选模型,也可手动选社区开放模型对话。它适合体验开源模型、技术探索和问答,结果可能不稳定,重要内容需复核。 纳米AI搜索 AI搜索 纳米AI 是 360 旗下 AI 搜索和智能体入口,支持文字、语音、拍照提问、多模型协作与内容创作,适合中文用户做日常搜索、学习问答、移动查询、热点追踪、生活决策、知识整理和轻量创作。 Qwen Chat(通义千问) AI聊天 Qwen Chat 是Qwen 大模型聊天助手,支持Qwen 模型聊天、写作和编程问答,适合中文用户和开发者完成 AI 对话、资料问答和任务协作,适合上线前核对权限、成本和资料质量。 DuckDuckGo AI Chat AI聊天 DuckDuckGo AI Chat 适合重视隐私的普通用户使用,围绕隐私 AI 聊天、免账户使用和多模型问答提供对话式 AI 支持和任务协作能力,适合上线前核对权限、成本和资料质量。 Goody-2 AI聊天 Goody-2 是以极端安全和伦理对齐为特色的 AI 聊天助手,常用于观察模型拒答边界、内容安全策略、保守输出体验和 AI 风险讨论,更适合作为安全边界样本使用前应理解它偏实验性质,不适合。