AI安全

2026 年 8 月 18 日，OpenAI 宣布因即将推出的 Astra 模型触及《预备框架》下的关键网络安全能力阈值，暂停最新部署模型的强化学习训练两周，并搁置最大规模前沿 RL 运行；公司同步扩展思维链监控和多阶段激活分类器检测。本文分析这次减速对开发者、监管和模型迭代节奏的实际影响。

OpenAI 发布内部自动化红队模型 GPT-Red，在一项未见过的间接提示注入测试中取得 84% 攻击成功率。本文解释其训练方式、对 GPT-5.6 的加固效果和适用边界。

解释 WorkBuddy 读取和修改本地文件的权限边界、默认权限与完全访问权限的区别，并给出处理合同、客户资料和重要文件时的安全做法，避免误删、覆盖和敏感信息外泄。

Anthropic 2026 年 6 月 12 日称因美国政府出口管制指令暂停 Fable 5 和 Mythos 5 访问，事件显示前沿模型安全监管开始影响真实客户使用。

Hermes Agent 部署到 VPS 可以远程使用，但必须先处理用户授权、危险命令审批、容器隔离和密钥管理。

Hermes Agent 接 MCP 后工具过多会增加误用风险，应优先暴露少量必要工具并设置过滤。

AI Agent 可以自动执行任务，但不建议一开始就给它完整权限。更稳的做法是先设置 4 个确认点：读数据可以自动，改数据要确认；小范围可以自动，大范围要确认；低风险工具可自动，高风险工具要确认；任务结束前必须展示执行摘要。 这样既能保留自动化效率，也能避免误删文件、错发消息、覆盖配置或把错误内容提交到线上系统。 确认...