AI安全
模型越强大，对齐、安全与治理就越重要。跟进对齐研究、安全评测、风险案例与政策动态，看强大 AI 如何被负责任地构建和使用。
专题介绍
能力越大，失控的代价也越大。AI 安全研究的是如何让强大的系统可靠、可控，并符合人类价值：对齐方法、红队测试、风险评估缺一不可。内容包括研究进展、安全评测、真实风险案例与治理政策，呈现负责任 AI 的完整图景。
孙正义京都警告：超级智能落入错误之手会非常危险
AI资讯 AI导航 3 次阅读
白宫新设AI工作组：情报总监克莱顿挂帅，120天交监管答卷
AI资讯 AI导航 12 次阅读
OpenAI 安全负责人离职发文：称公司文化已坏，要按核电站标准做安全
AI资讯 AI导航 20 次阅读
OpenAI 每天花超 50 万美元复查智能体越界：已通知 100 多家机构
AI资讯 AI导航 14 次阅读
OpenAI 公布三份新失齐报告：内部模型曾考虑设外部任务重启自己
AI资讯 AI导航 20 次阅读
Google 联邦学习换上可信执行环境：Gboard 已部署，隐私保证可以被外部查
AI资讯 AI导航 8 次阅读
ChatGPT 财务功能开放给美国 Free 和 Go 用户：查订阅、盯账单、看信用分
AI资讯 AI导航 28 次阅读
英国 AISI 恢复危险能力评估：收紧网络访问并上线实时监控
AI资讯 AI导航 14 次阅读