工具介绍
核心功能
Fiddler AI 为传统机器学习模型和生成式 AI 系统提供生产可观测能力。团队可监控模型性能、数据漂移和异常，分析预测背后的因素，并为 LLM 或 Agent 追踪质量、安全及行为变化。治理视图用于汇总模型资产、指标和责任信息，使工程、风险与业务人员能够围绕同一运行证据开展调查。
适合场景
信贷或欺诈模型团队可观察输入分布与预测变化，AI 客服团队可追踪回答质量和安全事件，模型风险管理人员则能检查生产系统是否符合既定验证标准。对大量模型同时上线的企业，统一告警与解释工具有助于缩短从发现异常到定位版本和数据来源的时间。
使用边界
解释方法描述模型如何形成预测，不等于证明预测公平、正确或具有因果关系。没有真实标签时，生产质量往往只能通过代理指标观察。团队应针对模型用途设置不同阈值，并由业务和风险人员判断影响；敏感输入进入监控平台前还要完成数据最小化和访问控制。
常见问题
Fiddler AI 能监控传统模型吗？
可以，其覆盖对象包括传统机器学习与生成式 AI 系统，但所需指标和解释方式并不相同。
模型解释能证明决策没有偏见吗？
不能。解释只是审查线索，公平性还需合适数据、群体指标、政策判断和持续影响评估。
告警阈值应该统一设置吗？
不应统一，高风险决策、内容生成和内部辅助工具的容忍度不同，应按用途和损害程度设定。
