工具介绍
核心功能
Helicone 位于 AI 应用与模型服务之间，通过代理网关或 SDK 记录每次 LLM 请求。控制台展示 token、成本、延迟、错误、用户与会话信息，开发者可以追踪异常调用、比较模型并分析功能使用情况。平台还提供提示词管理、数据集、评测、缓存和速率控制。
AI Gateway 使用兼容 OpenAI 的接口连接多家模型提供商，支持路由和故障切换。团队既可使用托管服务，也可根据开源项目自行部署，适合对数据控制有额外要求的环境。
适合场景
上线聊天机器人或 Agent 的团队可以监控成本突增、慢请求和模型错误；开发阶段可把真实样本整理成数据集，用于比较提示词与模型版本。多供应商应用还能通过网关统一鉴权和切换策略。
如果需要定位某个用户为何连续得到差答案，按会话查看完整链路会比只看服务器日志更直观。团队应提前设计用户、环境和功能标签，便于后续过滤。
使用边界
可观测平台可能接触提示词、模型输出和用户标识，接入前必须配置脱敏、采样、保留周期与访问权限。调试方便不代表可以无条件保存客户对话，受监管数据尤其需要评估部署地区和自托管方案。
网关增加了依赖层，应为自身故障、上游超时和路由错误设置告警及降级。自动评测也只能覆盖已定义指标，不能替代真实用户反馈。
常见问题
Helicone 必须修改大量应用代码吗？
通常可通过代理地址或 SDK 接入，但具体改动取决于现有模型供应商和框架。
Helicone 能统一调用不同模型吗？
AI Gateway 提供兼容接口、路由和故障切换，但各模型能力与参数差异仍需处理。
自托管能解决所有隐私问题吗？
不能，团队仍需设置日志字段、脱敏、权限、备份和数据保留规则。
