如何监督AI异常？

监督AI异常的关键在于建立有效的监控机制。可以简单理解为“看、测、查”三步：

1. 看行为：定期检查AI的输出是否偏离预期。比如，一家客服AI突然回复不礼貌或重复错误信息，就是异常信号。
2. 设指标：定义具体的异常阈值。例如，准确率下降超过5%、响应时间突然变慢、或用户投诉率上升，都需触发警报。
3. 查源头：用日志追踪AI的决策过程。比如，一个推荐系统持续推荐无关商品，可以检查是训练数据有误，还是模型参数被篡改。

本质是“人做裁判，AI当运动员”——人通过规则和测试，来判断AI是否跑偏。