验证 AI 模型时,应根据使用目的划分评估资料。在甲烷数据分析中,将同一农场相邻时点的数据混合后得出的性能,可能不同于模型在其他农场的实际表现。《证明碳减排的技术与解决方案》第 8 章强调学习与评估之间的界限,以及与简单基准模型的比较。

先明确概念与适用范围

有必要将用于模型选择的资料与用于最终性能确认的资料区分开来。如果在比较多种方法时反复使用同一批资料,却把它当作最终评估结果,就可能高估实际应用性能。应先根据使用目的制定评估流程。现场的数据分布和运行条件可能发生变化,因此要记录变化检测标准、重新评估流程和停用程序。除了性能指标,也应检查错误预测会导致什么行动及其成本。

报告(R)负责记录背景和计算过程。应完整记录从原始数据按何种规则处理,到得出何种结论的全过程。包括如何填补缺失值、依据什么标准排除异常值、使用了哪个模型的哪个版本,以及如何估算不确定性。报告质量应以能否复现来评判,而非结论是否醒目。

系统边界是确定哪些排放源、气体、期间和组织纳入计算的规则。如果边界不清,即使讨论同一减排量,各方也可能期待不同的结果。应确认适用方法学的纳入与排除规则及重要性标准,并在报告开头注明结果反映的是整个农场,还是某个特定排放源。

基于排放因子的基准线也是一种选择。IPCC Tier 1 使用默认因子;肠道发酵 Tier 2 则更详细地纳入饲养特征、总能量摄入和甲烷转化率等因素。仅凭平均因子可能难以捕捉单个农场的技术效果,但使用因子本身并不意味着不符合补偿要求。判断标准在于,是否采用适用方法学允许的因子和活动数据,确认适用条件,处理不确定性并进行核查。

切实可行的发展路径,是同步积累浓度观测和基准排放率测量数据,并关联通风、气象、饲养头数和饲料信息。应在未用于模型开发的农场和期间评估预测误差,并明确适用范围。即使同步观测数据增多,如果缺乏代表性或存在共同偏差,模型的可信度也不会自然提高。

采食和反刍造成的甲烷排放在一天之内也会变化。峰值出现时间会因饲料、饲喂方式和个体行为而异,不能固定为某个几十分钟的时段。记录之间的时间误差以及管路传输延迟,应控制在远小于所分析变化的时间尺度。

如果无法确认时间基准,应先估算误差和延迟的大小,并评估它们对分析的影响。对按日汇总而言很小的误差,在按分钟分析事件时可能很大。无法修复的数据,应从该时间尺度的联合分析中排除,或限制解读范围,并记录原因。

现场应用的条件与局限

假设某案例将多天的传感器记录随机拆分,用于训练和评估。模型很好地拟合了重复的日内模式,并不意味着它也能说明新农场的条件。面向未来运行的评估与面向跨农场推广的评估,从数据划分方式开始就应该不同。预处理和缺失值处理也不能提前使用评估资料中的信息。

应先划分评估资料。如果将同一农场相邻时刻的数据随机混在一起,模型记住现场重复模式所取得的性能,可能会被误认为是对新农场的性能。如果目的是预测未来运行情况,就按时间顺序划分;如果目的是部署到其他农场,就按农场划分。应区分用于模型选择的验证资料与用于最终性能检查的资料;预处理和缺失值修正也应按在训练资料中确定的规则执行。

AI 评估资料应根据使用目的进行划分。若要预测未来运行情况,应考虑时间顺序;若要部署到其他农场,应考虑按农场划分数据。还应区分用于选择模型的数据与用于最终性能检查的数据。与简单基准模型比较,并检查平均误差以及按农场、季节划分的偏差和失效条件,才能说明实际适用范围。

还要写明出现故障时怎么办。如果校准有效期已过、通信中断,或遇到未经评估的饲料、季节和通风条件,就应限制输出、停止使用或转交负责人。不能因为重新训练了模型就立即恢复使用。应使用独立评估资料确认变更后的模型,并记录适用时间和批准人。模型辅助判断与减排量的外部核查,是两项不同的工作。

投资评估所需的依据

投资者除了平均性能,还应查看按农场和季节划分的误差及持续性偏差。还需要确认,相比现有的简易预测方法,模型具体改进了什么。重新训练后,应使用独立评估资料确认变更后的性能,并记录适用时间和批准人。

数据溯源链说明最终数值来自哪些原始数据,以及经历了哪些转换。应记录设备和通道、生成时间,以及单位换算、校正、滤波和汇总规则。还要保留由谁执行和批准,以及之后因何原因修改了什么内容。原始数据留存与有资质的审查人员能够重新检查处理过程,是需要同时核实的条件。

预先设定试验问题和判断标准,有助于参与者理解记录的目的。即使结果与预期不同,也应保留资料,并分别判断哪些方面可以推广、哪些需要改进或停止。

判断时应保留的标准

模型验证不能以展示高分告终。应使用符合部署目的和失效成本的资料,确认模型的使用范围。对于超出训练范围的条件,需要有重新评估或限制使用的依据。

作者简介

李奉俊毕业于西江大学技术经营研究生院(MOT)。他曾在Infitron Co., Ltd.工作7年,在Honeywell工作20年,累计在气体测量领域从事服务工程、技术销售和渠道管理工作27年。目前,他是AI Safety Korea Co., Ltd.的创始人,正在研究运用传感器、人工智能和数据分析开展畜牧甲烷监测,以及测量、报告与核查(MRV)体系。