传感器图表上出现空白时,人们往往会想尽快把它补上。但我建议也看看空白为何出现。这是《证明碳减排的技术与解决方案》第8章讨论的碳数据质量问题。传感器数据缺失有时只是带来不便,也可能是与结果有关的信号,例如设备故障或停止饲喂。

先从书中区分几个概念

不妨把补齐缺失数据的方法也视为资料的一部分,并记录根据什么规则估算了多长的缺失区间。预先设定处理标准,有助于避免看过结果后才挑选有利的方法。修改观测值本身并没有错,但必须能够确认修改原因和适用范围。将原始数据与补齐后的数据区分开,也有助于他人重新检查结果。

报告(R)负责记录背景和计算过程。应将原始资料依据什么规则处理、如何得出结论的全过程形成文档。这里包括如何填补缺失值、依据什么标准排除异常值、使用了哪个模型的哪个版本,以及如何估算不确定性。报告质量取决于能否复现,而不是结论写得多么漂亮。

季节。夏季和冬季的采食量、饲料组成及通风条件不同,简单的前后差异就可能混入季节影响。不要把这些差异一概归因于技术效果或季节因素,应评估比较设计和校正是否合理。

质量控制(QC)是在数据收集和核算过程中检查一致性、完整性和错误的活动。质量保证(QA)则包括审查体系和结果是否达到既定质量目标。规划阶段的预防、执行过程中的检查和结果审查应相互补充。具体职责和程序应符合适用指南,不要把QA狭义地理解为仅做预防,也不要把QC局限为事后修正。

浓度是气体在空气中的比例,排放率则是单位时间内排出的质量。要测量或估算排放量,必须将符合目的的浓度、流量和测量模型联系起来。即使浓度下降,如果空气流动量增加,也不能断定质量排放率会朝同一方向变化。将随时间变化的排放率换算成排放量时,还要处理测量期间和数据缺失时段。

如果时间基准尚未确认,应先估算误差和延迟的大小,并评估其对分析的影响。对按日汇总来说可能很小的误差,在按分钟分析事件时可能很大。对于无法恢复的数据,应将其从相应时间尺度的联合分析中排除,或限制解读范围,并记录原因。

AI可用于寻找异常迹象的候选项、在规定条件下估算短时缺失数据,以及探索多个变量之间的关系。它也可以辅助整理资料、检查质量和起草报告。不同功能的目的和失败成本各不相同,因此不能用同一性能指标评估所有功能。应说明结果依据哪些输入和假设生成,并将估算值与直接观测值区分开来。

在现场可以这样考察

想想通信短暂中断和设备发生故障这两种情况。它们在屏幕上都可能显示为空白,但是否可以用同一种方式补齐,并不一定。应检查观测缺失的原因、持续时间以及当时的运行状态。如果通过估算补上,也应与直接测量值区分开来。

AI可以整理观测数据并估算缺失值。它的价值不在于掩盖估算这一事实,而在于说明使用了哪些资料和假设,在什么范围内生成了可信的数值。

先划分评估资料。如果把同一农场相邻时刻的数据随机混在一起,模型记住现场重复模式的表现就可能被误认为适用于新农场的能力。如果目的是预测未来运行情况,应按时间顺序划分;如果要推广到其他农场,则按农场划分。用于模型选择的验证资料,应与最后一次性能确认资料分开;预处理和缺失值补齐也应按从训练资料中确定的规则执行。

最后还要考虑隐私和数据权利。农场数据可能与个体信息、生产绩效和财务信息相连。如果这些数据超出减排核查目的,被再次用于金融、保险或营销,农场就会失去信任。正如第1章提到的,一旦失去信任,数据质量也会随之下降。因此,目的限制、单独取得同意、分级设置访问权限和异议申诉程序,与技术安全同样重要。第12章的合同讨论和政策建议第12项会具体说明这类设计。

投资审查时也一起问问?

拿到资料后,除了缺失率,也请询问排除或补齐数据所采用的规则。应用这些规则后,结论会改变多少也很重要。传感器、饲喂设备和通风控制器的时钟是否一致,也是容易漏查的事项。如果把不同时间点的资料当成同一情形来分析,解读结果可能会改变。

如果难以设置对照,可以通过重复基线了解变动和时间趋势,但不能因此认为已凭这些资料排除了所有干扰因素。即使变化小于单次观测的自然波动,只要有足够的独立重复,也可以估算平均效果。反过来,即使差异看起来很大,也可能是季节或生长造成的。应同时报告效果估计值、置信区间和因果解释的局限。

预期之外或效果不明显的结果也应记录下来。在报告中写入与预期不符的观测及其原因分析,有助于避免后续试验重复同样的问题。

合上书之前,不妨留下这些问题

有时,能够说明数据缺失区间及其处理原因的记录,比平滑漂亮的图表更有帮助。不要掩盖空白;请留下说明,写清楚用什么资料补齐到了什么程度。这份说明将成为下一次审查的起点。

作者介绍

李奉俊毕业于西江大学技术经营研究生院(MOT)。他曾在Infitron Co., Ltd.工作7年,在Honeywell工作20年,累计在气体测量领域从事服务工程、技术销售和渠道管理工作27年。目前,他是AI Safety Korea Co., Ltd.的创始人,正在研究运用传感器、人工智能和数据分析开展畜牧甲烷监测,以及测量、报告与核查(MRV)体系。