Zenodo (CERN European Organization for Nuclear Research)·10月21日 · 周三论文数字乡村与农业信息化阅读 0
Backdoor-Trigger Evaluation for Computer Agriculture Disease-Detection Models Under Third-Party Pretrained Checkpoints: An Artificial Intelligence Poisoning-Rate Audit
Teresa Kambanda Neto · Mateus Chilombo Kiala
论文解读
67接近精选线
速览
将后门触发器视为预训练检查点供应链属性，量化微调后后门存活的投毒率。
方法
建立触发器持久性形式化模型，推导持久性界，嵌入前后对照设计，2000次重复模拟。
发现
检测5个百分点差异需54个聚类，给出防御者应假设的投毒率设计量。
机会点
可研究不同作物病害检测架构与微调策略下后门持久性界的实证验证与防御阈值。
影响力8
信息增量21
专业深度17
信源权威11
时效性10
该研究把后门投毒率作为预训练权重供应链的设计量来量化，方法新颖、统计设计严谨，但属于细分安全审计方向，产业影响有限，适合作为专业精选而非头条。
原文摘要
第三方预训练检查点现已成为数字农业中计算机视觉病害检测器的默认起点，然而，后门触发器在干净作物图像上经过微调后仍能存活的投毒率，尚未被作为一个设计量加以刻画。本分析将后门触发器视为检查点供应链的一种属性，而非攻击者的属性，并追问：当预训练权重的来源未知时，防御者必须假定怎样的投毒率。本文建立了一个触发器持续性的形式化模型，其中后门被表示为参数空间中的位移，其在梯度微调下的存活取决于触发器对齐曲率与任务对齐曲率之比。由该模型推导出一个持续性界，并将该界嵌入前后对照干预设计，将受投毒检查点作为干预、干净检查点作为对照。在每设计单元2000次重复下评估运行特性，聚类数为8、16、24和32，效应量为3、5和8个百分点，在声明的方差结构下，组间标准差为6.0、残差标准差为4.5、组内相关系数为0.64。该设计需要54个聚类才能在80%功效下检测到5个百分点的差异。