EdgeToken-AD: Anomaly-Aware Token Pruning for Vision Transformer-Based Industrial Anomaly Detection
崔鑫杰
国际会议Oral
工业异常检测部署到产线时,算力预算通常是固定的,而 ViT 的开销随 token 数量线性增长。常规做法是 uniform 或 random pruning,但它们对 token 一视同仁,缺陷区域往往只占画面很小一块,恰恰最容易被丢掉。
EdgeToken-AD 把剪枝决策变成异常感知的:融合 CLS 注意力显著性、memory-bank 距离与 token 自身的统计信息,在固定推理预算下优先保留与缺陷相关的 patch。方法基于 DINOv2 与 PatchCore,不需要重训主干。
在 MVTec AD 上保留 80% token 时,PRO 相比 uniform pruning 提升 5.49 个百分点,相比 random pruning 提升 7.43 个百分点。