跳到主内容
Xinjie Cui

科研工作

我的研究围绕高效可信人工智能展开:一方面压低模型的推理与适配成本,另一方面追问这些方法在更接近真实的设置下是否依然可靠。具体包括参数高效微调、双时相遥感变化检测、低比特模型压缩、多模态大模型推理优化,以及 Transformer 量化恢复与可靠性评测。近期的注意力放在世界模型上 —— 让模型在长序列动作中稳定维护实体状态,而不是逐步漂移。

成果
4
一作
4

EdgeToken-AD: Anomaly-Aware Token Pruning for Vision Transformer-Based Industrial Anomaly Detection

崔鑫杰

国际会议Oral

已出版第一作者

工业异常检测部署到产线时,算力预算通常是固定的,而 ViT 的开销随 token 数量线性增长。常规做法是 uniform 或 random pruning,但它们对 token 一视同仁,缺陷区域往往只占画面很小一块,恰恰最容易被丢掉。

EdgeToken-AD 把剪枝决策变成异常感知的:融合 CLS 注意力显著性、memory-bank 距离与 token 自身的统计信息,在固定推理预算下优先保留与缺陷相关的 patch。方法基于 DINOv2 与 PatchCore,不需要重训主干。

在 MVTec AD 上保留 80% token 时,PRO 相比 uniform pruning 提升 5.49 个百分点,相比 random pruning 提升 7.43 个百分点。

异常检测Token 剪枝Vision Transformer高效推理

Symplectic-Mamba: Structured Recurrence for World-State Tracking

崔鑫杰

CCF-C

已接收第一作者

长上下文里追踪实体状态是世界模型的基本功,也是现有序列模型的薄弱环节:随着动作序列变长,模型对「某个实体现在处于什么状态」的记忆会逐步漂移。

Symplectic-Mamba 从结构上约束这件事。实体索引让每个实体拥有可寻址的状态槽位,动作条件更新使状态只在相关动作发生时被改写,哈密顿结构更新则借辛几何的保体积性质抑制长程累积误差。

在状态追踪任务上,方法同时优于通用序列模型与专门为该任务设计的基线。

世界模型状态追踪Mamba结构化循环

Beyond Smooth Darcy: Evaluation Changes the Conclusion in Sparse-Sensor Inverse Learning

崔鑫杰

CCF-C

已接收第一作者

稀疏传感器 Darcy 反问题的常用基准过于光滑:constant forcing、零边界、无噪观测、单一分辨率。在这样的设置下比较方法,结论可能并不成立。

这篇工作重新设计了评测协议,把任务扩展到多源 forcing、非零边界条件、含噪观测与跨分辨率 scale-up,然后重跑同一批方法。结果显示,简单基准会导出错误的传感器布局方案与被高估的可靠性结论 —— 换掉评测设置,排名就变了。

结论不是某个方法更好,而是评测本身需要先被质疑。

反问题科学机器学习评测方法传感器布局

Difference-Aware Parameter-Efficient Adaptation for Bi-Temporal Change Detection

崔鑫杰

CCF-C

已接收第一作者

把预训练视觉模型迁移到双时相遥感变化检测时,PEFT 是自然选择,但现有载体对两个时相的输入无差别处理,而「哪里变了」本身就是任务信号。

这篇工作提出差异感知的参数高效适配:从双时相特征中提取差异描述子,用它动态调制 PEFT 模块的行为。调制是载体无关的,在 LoRA、Adapter、SSF、VPT 上都能接入。

在 LEVIR-CD 与 S2Looking 上取得稳定的 IoU 提升,同时明显降低了不同随机种子之间的波动 —— 后者对小样本遥感任务的实际可用性影响不亚于均值指标。

变化检测参数高效微调遥感LoRA

学术服务