[论文翻译]采用高分辨率计算以获得更佳可视化效果

Transformer 近期已成为学习视觉表征的强大工具。本文我们识别并描述了监督式与自监督式 ViT 网络特征图中的伪影现象。这些伪影表现为推理过程中主要出现在图像低信息量背景区域的高范数 token，它们被重新用于内部计算。我们提出了一种简单有效的解决方案：通过在 Vision Transformer 的输入序列中添加辅助 token 来承担该职能。研究表明，该方案能完全解决监督式和自监督式模型的这一问题，为自监督视觉模型在密集视觉预测任务上树立了新标杆，使目标发现方法能适配更大模型，最重要的是能为下游视觉处理生成更平滑的特征图和注意力图。