[论文翻译]MAFiD: 基于移动平均的融合解码器用于表格和文本数据的问答

基于Transformer的表格和文本问答(QA)模型面临由表格和文本元素组成的"长"混合序列，导致长距离推理问题。为处理长距离推理，我们广泛采用解码器融合(FiD)和指数移动平均(EMA)，提出移动平均增强的解码器融合(MAFiD)。以FiD为骨干架构，MAFiD结合了多级推理：同质数据的独立编码、单行和多行异质推理，通过门控交叉注意力层有效聚合三种推理产生的表征。在HybridQA上的实验结果表明，MAFiD在盲测集上将精确匹配(EM)和F1分数分别提升1.1和1.7，实现了最先进性能。