💡 一句话总结

本文提出 Task-Feature Specialization(TFS) 作为 Task Arithmetic 中权重解耦(Weight Disentanglement)成功的根本原因,并进一步推导出其可观测的几何表现——权重向量正交性(WVO),最终设计出正则化方法 OrthoReg,在 fine-tuning 时直接强化该正交结构,显著提升多任务组合效果。


🧠 背景知识

什么是 Task Arithmetic?

Task Arithmetic 是一种免训练的预训练模型编辑范式:

$θ_{merged}=θ_{0}+t∑λ_{t}⋅τ_{t}$

优点: 无需联合训练,无需访问原始数据,计算成本低。

什么是 Weight Disentanglement(WD)?

理想情况下,各任务向量的效果互不干扰——加入任务 s 的向量不会影响任务 t 的性能。这种性质称为权重解耦(WD)。

已有问题: WD 只是对"理想结果"的描述,并未解释它为何成立,也不知道如何主动促进它。


❓ 核心研究问题

问题 描述
问题 i 是什么内在属性(预训练权重 $θ_0$ 或任务向量 $τ_t$)使得 WD 得以实现?
问题 ii 能否设计方法,在 fine-tuning 阶段主动促进 WD?

🔬 理论框架