本文提出 Task-Feature Specialization(TFS) 作为 Task Arithmetic 中权重解耦(Weight Disentanglement)成功的根本原因,并进一步推导出其可观测的几何表现——权重向量正交性(WVO),最终设计出正则化方法 OrthoReg,在 fine-tuning 时直接强化该正交结构,显著提升多任务组合效果。
Task Arithmetic 是一种免训练的预训练模型编辑范式:
t 独立 fine-tune,得到微调权重 $θ_t$$τ_t$ = $θ_t - θ_0$$θ_{merged}=θ_{0}+t∑λ_{t}⋅τ_{t}$
优点: 无需联合训练,无需访问原始数据,计算成本低。
理想情况下,各任务向量的效果互不干扰——加入任务 s 的向量不会影响任务 t 的性能。这种性质称为权重解耦(WD)。
已有问题: WD 只是对"理想结果"的描述,并未解释它为何成立,也不知道如何主动促进它。
| 问题 | 描述 |
|---|---|
| 问题 i | 是什么内在属性(预训练权重 $θ_0$ 或任务向量 $τ_t$)使得 WD 得以实现? |
| 问题 ii | 能否设计方法,在 fine-tuning 阶段主动促进 WD? |