前置学习工作:
TAG-MoE 认为不同类型的图像生成编辑任务之间存在冲突。MoE 可以从单个token维度细化更多的专家特征,但是缺少一个宏观的任务层面的导向,因此引入了Task-Aware Gating策略
TAG-MoE: Task-Aware Gating for Unified Generative Mixture-of-Experts
AIA: Rethinking Architecture Decoupling Strategy In Unified Multimodal Model