ARTICLE DETAIL

资讯详情

深耕网站建设与运营推广的一线实战洞察。

MSRS: Adaptive Multi-Subspace Representation Steering for Attribute Alignment in Large Language M...

MSRS: Adaptive Multi-Subspace Representation Steering for Attribute Alignment in Large Language M... MSRS论文总结与关键部分翻译一、文章主要内容该研究聚焦于大型语言模型(LLMs)的多属性行为控制问题,提出了多子空间表示引导(MSRS)框架,旨在解决现有激活引导方法在联合引导多个属性时存在的干扰和权衡问题。研究背景LLMs在文本生成、问答等领域应用广泛,但在真实场景中,确保其行为符合真实性、公平性等属性面临挑战,常出现毒性、偏见、事实不准确等问题。现有激活引导方法多针对单一属性,简单组合不同属性的引导向量会破坏无关特征,导致生成质量下降或属性间冲突(如增强真实性可能削弱公平性)。已有多属性引导方法(如ACT、MAT-STEER、ReFT)存在不足:或难以保证细粒度方向、无法避免干扰,或忽视属性间共享特征,或子空间分配不合理(不同属性对空间大小需求不同)。核心方法(MSRS框架)多属性引导方向提取属性激活聚合:计算每个属性数据集的平均激活值,构建组合激活矩阵。共享与专属子空间提取:对组合激活矩阵进行奇异值分解(SVD),提取共享子空间(捕捉所有属性的主导共享方向);将各属性平均激活值投影到共享子空间并计算残差,对残差SVD提取属性专属子空间(确保与共享子空间正交,保留属性特有语义),且通过SVD自适应分配子空间大小(复杂属性分配更大空
返回列表