中文内容

已翻译professional source英文原文2026-06-06

计算机科学 > 机器学习

[提交于 2026年6月4日]

标题：TailLoR：在参数高效的持续学习中保护主成分

作者：Marius Dragoi, Ioana Pintilie, Alexandra Dragomir, Antonio Barbalau, Florin Brad

摘要：基于谱分解的参数高效微调方法推动了持续学习的发展。本文介绍 TailLoR，它利用预训练权重的奇异基 U 和 V 作为固定参考框架，学习应用于奇异值矩阵的低秩更新。软谱惩罚会抑制与主导奇异方向对齐的更新，从而减少干扰，同时将细粒度适配引导至高度灵活的长尾谱坐标中。

Subjects: 机器学习（cs.LG） Cite as: arXiv:2606.06494 [cs.LG] (or arXiv:2606.06494v1 [cs.LG] for this version) https://doi.org/10.48550/arXiv.2606.06494

聚焦以了解更多

arXiv-issued DOI via DataCite (pending registration)

提交历史

From: Marius Dragoi [view email]
[v1] Thu, 4 Jun 2026 17:59:55 UTC (831 KB)

全文链接：

访问论文：

view license

当前浏览上下文：

正文：cs.LG

< prev | next >

new | recent | 2026-06

Change to browse by:

参考文献与引用

正文：NASA ADS
正文：Google Scholar
正文：Semantic Scholar

export BibTeX citation 加载中...

BibTeX 格式引用

加载中...

数据提供方：

书签

Bibliographic Tools

文献与引用工具

文献浏览器切换

文献浏览器 (What is the Explorer?)

Connected Papers 切换

正文：Connected Papers (What is Connected Papers?)

Litmaps 切换

正文：Litmaps (What is Litmaps?)

scite.ai 切换

scite 智能引用 (What are Smart Citations?)

Code, Data, Media

与本文相关的代码、数据和媒体

alphaXiv 切换

正文：alphaXiv (What is alphaXiv?)

代码链接切换

CatalyzeX 论文代码查找器 (What is CatalyzeX?)

DagsHub 切换

正文：DagsHub (What is DagsHub?)

GotitPub 切换

正文：Gotit.pub (What is GotitPub?)

Huggingface 切换

正文：Hugging Face (What is Huggingface?)

ScienceCast 切换

正文：ScienceCast (What is ScienceCast?)

Demos

演示

Replicate 切换

正文：Replicate (What is Replicate?)

Spaces 切换

正文：Hugging Face Spaces (What is Spaces?)

Spaces 切换

正文：TXYZ.AI (What is TXYZ.AI?)

arXivLabs：与社区合作者开展的实验性项目

arXivLabs 是一个框架，允许合作者直接在我们的网站上开发并分享新的 arXiv 功能。

与 arXivLabs 合作的个人和组织都认同并接受我们关于开放、社区、卓越和用户数据隐私的价值观。arXiv 致力于这些价值观，并且只与遵循这些价值观的合作伙伴合作。

有一个能为 arXiv 社区增加价值的项目想法？了解更多关于 arXivLabs 的信息。

TailLoR：在参数高效的持续学习中保护主成分