据英伟达官方网站6月28日消息，美国英伟达公司开发出一种名为权重分解低秩适应（DoRA）的新微调方法，作为当前广泛使用的低秩适应（LoRA）的高性能替代方案。DoRA增强了LoRA的学习能力和稳定性，而不会引入任何额外的推理开销。DoRA在各种大型语言模型（LLM）和视觉语言模型（VLM）上表现出显著的性能改善。例如，在常识推理任务中，DoRA的表现优于LoRA。此外，DoRA在多轮基准测试、图像/视频文本理解和视觉指令调整任务中表现出更好的结果。

消息来源：https://developer.nvidia.com/blog/introducing-dora-a-high-performing-alternative-to-lora-for-fine-tuning/