# 使用低秩适应（LoRA）进行参数高效的大语言模型微调

- 原标题：Parameter-Efficient LLM Finetuning With Low-Rank Adaptation \(LoRA\)
- 类型：博客
- 来源：Sebastian Raschka
- 发布时间：2023-04-26
- 首次精选：2026-10-29 23:09
- 分级：值得看
- 学习层级：入门
- 主题：[finetuning-adaptation](<https://oplearnx.com/md/topics/finetuning-adaptation.md>)（第 3 位）
- 原文链接：[https://sebastianraschka.com/blog/2023/llm-finetuning-lora.html](<https://sebastianraschka.com/blog/2023/llm-finetuning-lora.html>)
- 本站页面：[https://oplearnx.com/resources/pk\_4b7bd7a32b0e](<https://oplearnx.com/resources/pk_4b7bd7a32b0e>)

## 摘要

Sebastian Raschka 的博客文章，介绍低秩适应（LoRA）这一参数高效微调技术。文章先说明为何要微调预训练大模型、全参数微调的计算成本问题，再引出 LoRA 的核心思路，并将其与 prefix tuning、adapter 等其他参数高效方法做比较。适合对大模型微调原理和参数高效方法感兴趣的读者。

---
来源：LearnMap · 学径（https://oplearnx.com）