> For the complete documentation index, see [llms.txt](https://unsloth.ai/docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://unsloth.ai/docs/zh/kuai-su-kai-shi/fine-tuning-for-beginners/faq-+-is-fine-tuning-right-for-me.md).

# 常见问题 + 微调适合我吗？

如果你还在犹豫微调是否适合你，看这里！了解微调的常见误区、它与 RAG 的对比等内容：

## 理解微调

对大型语言模型进行微调可以定制其行为、深化其领域专业知识，并优化其在特定任务上的表现。通过对预训练模型（例如 *Llama-3.1-8B*）使用专门数据进行优化，你可以：

* **更新知识** – 引入基础模型最初未包含的新的领域特定信息。
* **定制行为** – 调整模型的语气、个性或响应风格，以适应特定需求或品牌声音。
* **针对任务优化** – 提高在你的使用场景所需的特定任务或查询上的准确性和相关性。

可以把微调看作是将一个通才模型打造为专门专家。一些人会讨论是否应该使用检索增强生成（RAG）来替代微调，但微调可以以 RAG 无法做到的方式，将知识和行为直接融入模型中。实际上，将两种方法结合起来会获得最佳效果——带来更高的准确性、更好的可用性以及更少的幻觉。

### 微调的现实世界应用

微调可以应用于各种领域和需求。以下是一些展示它如何产生影响的实用示例：

* **金融情感分析** – 训练一个大型语言模型判断新闻标题是否会对公司产生正面或负面影响，使其理解更贴合金融语境。
* **客户支持聊天机器人** – 基于过往客户互动进行微调，以公司风格和术语提供更准确、更个性化的回复。
* **法律文档辅助** – 针对法律文本（合同、判例法、法规）进行微调，用于合同分析、判例研究或合规支持等任务，确保模型使用精确的法律语言。

## 微调的优势

与基础模型或纯检索系统相比，微调还能带来若干显著优势：

#### 微调 vs. RAG：有什么区别？

微调几乎可以做到 RAG 能做的大部分事情——但反过来不行。在训练过程中，微调会将外部知识直接嵌入模型中。这使模型能够处理小众查询、总结文档，并在不依赖外部检索系统的情况下保持上下文。并不是说 RAG 没有优势，因为它在访问外部数据库中的最新信息方面确实很出色。事实上，微调同样也可以检索新鲜数据，不过为了效率，最好将 RAG 与微调结合起来。

#### 任务特定精通

微调会将领域知识深度整合进模型中。这使它在处理结构化、重复性或细微差别较多的查询时非常有效，而这正是仅靠 RAG 的系统常常难以应对的。换句话说，微调后的模型会成为其所训练任务或内容方面的专家。

#### 不依赖检索

微调后的模型在推理时不依赖外部数据源。即使连接的检索系统失败或不完整，它仍然可靠，因为所有所需信息都已经包含在模型自身的参数中。这种自给自足意味着生产环境中的故障点更少。

#### 响应更快

微调模型在生成过程中不需要调用外部知识库。跳过检索步骤意味着它们可以更快地生成答案。这种速度使微调模型非常适合时间敏感型应用，因为每一秒都很重要。

#### 定制行为和语气

微调能够精确控制模型的沟通方式。这确保模型的回复与品牌声音保持一致，符合监管要求，或匹配特定的语气偏好。你得到的模型不仅知道 *什么* 该说， *如何* 以期望的风格说出来。

#### 可靠的性能

即使在同时使用微调和 RAG 的混合方案中，微调模型也能提供可靠的备用方案。如果检索组件未能找到正确的信息或返回了错误数据，模型内置的知识仍然可以生成有用的答案。这确保了你的系统具有更一致、更稳健的性能。

## 常见误解

尽管微调有诸多优势，但仍然存在一些误解。让我们来澄清关于微调最常见的两种误区：

### 微调会给模型增加新知识吗？

**会——完全可以。** 一种常见误解认为微调不会引入新知识，但实际上它会。如果你的微调数据集包含新的领域特定信息，模型会在训练过程中学习这些内容，并将其融入回复中。实际上，微调 *确实可以* 从零开始教会模型新的事实和模式。

### RAG 总是比微调更好吗？

**不一定。** 很多人认为 RAG 会始终优于微调模型，但如果微调做得恰当，事实并非如此。实际上，调校良好的模型在专门任务上往往能与基于 RAG 的系统相匹配，甚至超越它们。“RAG 总是更好”的说法通常源于那些配置并不理想的微调尝试——例如，使用了错误的 [LoRA 参数](/docs/zh/kuai-su-kai-shi/fine-tuning-llms-guide/lora-hyperparameters-guide.md) 或训练不足。

Unsloth 会自动为你选择最佳参数配置，从而解决这些复杂性。你所需要的只是一个高质量数据集，就能得到一个发挥其全部潜力的微调模型。

### 微调昂贵吗？

**完全不！** 虽然完整微调或预训练可能成本较高，但这些并非必需（尤其是不需要预训练）。在大多数情况下，LoRA 或 QLoRA 微调可以以极低成本完成。事实上，借助 Unsloth 的 [免费笔记本](https://docs.unsloth.ai/get-started/unsloth-notebooks) 在 Colab 或 Kaggle 上，你可以无需花一分钱就完成模型微调。更棒的是，你甚至可以在自己的设备上本地微调。

## 常见问题：

### 为什么你应该结合 RAG 和微调

与其在 RAG 和微调之间二选一，不如考虑将 **两者** 结合起来，以获得最佳效果。将检索系统与微调模型结合，会充分发挥各自方法的优势。原因如下：

* **任务特定专业能力** – 微调擅长专门任务或格式（使模型成为特定领域的专家），而 RAG 则让模型掌握最新的外部知识。
* **更强的适应性** – 即使检索组件失败或返回不完整信息，微调模型仍然可以给出有用答案。同时，RAG 确保系统保持最新，而无需你为每一条新数据重新训练模型。
* **效率** – 微调为模型提供了强大的基础知识库，而 RAG 处理动态或快速变化的细节，无需从头进行全面重训。这种平衡带来了高效的工作流程，并降低了总体计算成本。

### LoRA 与 QLoRA：该用哪一个？

在实施微调时，有两种流行技术可以大幅降低计算和显存需求： **LoRA** 和 **QLoRA**。下面是它们的简要对比：

* **LoRA（低秩适配）** – 只微调少量额外的“适配器”权重矩阵（16 位精度），而保留原始模型的大部分不变。这显著减少了训练过程中需要更新的参数数量。
* **QLoRA（量化 LoRA）** – 将 LoRA 与模型权重的 4 位量化结合起来，使在极少硬件上高效微调超大模型成为可能。通过尽可能使用 4 位精度，它大幅降低了显存占用和计算开销。

我们建议从 **QLoRA**，因为它是目前最高效、最易获得的方法之一。多亏了 Unsloth 的 [动态 4 位](https://unsloth.ai/blog/dynamic-4bit) 量化，与标准的 16 位 LoRA 微调相比，精度损失现在几乎可以忽略不计。

### 实验是关键

微调没有唯一“最佳”的方法——只有适用于不同场景的最佳实践。重要的是尝试不同的方法和配置，找到最适合你的数据集和使用场景的方案。一个很好的起点是 **QLoRA（4 位）**，它为在不需要大量计算资源的情况下微调模型提供了一种极具成本效益、资源友好的方式。

{% content-ref url="/pages/0c67f9d3a44c115b4fda319de5774cc3513ea3a3" %}
[Hyperparameters Guide](/docs/zh/kuai-su-kai-shi/fine-tuning-llms-guide/lora-hyperparameters-guide.md)
{% endcontent-ref %}


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation by asking a question.

Perform an HTTP GET request on the following URL with the `ask` and `goal` query parameters:

```
GET https://unsloth.ai/docs/zh/kuai-su-kai-shi/fine-tuning-for-beginners/faq-+-is-fine-tuning-right-for-me.md?ask=<question>&goal=<user_goal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is what the user is ultimately trying to achieve, the reason they need the answer. Sharing it helps GitBook give you a better, more relevant answer. A goal is most helpful when it describes the outcome the user wants rather than restating the question. For example, with `ask=how do I create an API token`, a goal like `automate deployments from our CI pipeline` lets GitBook tailor the answer to that use case.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.