LLM参数高效微调技术（LORA,Q LoRA）

1. 全量微调和高效微调

全量微调（Full Fine-tuning）

在深度学习领域，全量微调是一种广泛采用的技术手段，特别是在处理诸如BERT或GPT等大规模预训练模型时尤为常见。该方法的核心在于利用特定任务的数据集对预训练模型的所有参数进行调整。这种调整方式意味着模型的每一层以及所有权重都会在微调过程中被更新，以更好地适配新的任务需求。尽管这种方式通常能够实现较高的性能表现，因为其允许模型在目标任务上进行全面优化，但同时也伴随着一些明显的不足之处。最为突出的问题是，它需要消耗大量的计算资源和时间，尤其是在面对参数规模庞大的模型时更为显著。此外，在数据量较小的情况下，这种方法也更容易导致过拟合现象的发生。

高效微调（Efficient Fine-tuning）

与全量微调形成对比的是高效微调方法，这是近年来逐渐兴起的一种策略，其主要目标是减少在特定任务中对大型预训练模型进行调整所需的计算资源和时间成本。通常情况下，高效微调仅涉及对模型中部分参数的更新操作，例如仅对模型的最后几层或顶层进行调整。当前一些常用的高效微调技术包括适应性微调（Adaptive Fine-tuning），该方法仅更新与任务密切相关或位于输出层附近的参数；另外还包括梯度更新的相关变体形式，如差分学习率（Diffe