ファインチューニング vs LoRA

ファインチューニング vs LoRA

ファインチューニングは、事前トレーニングされたモデルを特定のデータセットでさらにトレーニングするプロセスです。

完全なファインチューニングはモデルのすべての重みを調整します。70Bモデルの場合、700億のパラメータすべてを更新します。強力なハードウェアが必要です。

LoRAははるかに効率的なアプローチを採用しています。すべての重みを変更する代わりに、モデルに小さなトレーニング可能なアダプターを追加します。アダプターのみがトレーニングされます。

LoRAの利点は計り知れません。単一のコンシューマーGPUで70Bモデルをファインチューニングできます。LoRAは高速で、小さなファイルを生成します。

トレードオフは、非常に特殊なタスクではLoRAが完全なファインチューニングと同じ品質に達しない可能性があることです。