LLMLLM 基础

低秩适配 (LoRA)

Low-Rank Adaptation (LoRA)

微调时只新增小的可训练矩阵、冻结原始权重，大幅降低算力与显存开销。

Tokens
input
Embed
vectors
Attention
context
LLM
next token
tokens → vectors → attention → next token

llm · 图文示意

© 2026 Genisource Vibe · 知识点详情