LLMLLM 基础

Top-k 与 Top-p 采样

Top-k and Top-p Sampling

两种收窄候选 token 的方法:top-k 取概率最高的 k 个;top-p(核采样)取到累计概率质量为止的 token。

Tokens
input
Embed
vectors
Attention
context
LLM
next token
tokens → vectors → attention → next token

llm · 图文示意

© 2026 Genisource Vibe · 知识点详情