kvcahce
差别
这里会显示出您选择的修订版和当前版本之间的差别。
| 后一修订版 | 前一修订版 | ||
| kvcahce [2026/08/26 03:36] – 创建 chenyang | kvcahce [2026/08/26 03:38] (当前版本) – chenyang | ||
|---|---|---|---|
| 行 13: | 行 13: | ||
| 在AI模型内部，文本以“词元”（Token）的形式处理。当模型处理一个词元时，会生成两个关键的向量（可以理解为数字列表）： | 在AI模型内部，文本以“词元”（Token）的形式处理。当模型处理一个词元时，会生成两个关键的向量（可以理解为数字列表）： | ||
| - | * **K（Key，键）**：相当于这个“词元”的标签或索引，用于在海量信息中被检索。 | + | |
| - | * **V（Value，值）**：相当于这个“词元”本身包含的实际语义信息。 | + | |
| + | |||
| + | | ||
| **KV缓存，就是把之前所有已生成词元的“K”和“V”保存下来**。 | **KV缓存，就是把之前所有已生成词元的“K”和“V”保存下来**。 | ||
kvcahce.1787715396.txt.gz · 最后更改: 由 chenyang