魔王の博客

安装Dify 前需要做的准备 <!-- br --> # 安装Git <!-- br --> sudo apt install git -y <!-- br --> #...

从训练到推理 一、预训练阶段，模型到底在做什么？ 在整个大模型生命周期中，预训练（Pre-training）是最基础、最核心、也是最容易被误解的阶段。 在这个阶段，大语言模型并不是在学习事实、规则、世界观或...

Token、Embedding 与向量空间 在上一节中讲到，LLM 的本质是一个在给定上下文条件下，预测下一个 token 概率分布的函数。那么 Token 到底是什么，为什么 LLM 要以 token 为单位，以...

大语言模型到底在干什么 在开发 Agent 之前，我们需要先理解一个最核心的组件：大语言模型（Large Language Model, LLM）。 早期的模型只是“复读机”，经历了从“统计概率”到“深度学习”，再...