生成式人工智能

分类模型常把输入映射到已有标签，生成模型则要构造文本、图像或其他新内容。难点在于可能的输出极多，而且同一输入往往允许多个合理结果，不能只按固定答案查表。

生成模型从训练数据学习统计规律，并在给定条件下生成结果。新组合不意味着保证原创或保证真实：模型可能复现训练中的片段，也可能产生从未出现但错误的内容。

自回归生成把序列拆成逐步预测：给定已有上下文，计算下一个元素的条件分布，选择一个元素并加入上下文，再继续下一步。文本模型处理的通常是 token，并不总与一个完整汉字或单词对应。

训练阶段用样本调整参数，推理阶段用已训练参数生成内容。下方联合概率分解是概率链式法则；代码里的手写转移表只是帮助观察采样过程，没有展示训练，也不能等同于大语言模型。

解码策略决定怎样从预测分布选择输出。总选最高概率项容易得到稳定但单一的结果；采样可以增加多样性，也可能提高出现不合适结果的机会。生成概率反映模型偏好，不是事实被证实的概率。

生成式 AI 不只包括自回归文本模型。图像等任务也可以用逐步去噪等机制生成；共同点是学习并构造数据，而不是所有模态都逐字生成。实际应用还要结合检索、约束和外部验证检查内容是否适合任务。

整个序列的概率等于每一步条件概率的乘积。

• 收集并清理训练数据
• 学习数据分布参数
• 根据上下文预测概率
• 按采样策略生成内容

Python

• 人为给定条件概率，累积区间决定选中哪个词。
• 两个固定抽样值使逐步生成结果可复核。
• 示例只展示推理中的选择过程，没有学习参数，也没有使用神经网络。

这是没有训练过程的词级条件采样演示，只依赖前一个词。第一次抽样值 0.2 落入“正在”的区间；第二次 0.8 落入“学习”的区间，所以预期输出固定为 人工智能正在学习。

预设抽样值用于复核，不代表真实生成过程没有随机性。修改抽样值可观察其他路径；表内概率是人为构造，不能解读为真实语言模型概率、事实可信度或测得的性能。

• 内容创作
• 代码补全
• 智能检索

• 把“生成概率高”理解为“事实一定正确”，只用流畅度验收回答。
• 宣称生成模型从不复制训练内容，或者认为任何新组合都没有版权与来源问题。
• 把教学中的手写转移表当作训练后的语言模型，或认为图像生成也只能使用同一种自回归机制。