人工智能进阶文档深度页
Prompt、指令与上下文
区分任务输入、持久行为规则和运行时上下文，并建立优先级与注入边界。
学习目标
- 能说明Prompt、指令与上下文解决什么问题，以及何时适用。
- 能解释为什么“提示词堆叠”是误区。
学习前需要掌握
背景与问题
把所有文字视为同等可信，会让网页、文件或工具结果中的恶意指令覆盖应用目标。
概念定义
Prompt 是送入模型的信息集合；指令规定行为与约束；上下文提供当前任务所需事实、历史和工具结果。
直观理解
指令像工作守则，上下文像手头资料；资料可以被引用，但不应改写工作守则。
核心原理
不同来源应保留 provenance 与信任级别。
只加载当前决策需要的上下文，减少冲突与成本。
不可信内容中的命令应作为数据处理，不自动执行。
理解与实践步骤
- 1
分离系统规则与用户目标
- 2
选择相关上下文
- 3
标记来源与权限
- 4
生成后验证输出契约
实际应用
- 提示设计
- RAG
- 安全边界
常见错误
提示词堆叠
忽略间接提示注入
输入、输出与执行边界
输入
- 系统指令
- 用户输入
- 检索与工具结果
输出
- 结构化模型输入
- 可审计来源
能力
- 提示设计
- RAG
- 安全边界
只读优先默认不要求审批
推荐学习资料
暂未收录相关资料
参考库不会生成虚假资源或无效外部链接。