人工智能是什么

• 能把一个 AI 任务拆成输入、输出、行动范围和可检查的完成标准。
• 能区分规则、搜索、机器学习、生成模型和 Agent 在系统中的作用。
• 能说明为什么“回答很流畅”不能代替正确性、可靠性与成本评估。

“这个产品用了 AI”往往没有说明真正解决了什么问题。识别图片中的物体、规划一条路线、预测订单量、根据资料回答问题，输入输出和失败代价都不同，不能只靠一个模型名称比较。

学习 AI 的第一步，是把模糊目标改写为可检查的任务。例如“自动处理发票”还不够具体：系统需要识别哪些字段、允许多大金额误差、什么时候转人工、是否有权修改账目，都应先明确。

人工智能研究和构建能够利用感知、表示、推理、搜索、学习等机制完成任务的系统。一个系统是否属于 AI，并不取决于它是否会聊天，也不要求它像人一样解释自己的内部过程。

本课程采用任务与系统的视角：先给定环境、可获得的信息、允许的行动和成功标准，再讨论合适的方法。机器学习是其中一类方法，深度学习是机器学习中的一组模型技术，Agent 则描述系统如何组织观察与行动。

把 AI 想成一套“解决问题的工具箱”，比想成一个什么都懂的人更有帮助。路线规划可能主要依赖搜索；垃圾邮件分类可以从标注数据学习；知识库问答还需要检索、生成与引用核对。

同一个系统常常同时使用多种工具。发票系统可以用视觉模型识别文字，用规则校验税额，再把无法确认的记录交给人工复核。模型只负责其中一部分能力，不等于完整业务已经自动完成。

先定义任务，再选择技术。要把“效果好”拆成可观察指标，例如字段识别是否正确、路线是否合法、问题是否有证据支持、错误是否能够被发现；不同任务不必使用同一组指标。

表示方式决定算法能处理什么。地图可以表示成节点和边，文本可以表示成符号或向量，用户目标可以表示成约束与验收条件；错误的表示会让后面的算法很难补救。

信息、算力和时间通常有限。理性行动强调在这些条件下选择预期结果更好的行动，而不是要求系统永不犯错。环境发生变化时，原来有效的策略也可能失效。

系统需要独立验证。生成的答案应与证据核对，预测模型应在未参与训练的数据上评估，能执行操作的系统还要检查执行结果。语言流畅、演示成功或单次得分高，都不足以证明长期可靠。

1. 定义任务环境与用户目标
2. 确定可观察信息和行动范围
3. 选择规则、搜索、学习或生成方法
4. 执行并收集反馈
5. 按验收标准评估和改进

• 发票处理：识别字段、校验格式与金额，低置信度或规则冲突时转人工。
• 路线规划：在道路约束下搜索可达路径，区分最短距离、最短时间与避开特定区域等不同目标。
• 知识库问答：检索相关资料、生成有依据的回答，并明确缺失或相互冲突的信息。

• 把 AI 等同于聊天机器人，忽略搜索、规划、规则和感知等方法。
• 一开始就决定使用最大的模型，却没有先定义输入输出、数据条件和验收标准。
• 用“它理解了”“它想要这样做”代替可检查的机制解释。
• 只展示成功案例，不检查失败样本、分布变化、处理成本和人工复核需求。

风险

• 输入资料可能错误、过期或包含诱导性内容；必须区分资料内容与系统允许执行的指令。
• 能执行操作的系统需要限制行动范围，不能把模型生成的文本自动当成已获授权的操作。

信任边界

• 外部信息需要核对，内部判断需要通过规则或实际结果验证。

性能考虑

• 先比较真实任务上的正确率、失败类型、响应时间与成本，再决定是否需要更复杂的方法。
• 当输入超出已验证范围时，应能说明不确定性或请求补充信息，而不是强行给出确定答案。