这份讲义真正补上的，是工程清单

这是 Simon 在 PyCon US 2025 的一份长讲义。它最有价值的地方，是把「在 LLM 之上做软件」这件事从热词层拆回工程层。模型只是其中一块，决定系统是否能落地的，是你有没有把日志、工具、结构化输出、检索、权限和安全一起做成体系。

这篇也很适合拿来反驳「LLM 应用就是写 prompt」这种误解。Simon 的整体框架更像一个现代应用开发清单，而不是 prompt 技巧合集。

这份实战手册最值得留下的几条线

  • 模型生态当然重要，但做产品的人更该关心的是接口稳定性、成本、延迟、上下文长度和部署方式这些现实变量。
  • 结构化输出、工具调用、向量检索和 embeddings 已经是常见基本件，不是只有大公司才用得到的高级能力。
  • 日志和可观察性不能后补，因为很多 LLM 问题是线上才会暴露的概率性问题。
  • Prompt injection 应该被当作安全输入问题来看，尤其当系统能访问私有数据或调用高权限工具时更是如此。
  • Simon 很强调「privileged vs. quarantined」的边界感，本质是在提醒大家不要把不可信内容直接喂给高权限动作链路。

对今天做应用和平台有什么直接帮助

如果你正在做内部知识库、自动化工具、copilot 或 agent 平台，这篇最大的用处是帮你补工程 checklist。你会发现，很多线上事故是系统边界根本没设计清楚。比如谁能调用工具、谁能访问私有上下文、日志里该记什么、失败后怎样快速重放。

对开发者来说，这篇也能帮你把「AI 工程」具体化。它是在把你原本熟悉的软件工程习惯迁移到 LLM 场景里，只是多了概率性输出、不可信输入和外部模型接口这些新变量。

说明

这页是基于原文的中文摘译与导读，不是官方全文翻译。关键表述和细节请以原文为准。

更新附注

  • 版本：v1.1

更新日期：2026-04-02 更新原因：纳入全站文本风格整改，并保留 PyCon 日程页与 workshop 讲义站点链路，统一重写标题、首屏字段与中段结构，把文章焦点收回 LLM 应用真正依赖的工程清单。