第 05 讲 · 认识岗位
AI 开发:把模型接入真实系统
从应用开发到推理和平台工程,理解接口、数据、状态、工具和上线运行分别意味着什么。
关注 AI 应用、Agent、平台研发的读者更新 2026-09-05
与本章一起读的原文
方法 / 教程Building LLM applications for production个人面经雷鸟创新 · 软件开发实习 · Showieee求职复盘后端开发 · 校招流程复盘 · 嵐jlu讲义为教学整理;个人经验反映作者当时的情境。查看完整导读与资料目录 →
01模型调用只是系统中的一步
一个文档问答应用需要处理文件上传、内容解析、检索、模型请求、引用展示和错误反馈。多人使用时,还涉及账号、权限、存储、并发和费用。开发工作的对象是整个运行系统,而不是只有调用模型的那几行代码。
不同岗位的技术深度差异很大。应用开发偏接口和产品实现,推理工程更关注模型服务性能,平台研发可能关注资源管理和通用能力。掌握一个框架并不自动覆盖这些方向。
02三种常见开发对象
平台与基础设施的划分在不同团队中可能交叉。
| 方向 | 主要对象 | 常见问题 |
|---|---|---|
| AI 应用 / Agent 开发 | 界面、业务接口、知识与工具 | 任务流程能否完成,失败能否被理解 |
| 推理与模型服务 | 模型加载、批处理、缓存、资源 | 延迟、吞吐、显存与费用如何平衡 |
| AI 平台 / Infra | 训练或部署平台、作业和监控 | 资源如何调度,服务如何被稳定使用 |
03为什么需要状态和观察记录
Agent 在多步任务中必须知道已经取得哪些信息、调用过哪些工具、还有什么未完成。工具失败、结果为空和信息不足是不同情况。如果只展示最终一句话,开发者很难判断故障出在模型、接口还是流程。
观察记录可以串起一次请求的检索结果、工具参数、返回信息与最终输出。它服务于调试、质量分析和运行管理。涉及用户数据时,记录范围和访问权限也属于实现的一部分。
04MCP 和框架放在哪一层
MCP 用来描述应用与外部工具、资源之间的连接方式;它不是基础模型,也不会自动提高答案质量。Agent 框架帮助组织执行流程,知识库工具帮助处理检索。这些工具减轻部分实现工作,但产品边界、评价标准和业务接口仍需定义。
阅读 JD 时优先确认语言与系统要求,再看框架名。岗位要求“熟悉 RAG”,可能意味着能解释切分、检索、引用与评测;只会导入文件通常不足以说明整条链路。
来源与延伸阅读
正文为教学整理与分析。下列公开资料用于核对概念、产品能力和招聘入口;具体岗位条件以原公告为准。
AI Agents for BeginnersMicrosoft 与贡献者 · 英文 / 多语言译文
用课程中的设计模式理解工具调用、规划、多智能体与记忆,和 Hello-Agents 对照同一概念的不同实现。