求职/免费讲义/认识岗位
05 讲 · 认识岗位

AI 开发:把模型接入真实系统

从应用开发到推理和平台工程,理解接口、数据、状态、工具和上线运行分别意味着什么。

下载本章 Markdown

与本章一起读的原文

方法 / 教程Building LLM applications for production个人面经雷鸟创新 · 软件开发实习 · Showieee求职复盘后端开发 · 校招流程复盘 · 嵐jlu

讲义为教学整理;个人经验反映作者当时的情境。查看完整导读与资料目录 →

01模型调用只是系统中的一步

一个文档问答应用需要处理文件上传、内容解析、检索、模型请求、引用展示和错误反馈。多人使用时,还涉及账号、权限、存储、并发和费用。开发工作的对象是整个运行系统,而不是只有调用模型的那几行代码。

不同岗位的技术深度差异很大。应用开发偏接口和产品实现,推理工程更关注模型服务性能,平台研发可能关注资源管理和通用能力。掌握一个框架并不自动覆盖这些方向。

02三种常见开发对象

平台与基础设施的划分在不同团队中可能交叉。

方向主要对象常见问题
AI 应用 / Agent 开发界面、业务接口、知识与工具任务流程能否完成,失败能否被理解
推理与模型服务模型加载、批处理、缓存、资源延迟、吞吐、显存与费用如何平衡
AI 平台 / Infra训练或部署平台、作业和监控资源如何调度,服务如何被稳定使用

03为什么需要状态和观察记录

Agent 在多步任务中必须知道已经取得哪些信息、调用过哪些工具、还有什么未完成。工具失败、结果为空和信息不足是不同情况。如果只展示最终一句话,开发者很难判断故障出在模型、接口还是流程。

观察记录可以串起一次请求的检索结果、工具参数、返回信息与最终输出。它服务于调试、质量分析和运行管理。涉及用户数据时,记录范围和访问权限也属于实现的一部分。

04MCP 和框架放在哪一层

MCP 用来描述应用与外部工具、资源之间的连接方式;它不是基础模型,也不会自动提高答案质量。Agent 框架帮助组织执行流程,知识库工具帮助处理检索。这些工具减轻部分实现工作,但产品边界、评价标准和业务接口仍需定义。

阅读 JD 时优先确认语言与系统要求,再看框架名。岗位要求“熟悉 RAG”,可能意味着能解释切分、检索、引用与评测;只会导入文件通常不足以说明整条链路。

来源与延伸阅读

正文为教学整理与分析。下列公开资料用于核对概念、产品能力和招聘入口;具体岗位条件以原公告为准。

Building LLM applications for productionChip Huyen · 英文

把提示的变化、效果验证、成本延迟和任务组合一起看,理解应用交付涉及哪些取舍。

AI Agents for BeginnersMicrosoft 与贡献者 · 英文 / 多语言译文

用课程中的设计模式理解工具调用、规划、多智能体与记忆,和 Hello-Agents 对照同一概念的不同实现。

MCP ArchitectureModel Context Protocol · 英文

看 Host、Client、Server 的关系,以及工具和资源怎样暴露给应用。

Agents CourseHugging Face · 英文

先看工具、行动与观察的基础单元,再阅读框架与 Agentic RAG 示例。

Generative AI for BeginnersMicrosoft · 英文 / 含中文译文

按概念解释与应用构建分别阅读,了解提示、文本生成、搜索应用与工具调用的关系。

KnowledgeDify · 英文

看知识导入、分段与检索配置,理解知识库为什么不等于把文件放进聊天框。

Learn the BasicsPyTorch · 英文

依次查看数据加载、网络、自动求导、优化和模型保存,建立训练流程的全貌。