可信 AI 研究的是模型为什么这样判断、换环境是否可靠、对不同群体是否公平、会不会泄露隐私，以及能否被审计和落地。
很多 AI 项目只看 Accuracy，但真实落地时更重要的问题是：错在哪里、为什么错、换医院/换人群还准不准、有没有偏见、是否泄露隐私。
可信 AI 不一定追求发明一个更大的模型，而是围绕模型风险建立解释、检测、评估和加固机制，非常适合做严谨的科研项目。
中文链路图：把方向拆成输入、模型、任务和成果
一个方向能不能做成项目，关键看它能不能落到明确任务、评价指标和实验数据。
任务地图：适合小白先判断项目切入点
说明模型为什么给出某个预测，帮助医生、老师、风控人员理解结果。
测试模型遇到扰动、攻击、跨医院、跨平台时是否失效。
比较不同性别、年龄、地区、群体上的误差和机会是否公平。
避免模型记住训练数据、泄露个人信息或暴露机构数据。
模型说 90% 有把握时，真实正确率是否也接近 90%。
检测幻觉、越狱、偏见、有害内容和工具误用。
技术路线不是模型名清单，而是看这个方向的问题意识如何一步步变化。
技术路线图：帮助学生看懂方法演进
LIME、SHAP 等方法不改变模型本身，而是解释某次预测或全局特征贡献。
通过对抗样本、噪声测试和分布外检测评估模型是否稳定。
用公平性指标、差分隐私、联邦学习和审计报告降低应用风险。
围绕 hallucination、safety、red teaming 和 model card 建立系统性评测。
这不是让你背论文名，而是按时间线建立路线感：先看每篇论文解决了什么问题，再看图里哪一块最关键，最后知道它适合放进什么项目里。
为什么重要：LIME 是可解释 AI 入门最经典论文之一，强调局部近似解释。
新手读法：重点看局部解释如何生成，以及为什么解释必须面向具体样本。
打开论文 / 来源为什么重要：SHAP 用 Shapley value 统一多类特征归因方法，是解释模型的重要基线。
新手读法：重点看特征贡献如何加和成预测结果，以及全局/局部解释区别。
打开论文 / 来源为什么重要：证明神经网络会被很小扰动欺骗，是鲁棒 AI 的奠基论文之一。
新手读法：重点看 FGSM 思路，以及为什么高维线性行为会造成脆弱性。
打开论文 / 来源为什么重要：提出模型卡，用结构化文档披露模型用途、性能、局限和风险，是可信 AI 治理的重要工具。
新手读法：重点看模型报告应该包含哪些字段，以及如何服务非技术使用者。
打开论文 / 来源不同任务不能只看 Accuracy。论文和项目都要说明指标为什么适合当前问题。
基础性能，不能单独证明可信。
衡量置信度是否可靠。
扰动、攻击或分布变化下的准确率。
不同群体误差、机会和召回是否均衡。
成员推断、数据泄露或隐私预算。
解释是否忠实反映模型真实决策逻辑。
小白选题时先确认数据、代码和 benchmark 是否可获得，否则方向再热也很难落地。
学生看老师主页最难的是不知道关键词背后对应什么任务和能力要求。
通常研究模型解释、特征归因和可视化。
研究模型在扰动、攻击和分布变化下是否稳定。
关注不同群体上的偏差和伦理风险。
强调差分隐私、联邦学习和敏感数据保护。
偏大模型风险、对齐、红队测试和安全评估。
研究模型置信度和不确定性表达。
真正适合学生的路线，是先跑通最小闭环，再逐步加难度。
用表格或图像模型跑 LIME/SHAP/Captum，先会画解释图。
不要只看 Accuracy，加入校准、鲁棒、公平或隐私指标。
医疗、金融、教育或大模型问答中选择一个高风险任务。
围绕解释失真、跨域鲁棒、公平性提升或安全评测设计实验。
下面这些题目不是空泛口号，而是可以沉淀代码、实验结果、图表和论文雏形的方向。
对分割/分类模型输出热力图，分析解释与病灶区域是否一致。
比较不同群体上的误报、漏报和风险评分偏差。
构建问答数据，评估 RAG 前后幻觉率变化。
模拟分布偏移，测试医学模型换数据集后的性能下降。
根据训练日志和评测结果生成可读模型报告。
多个本地数据源协同训练，同时比较隐私和性能损失。
这部分覆盖搜索和咨询时最高频的问题。
不是。可信 AI 很适合做实验型项目：解释图、鲁棒测试、公平性评估、模型卡都能展示。
有重叠但不完全一样。可信 AI 更广，包含解释、鲁棒、公平、隐私、校准和治理。
建议先从 SHAP/LIME 解释一个表格或图像模型，再加入一个可靠性指标。
这个方向只是计算机科研路线中的一个入口。你也可以继续查看多模态学习、世界模型、推荐系统、可信 AI 等方向，再结合自己的专业基础、目标导师和时间周期选择更合适的切入点。