人工智能工程面试问答
人工智能工程面试问答-你的人工智能工程访谈备忘单 这些面试问题和答案对以下角色很有帮助： - AI工程师 - 人工智能工程师 - 法学硕士工程师 - 代理人工智能工程师 - AI 智能体工程师 - AI解决方案架构师 - AI平台工程师 - 应用人工智能工程师 - MLOps工程师 - LLMOps工程师
目录
- 必须知道
- LLM 基础
- 提示工程
- 检索增强生成（RAG）
- 人工智能代理和代理系统
- 微调和模型自适应
- 矢量数据库和嵌入
- 人工智能系统设计
- LLMOps和生产AI
- 评估和测试
- 人工智能安全、道德和负责任的人工智能
- 多模式人工智能
- 人工智能基础设施和可扩展性
- 编码与实际实现
- 基于行为和场景的问题
由编制和维护 创始人 的 成果学校：阿米特·谢卡尔
关注Amit Shekhar
关注成果学校
我在Outcome School任教
______________________________________________________________________
注意：我们将不断更新新的问题和答案。
______________________________________________________________________
必须知道
- LLM
- 检索增强生成
- 主控程序
- 代理
- 微调
- 量化
了解LLM、RAG、MCP、Agent、微调和量化： 人工智能工程解析：LLM、RAG、MCP、Agent、微调、量化
LLM 基础
- 什么是基础模型，它们如何改变了人工智能工程？
- 答案：在这个视频中解释： 人工智能工程解析：LLM、RAG、MCP、Agent、微调、量化
- 什么是大型语言模型（LLM），它是如何工作的？
- 答案：在这个视频中解释： 人工智能工程解析：LLM、RAG、MCP、Agent、微调、量化
- ChatGPT内部：按下Enter键后会发生什么？
- 答案： ChatGPT内部：按下Enter键后会发生什么
- 什么是Transformer架构，它是如何工作的？
- 答案： 解码变压器架构
- Transformer架构的关键组件是什么？
- 答案： 解码变压器架构
- LLM中的标记化是什么？
- 答案： 大型语言模型中的标记化
- 解释BPE（字节对编码）。
- 答案： 字节对编码
- 解释单词和句子。
- 什么是位置编码，为什么在Transformers中需要它？
- 答案： LLM中的位置嵌入
- 什么是嵌入？
- 答案： 机器学习中的嵌入
- 解释要注意的查询（Q）、键（K）和值（V）。
- 答案： 注意力背后的数学——Q、K和V
- 什么是自我关注，它在《变形金刚》中是如何运作的？
- 答案： 注意力背后的数学——Q、K和V
- 为什么我们用√d来衡量点产品的关注度ₖ 在Transformer架构中？
- 答案： 数学后面√dₖ 注意力比例因子
- 什么是因果掩蔽？
- 答案： 注意力掩蔽
- 什么是多头注意力机制？为什么要使用多个注意力头？
- 答案： 解码变压器架构
- LLM中的前馈网络是什么？
- 答案： LLM中的前馈网络
- LLM中的上下文窗口是什么，为什么它很重要？
- 答案： LLM中的上下文窗口
- 在LLM的背景下，温度是什么，它如何影响输出？
- 答案： LLM中的温度是什么？
- 解释Top-p（核）取样和Top-k取样。它们有何不同？
- 什么是logits，它们在文本生成中是如何使用的？
- 答案： 理解机器学习中的逻辑
- 变压器中的跳过连接（剩余连接）是什么？
- 答案： 跳过变压器中的连接（剩余连接）
- 开源和闭源LLM有什么区别？你什么时候会选择一个而不是另一个？
- 仅编码器、仅解码器和编码器-解码器转换器架构之间有什么区别？
- 答案： 解码变压器架构
- 什么是KV缓存，它如何加速推理？
- 答案： LLM中的KV缓存是什么？
- 什么是模型蒸馏，它如何与LLM一起使用？
- 什么是混合专家（MoE），它在Mixtral等模型中是如何工作的？
- 答案： 混合专家解释
- 稠密模型和稀疏模型有什么区别？
- 答案： 混合专家解释
- 什么是Flash注意力？
- 答案： LLM中Flash注意力的解码
- 什么是交叉熵损失？
- 答案： 交叉熵损失背后的数学
- 什么是分组查询注意力（GQA），它与多头注意力（MHA）有何不同？
- 答案： 分组查询注意力
- 旋转位置嵌入（RoPE）是如何工作的，为什么它比学习位置嵌入更受欢迎？
- 答案： RoPE背后的数学（旋转位置嵌入）
- 解释图层规范化
- 答案： 批归一化与层归一化
- 解释RMSNorm（均方根层归一化）
- 答案： RMSNorm（均方根层归一化）
- 你的法学硕士一直无视你的指示。如何使其遵循结构化输出格式？
- 您的LLM驱动工具达到了长文档的上下文窗口限制。你是怎么处理的？
- 当你的法学硕士不知道答案时，它不会承认。你怎么让它说“我不知道”？
- 您的LLM生成的响应过于冗长。如何控制响应长度？
- 你的法学硕士记住了专有的培训数据，并在回应中泄露了这些数据。你如何防止这种情况？
- 您的LLM编码助手使用已弃用的库生成过时的代码。你怎么修的？
- 你的标记器将重要的领域术语拆分为无意义的子词片段。你怎么修的？
- 在长序列生成过程中，Transformer的KV缓存增长得太大。你是如何管理记忆的？
- 答案： LLMs中的页面注意力
- 由于二次自我关注，Transformer在长文档上的内存不足。你如何缩放它？
- 你提炼的学生模型在教师模型处理的复杂推理上失败了。你如何缩小差距？
- RLHF校准后，您的LLM变得更安全，但失去了执行艰巨任务的能力。您如何管理对齐税？
- 你受过RLHF训练的法学硕士是在玩弄奖励模式，而不是真正乐于助人。你如何修复奖励黑客行为？
- 答案： 基于人类反馈的强化学习（RLHF）
- 你的聊天机器人在对话中翻了10圈后就会失去上下文。你如何保持长时间的对话？
- 当用户在对话中切换话题时，你的聊天机器人会失败。你如何处理话题转换？
- 即使上下文中不存在答案，您的QA系统也会始终生成答案。你如何发现无法回答的问题？
- 你的摘要系统产生了幻觉，而不是原始文章中的事实。你怎么修的？
- 您的文本生成在长输出中重复短语。你如何纠正重复？
- 变形金刚在文本上工作，所以他们也能理解图像吗？
- 答案： 解码视觉转换器（ViT）
- 小型语言模型（SLM）
- 答案： 小型语言模型（SLM）
- 大型推理模型（LRM）
- 答案： 大型推理模型（LRM）
- 什么是自回归模型？
- 答案： 自回归模型
- 解释自回归和掩码语言建模之间的区别。
- 近端策略优化（PPO）
- 答案： 近端策略优化（PPO）
提示工程
- 什么是快速工程，为什么它对人工智能应用至关重要？
- 举例说明零样本、一次和少速提示。
- 答案： 举例说明零样本、一次和少速提示
- 什么是思维链（CoT）提示，什么时候应该使用它？
- 解释自我一致性提示及其如何提高推理能力。
- 什么是思想树提示？
- 什么是ReAct（推理+表演）提示，它是如何工作的？
- 答案： ReAct 智能体
- 什么是系统提示，它如何影响模型行为？
- 如何构建一致的结构化输出（JSON、XML）的提示？
- 什么是快速注射，你如何防御？
- LLM中的越狱是什么，常见的越狱技术是什么？
- 您如何优化成本和延迟提示？
- 快速工程和快速调优有什么区别？
- 什么是提示模板，你如何设计一个用于生产的模板？
- 你如何处理与LLM的多轮对话？
- 什么是角色激励，什么时候有效？
- 什么是提示链，如何为复杂任务设计提示链？
- 你如何评估和迭代即时质量？
- 什么是元提示，如何使用它们生成提示？
- 提示中常见的故障模式是什么，如何调试它们？
- 在快速设计中，你如何处理边缘情况和对抗性输入？
- 什么是长期背景下的“中间丢失”问题？
- 什么是输出解析器，为什么生产应用程序需要它们？
- 你如何有效地处理多语言提示？
- 你的几次提示在类似的输入中给出了不一致的结果。你如何稳定它？
- 您的法学硕士分类系统过于敏感，无法及时更改措辞。如何降低即时敏感度？
- 用户正在泄露包含专有业务逻辑的聊天机器人系统提示。你如何预防它？
- 您的LLM代理容易受到提示注射的影响，从而显示系统提示。你如何为其辩护？
- 你的思维链提示并没有提高LLM推理任务的准确性。你修什么？
- 你的人工智能系统可以用英语工作，但在其他语言上失败了。如何添加多语言支持？
- 你的零样本英语跨语言转换在其他语言上失败。你怎么修的？
检索增强生成（RAG）
- 什么是检索增强生成（RAG），为什么它很重要？
- 答案：在这个视频中解释： 人工智能工程解析：LLM、RAG、MCP、Agent、微调、量化
- 解释基本RAG系统的架构。
- 答案：在这个视频中解释： 人工智能工程解析：LLM、RAG、MCP、Agent、微调、量化
- RAG管道的关键组成部分是什么？
- 答案：在这个视频中解释： 人工智能工程解析：LLM、RAG、MCP、Agent、微调、量化
- 什么是组块策略，你如何选择正确的组块大小？
- 比较固定大小分块、语义分块和递归分块。
- 什么是嵌入模型，它们如何将文本转换为向量？
- 您如何为RAG系统选择嵌入模型？
- 解释代理RAG。
- 答案： 代理式检索增强生成
- 什么是混合搜索，为什么它比纯向量搜索更好？
- 什么是重新排名，它如何提高RAG检索质量？
- 您如何在RAG中处理多文档和多跳问题？
- 什么是RAG系统中的“中间丢失”问题？
- 您如何评估RAG系统？解释忠实性、相关性和上下文精确性/召回率。
- 解释Self-RAG。模型如何决定何时检索？
- 什么是GraphRAG，你什么时候会使用它而不是传统的RAG？
- 答案： 图谱检索增强生成
- 如何在RAG管道中处理结构化数据（表、SQL数据库）？
- RAG系统的常见故障模式是什么，您如何调试它们？
- 您如何在RAG系统中处理文档更新并保持新鲜度？
- 您如何针对生产中的延迟优化RAG？
- 元数据过滤在RAG系统中的作用是什么？
- 比较RAG与微调。你什么时候用？
- 答案：在这个视频中解释： 人工智能工程解析：LLM、RAG、MCP、Agent、微调、量化
- RAG中的查询转换是什么（HyDE、查询分解、后退提示）？
- 你如何在RAG中实现引用和来源归因？
- 如何将RAG系统扩展到数百万个文档？
- 什么是父子组块，它如何提高检索效率？
- 尽管有正确的背景，你的RAG系统还是产生了幻觉。你怎么修的？
- RAG块重叠会导致冗余结果。你如何减少冗余？
- 对于庞大的知识库，您的RAG检索速度太慢。你如何加快速度？
- 您的RAG系统返回重复的结果。如何消除重复？
- 您的RAG系统需要对内部文档进行每个用户的访问控制。你如何实施它？
- 你的RAG系统在特定领域的术语上失败了。你怎么修的？
- 您的纯文本RAG系统现在需要处理图像和表格。你如何扩展它？
- 您的RAG知识库经常更新，需要版本控制。你是如何管理它的？
- 您的RAG系统在需要结合多个事实的多跳问题上失败。你怎么修的？
- 您的企业RAG系统从不同的源文档返回相互矛盾的答案。你如何解决冲突？
- 您的RAG系统从不断发展的知识库中返回过时的答案。你如何保持它的最新状态？
- 您的RAG系统难以处理包含表格和布局的PDF文档。如何修复PDF解析？
人工智能代理和代理系统
- 什么是AI代理，它与简单的LLM调用有何不同？
- 答案：在这个视频中解释： 人工智能工程解析：LLM、RAG、MCP、Agent、微调、量化 和 AI代理详解
- AI代理内存
- 答案： AI代理内存
- 人工智能中的线束工程
- 答案： 人工智能中的线束工程
- 解释ReAct（推理+代理）代理架构。
- 答案： ReAct 智能体
- 什么是计划和执行代理模式？
- 答案： 计划和执行代理
- LLM中的工具使用（函数调用）是什么，它如何启用代理？
- 答案：在这个视频中解释： 人工智能工程解析：LLM、RAG、MCP、Agent、微调、量化
- 你如何为AI代理设计和定义工具？
- 答案：在这个视频中解释： 人工智能工程解析：LLM、RAG、MCP、Agent、微调、量化
- 单智能体和多智能体系统有什么区别？
- 答案： 多智能体系统
- 什么是模型上下文协议（MCP），它是如何标准化工具集成的？
- 答案：在这个视频中解释： 人工智能工程解析：LLM、RAG、MCP、Agent、微调、量化
- 代理记忆有哪些不同类型（短期、长期、情景）？
- 您如何处理代理故障并实施错误恢复？
- 什么是代理循环，它如何决定何时停止？
- 答案： AI代理详解
- 语境工程
- 答案： 语境工程
- 你如何评估和测试AI代理？
- 代理系统的安全风险是什么，您如何减轻这些风险？
- 被动代理和主动代理之间有什么区别？
- 如何在长时间运行的代理工作流中管理令牌消耗和成本？
- 代理的人在环模式是什么，何时需要？
- 您如何为AI代理设置护栏以防止有害行为？
- 什么是代理反射，它如何提高代理性能？
- 答案： 反思代理
- 代码生成代理和工具调用代理之间有什么区别？
- 你如何处理代理系统中的多模态输入和输出？
- 如何在复杂的代理工作流中实现状态管理？
- 如何构建具有升级逻辑的客户支持代理？
- 什么是代理编排，如何实现它？
- 如何使用沙盒环境安全地构建代码执行代理？
- 你的AI代理陷入了无限循环。你如何发现并打破这种循环？
- 答案： 修复AI代理中的无限循环
- 你的AI代理从不同的工具中得到了相互矛盾的答案。它是如何调和它们的？
- 你的AI代理在每个任务中消耗了太多的令牌。如何减少代币消费？
- 答案： 您将如何减少代币消费？
- 你的人工智能代理每次任务都会超出预算。如何执行预算限制？
- 你的AI代理产生了工具功能的幻觉，并传递了错误的输入。你怎么修的？
- 您的AI代理删除了一个生产数据库。如何防止不可逆转的行动？
- 你的AI代理有很多工具，但总是选错。你如何改进工具选择？
- 你的AI代理完成一项任务需要太长时间。你如何加快速度？
- LLM选择了正确的工具，但提取了错误的参数。如何修复参数提取？
微调和模型自适应
- 什么是微调，什么时候应该微调LLM？
- 答案：在这个视频中解释： 人工智能工程解析：LLM、RAG、MCP、Agent、微调、量化
- 解释完全微调和参数高效微调（PEFT）之间的区别。
- 答案：在这个视频中解释： 人工智能工程解析：LLM、RAG、MCP、Agent、微调、量化
- 什么是LoRA（低秩自适应），它是如何工作的？
- 答案：在这个视频中解释： 人工智能工程解析：LLM、RAG、MCP、Agent、微调、量化
- 什么是QLoRA，它如何对消费类硬件进行微调？
- 答案：在这个视频中解释： 人工智能工程解析：LLM、RAG、MCP、Agent、微调、量化
- 解释前缀调整和提示调整。它们与LoRA有何不同？
- 什么是基于适配器的微调？
- 答案：在这个视频中解释： 人工智能工程解析：LLM、RAG、MCP、Agent、微调、量化
- 什么是RLHF（从人类反馈中强化学习），它是如何用于对齐LLM的？
- 答案： 基于人类反馈的强化学习（RLHF）
- 什么是指令调优，为什么它对聊天模型很重要？
- 你如何准备一个数据集来微调LLM？
- 什么是灾难性遗忘，在微调过程中如何防止它？
- 什么时候应该选择微调而不是RAG而不是快速工程？
- 你如何评估一个微调模型的性能？
- 什么是合成数据生成，如何使用它进行微调？
- 微调的关键超参数是什么（学习率、迭代周期、批量大小、LoRA排名）？
- 答案： LoRA-LLMs的低阶适应
- 如何为特定领域（法律、医疗、金融）微调模型？
- 什么是持续预训练，你什么时候会使用它？
- 如何合并多个LoRA适配器？
- 答案： LoRA-LLMs的低阶适应
- SFT（监督微调）和对齐培训有什么区别？
- 什么是RLAIF（来自AI反馈的RL），它与RLHF有何不同？
- 什么是用于微调的知识提炼，法律考虑因素是什么？
- 由于训练数据质量问题，您微调的LLM会产生事实上错误的输出。你怎么修的？
- 您必须在LoRA和针对特定域助手的完全微调之间进行选择。你怎么决定的？
- 答案： LoRA-LLMs的低阶适应
- 你的微调模型逐字记忆训练数据，而不是学习模式。如何解决过拟合问题？
- 经过微调的LLM在特定领域微调后忘记了它的一般功能。如何解决灾难性遗忘？
- 您的RLHF偏好数据的注释者一致性较低。如何保证数据质量？
矢量数据库和嵌入
- 人工智能工程背景下的嵌入是什么？
- 答案： 机器学习中的嵌入
- 嵌入模型如何将文本转换为向量？
- 稀疏嵌入和密集嵌入有什么区别？
- 解释向量搜索的余弦相似度、点积和欧几里德距离。
- 什么是矢量数据库，它与传统数据库有何不同？
- 你如何为你的用例选择正确的嵌入模型？
- 什么是嵌入维度，它如何影响性能和成本？
- 当嵌入模型更新时，您如何处理嵌入漂移？
- 什么是多模态嵌入，它们是如何生成的？
- 如何在矢量数据库中索引和查询多租户数据？
- 什么是嵌入的量化，它如何降低存储成本？
- 您如何对嵌入模型的质量进行基准测试和评估？
- 元数据在矢量数据库中的作用是什么？
- 你如何处理数十亿个向量的大规模向量搜索？
- 什么是混合搜索（结合关键字搜索和矢量搜索）？
- 如何为特定领域微调嵌入模型？
- 您的RAG矢量数据库占用了太多内存。你如何减少它？
- 你的向量数据库无法扩展到数百万个嵌入。你如何解决瓶颈？
- 您的新嵌入模型与生产中的现有向量具有不同的维度。你如何处理这种不匹配？
- 尽管相似度得分很高，但你的矢量搜索仍会返回不相关的结果。你怎么修的？
- 你部署了一个新的嵌入模型，搜索质量一夜之间崩溃了。你如何处理嵌入漂移？
- 对于短查询，您的语义搜索失败。你如何改进它？
人工智能系统设计
- 设计一个基于人工智能的客户支持聊天机器人。
- 设计一个供企业使用的文档问答系统。
- 设计一个代码生成和审查系统。
- 使用人工智能设计一个内容审核系统。
- 设计一个实时人工智能推荐系统。
- 设计一个多模式搜索系统（文本、图像、视频）。
- 设计一个基于人工智能的电子邮件助手。
- 使用AI设计一个医疗诊断助手。
- 设计一个由LLM驱动的欺诈检测系统。
- 设计一个基于人工智能的非结构化文档数据提取管道。
- 设计一个个性化的学习助手。
- 设计一个用于自动代码迁移的AI系统。
- 设计一个基于人工智能的法律文件审查系统。
- 设计一个具有跨会话记忆的会话式人工智能系统。
- 你如何设计人工智能系统中的延迟与质量权衡？
- 如何为LLM应用程序实施缓存策略？
- 您如何为AI API设计限速和成本管理？
- 您如何处理AI系统的故障转移和回退策略？
- 你如何设计一个高可用性和容错的人工智能系统？
- 你如何设计一个在模型不可用时优雅降级的人工智能系统？
- 人工智能系统在多区域部署的关键考虑因素是什么？
- 为电子商务平台设计一个基于人工智能的搜索引擎。
- 设计一个AI网关/代理，用于管理整个组织的LLM访问。
- 您如何设计一个RAG系统来处理跨来源的冲突信息？
- 你如何为人工智能系统进行容量规划？
- 设计一个多租户人工智能聊天机器人平台，每个企业都可以获得一个定制的聊天机器人。
- 为每天数千次会议设计一个人工智能会议总结系统。
- 设计一个人工智能通知系统，优先考虑而不是广播。
- 为云基础设施设计一个基于人工智能的异常检测系统。
- 为金融机构设计一个基于人工智能的文档处理管道。
- 设计一个人工智能动态定价引擎。
- 设计一个人工智能简历筛选系统，每周处理10万份申请。
- 设计一个AI语音助手架构。
- 设计一个多代理工作流系统，其中代理在复杂任务上进行协作。
- 答案： 多智能体系统
- 设计一个用于并发音频流的实时AI转录系统。
- 设计一个基于人工智能的直播内容审核系统。
LLMOps和生产AI
- 解释从构思到生产的人工智能产品生命周期。
- 什么是LLMOps，它与传统的MLOps有何不同？
- 你们如何在生产中为LLM提供服务？
- 什么是模型量化？
- 答案：在这个视频中解释： 人工智能工程解析：LLM、RAG、MCP、Agent、微调、量化
- 您如何监控生产中的LLM应用程序？
- 什么是LLM可观测性？
- LLM的护栏是什么，你是如何实施的？
- 如何对AI输出实施内容过滤？
- 你如何估算在生产环境中运行人工智能功能的成本？
- 您如何在生产中优化LLM推理成本？
- 您如何为LLM系统实施A/B测试？
- 什么是人工智能应用程序的CI/CD，它与传统的CI/CD有何不同？
- 您如何在生产环境中对提示进行版本控制和管理？
- 什么是模型版本控制，如何处理模型回滚？
- 如何为LLM API实现速率限制和节流？
- 您如何在不停机的情况下处理模型更新和迁移？
- 功能标志在人工智能部署中的作用是什么？
- 如何为LLM应用程序实现日志记录和跟踪？
- 您如何处理LLM输入和输出中的PII和敏感数据？
- 什么是LLM API管理的网关模式？
- 如何为实时AI应用程序实现流式响应？
- 生产AI系统的关键SLA和指标是什么（延迟、吞吐量、可用性）？
- 人工智能应用程序的云端与设备上模型部署。
- 答案： 云与设备上模型部署
- 当主模型不可用或速率受限时，您如何实施回退策略？
- 如何在生产中可靠地实现LLM的结构化输出？
- 如何在生产环境中高效地处理长上下文（上下文压缩、前缀缓存）？
- 什么是语义路由，如何在多模型系统中实现它？
- 如何在LLM应用程序中安全地管理机密和API密钥？
- 您的LLM API在高峰时段会出现延迟峰值。你如何稳定它？
- 你的法学硕士生产成本太高了。如何在不降低质量的情况下降低成本？
- 您的申请在高峰时段达到LLM提供商的费率限制。你是怎么处理的？
- 您的申请取决于一个LLM提供商。如何在不停机的情况下更换供应商？
- 你的AI系统每秒处理100个请求，但在5000次时崩溃。如何扩展并发请求？
- 流量激增会降低你的人工智能系统。你如何处理高峰流量？
- 一次LLM提供商停机导致您的整个系统瘫痪。如何消除单点故障？
- 当链中的一个模型断裂时，您的多LLM管道会失败。您如何处理编排失败？
- 你的人工智能管道对哪一步失败一无所知。如何增加可观察性？
- 你量化了你的LLM，但准确性大幅下降。如何最大限度地减少量化损失？
- 一个失败的AI组件可能会摧毁你的整个平台。你如何设计优雅的降级？
评估和测试
- 什么是人工智能应用程序的评估驱动开发？
- 你如何评估LLM的产出？你使用什么指标？
- 解释BLEU、ROUGE和BERTScore。你什么时候用？
- 什么是G-Eval，它如何使用LLM进行评估？
- 什么是法学硕士作为法官的评估，它的局限性是什么？
- 你如何对人工智能系统进行人工评估？
- 什么是红队，你如何红队LLM申请？
- 如何检测和测量LLM输出中的幻觉？
- 什么是人工智能系统的对抗性测试？
- 如何为AI应用程序构建回归测试套件？
- 什么是基准套件（MMLU、HumanEval、GSM8K），您如何解释它们？
- 您如何评估RAG系统的端到端？
- 您如何评估AI代理的质量？
- 人工智能系统的离线和在线评估有什么区别？
- 你如何衡量LLM输出中的事实一致性？
- 你如何评价多回合对话的质量？
- 黄金数据集在人工智能评估中的作用是什么？
- 如何对生产AI系统进行持续评估？
- 你如何评估人工智能模型输出中的偏差？
- 你如何以统计严谨的方式比较两个模型或提示？
- 您如何评估LLM应用程序在输入变化方面的稳健性？
- 评估传统ML与LLM应用程序之间的关键区别是什么？
- 如何从头开始为新的LLM申请建立评估框架？
- 你的模型通过了一个公平指标，但没有通过另一个。您如何处理相互冲突的审计结果？
- 你的模型在部署时是公平的，但6个月后变得有偏见。你是如何持续监控的？
- 外部审计师无法重现模型的结果。您如何确保审计的可重复性？
- 在发布之前，你如何为LLM聊天机器人构建红队？
- 在纯文本安全测试错过跨模式攻击的情况下，你如何对多模式模型进行红队划分？
人工智能安全、道德和负责任的人工智能
- 什么是LLM中的幻觉，你如何减轻它们？
- 什么是快速注射，有哪些不同的类型（直接、间接）？
- 你如何为人工智能系统实施输入和输出护栏？
- 什么是AI对齐，为什么它很重要？
- 你如何检测和减轻人工智能系统中的偏见？
- 在构建人工智能应用程序时，有哪些关键的数据隐私考虑因素（GDPR、CCPA）？
- 您如何处理LLM输入和输出中的PII？
- 人工智能中的可解释性是什么，为什么它很重要？
- 可解释性和可解释性有什么区别？
- 你如何在人工智能驱动的应用程序中与用户建立信任？
- 什么是针对人工智能系统的对抗性攻击，你如何防御它们？
- 什么是数据中毒，它如何影响人工智能模型？
- 您如何为AI生成的内容实施内容安全过滤器？
- 什么是负责任的人工智能，有什么框架可以实现它？
- 您如何处理人工智能生成内容的版权和知识产权问题？
- 什么是欧盟人工智能法案，它对人工智能工程有何影响？
- 你如何为人工智能决策实施审计跟踪和日志记录？
- 什么是模型卡文档，为什么它很重要？
- 您如何处理生产中人工智能系统的误用和滥用？
- 什么是差异隐私，如何在模型训练中应用？
- 你会如何设计人工智能事件响应计划？
- 什么是NIST人工智能风险管理框架（AI RMF）？
- 你的医疗聊天机器人会给出它不应该做出的医疗诊断。如何添加安全护栏？
- 你的人工智能系统正在逐字复制受版权保护的材料。你如何防止这种情况？
- 你的简历筛选人工智能拒绝了更多的女性工程师职位候选人。你如何纠正性别偏见？
- 你的人工智能模型分别通过了性别和种族的偏见检查，但对于交叉群体则失败了。你是怎么处理的？
- 你的人工智能拒绝了贷款，客户要求GDPR做出解释。你如何提供一个？
- 用户调用被遗忘权，但他们的数据在模型权重中。你是如何遵守的？
- 《欧盟人工智能法案》可能会将您的人工智能系统归类为高风险。你是如何遵守的？
- 你的差异化私人模型失去了显著的准确性。你如何平衡隐私和实用性？
- 一个恶意参与者正在毒害你的联邦学习模型。你如何防御它？
- 你的人工智能招聘模型使用代理功能来保护属性。如何消除代理歧视？
- 你的预测模型创建了一个有偏见结果的反馈循环。你怎么打破它？
- 你的人工智能会生成假新闻图像。你如何为人工智能生成的内容实现水印？
- 你的人工智能拒绝了一项服务，用户也无法对其提出质疑。你如何设计一个上诉程序？
- 一位审计员问为什么你的人工智能在6个月前拒绝了一个请求，而你没有日志。如何建立审计跟踪？
- 您删除了PII，但通过匿名数据重新识别了用户。如何防止重新识别？
- 来自开源仓库的预训练模型可能包含一个隐藏的后门。你是如何检测到它的？
- 你的法学硕士的训练数据被对手故意毒害了。你怎么回答？
- 你的人工智能心理健康聊天机器人向处于危机中的用户提供了有害的建议。你如何减轻伤害？
- 你的人工智能系统导致了错误的关键决策。你如何进行无可指责的验尸？
- 放射科医生98%的时间都同意人工智能，即使它是错误的。你如何防止人类过度依赖人工智能？
- 您的内容审核将正常的文化表达标记为在其他市场具有冒犯性。你如何适应跨文化？
- 你的人工智能训练会产生大量的碳排放。如何减少对环境的影响？
多模式人工智能
- 什么是多模式人工智能模型，它们如何处理不同类型的数据？
- 答案： 多模式人工智能
- 视觉语言模型如何处理图像？
- CLIP是如何工作的，为什么它对多模态AI很重要？
- 多模态模型的关键架构是什么？
- 图像生成如何与扩散模型（稳定扩散、DALL-E、通量）一起工作？
- 什么是文本到语音（TTS），它使用了哪些模型？
- 语音转文本（Whisper）是如何工作的？
- 什么是多模态RAG，它与纯文本RAG有何不同？
- 你如何构建一个同时处理图像和文本的系统？
- 什么是多模态嵌入，它们如何用于跨模态搜索？
- 你如何评估多模态人工智能系统？
- 实时多模态人工智能处理的挑战是什么？
- 你如何用人工智能处理视频理解？
- 什么是视觉问答（VQA）？
- 什么是文档理解，模型如何解析具有布局的文档？
- 如何微调视觉语言模型？
- 生产中多模式人工智能的延迟和成本考虑因素是什么？
- 您如何处理多模式内容审核？
- 什么是文本到视频生成，目前最先进的方法是什么？
- 解释多模态融合技术：早期融合与晚期融合。
- 你的视觉语言模型生成了事实上不正确的图像描述。你怎么修的？
- 您的VLM回答单个图像问题，但在多页文档上失败。你怎么修的？
- 多模式LLM忽略图像，仅从文本生成描述。你怎么修的？
- 您的扩散模型忽略了文本提示中的精确控制要求。如何提高可控性？
- 你的扩散模型会生成清晰但重复的图像。你如何平衡质量与多样性？
- 您的扩散模型在每张图像上花费的时间太长。如何加快采样速度？
人工智能基础设施和可扩展性
- LLM优化技术
- 答案： LLM优化技术
- 如何选择GPU进行LLM推理？
- 分布式训练中的模型并行性和数据并行性是什么？
- 什么是张量并行性，它如何帮助服务于大型模型？
- 什么是流水线并行性？
- 连续批处理如何提高LLM推理吞吐量？
- 答案： LLM中的连续批处理
- 什么是推测解码，它如何加速推理？
- 答案： 推测解码
- 什么是KV缓存，如何管理它的内存？
- 答案： LLM中的KV缓存是什么？
- 什么是注意力转移？
- 答案： LLMs中的页面注意力
- 您如何优化边缘和移动部署的推理？
- 什么是模型量化（INT8、INT4、FP16、BF16），它如何影响质量？
- 答案：在这个视频中解释： 人工智能工程解析：LLM、RAG、MCP、Agent、微调、量化
- 如何实现AI工作负载的自动扩展？
- 负载平衡在人工智能服务基础设施中的作用是什么？
- 如何管理GPU内存以服务于多个模型？
- 什么是模型分片，你什么时候会使用它？
- 如何为AI服务实现请求排队和优先级调度？
- 自托管和基于API的人工智能推理之间的成本权衡是什么？
- 如何处理无服务器AI部署的冷启动延迟？
- 如何实现模型缓存以减少冗余计算？
- 同步推理和异步推理有什么区别，什么时候使用？
- 什么是FSDP（全分片数据并行），它与DeepSpeed ZeRO有何不同？
- 您如何在生产环境中监控和分析LLM推理（TTFT、令牌间延迟、GPU利用率）？
- 什么是基础设施级别的模型路由，如何根据复杂性和成本路由请求？
- 答案： LLM路由
编码与实际实现
- 使用嵌入模型和向量数据库实现基本的RAG管道。
- 使用工具（例如计算器、网络搜索）构建一个简单的AI代理。
- 使用嵌入和余弦相似度实现语义搜索。
- 为不同的文本分块策略（固定大小、递归、语义）编写代码。
- 实现一个带有变量替换的提示模板系统。
- 使用LLM作为评判，为LLM输出构建评估管道。
- 为LLM API实现流式响应。
- 从头开始构建一个简单的向量相似性搜索。
- 为聊天机器人实现对话记忆系统（滑动窗口、摘要、缓冲区）。
- 编写代码以检测和处理LLM输出中的幻觉。
- 为LLM API调用实现具有指数退避的重试机制。
- 为LLM API编写一个函数调用（工具使用）处理程序。
- 对搜索结果实施简单的重新排序。
- 构建一个基本的文档解析器，从PDF中提取文本并将其拆分为块。
- 从头开始实现余弦相似性、点积和欧几里德距离函数。
- 编写代码以实现令牌计数和上下文窗口管理。
- 构建一个简单的提示版本控制系统。
- 为LLM响应实现缓存层。
- 为LLM查询实现语义缓存（为语义相似的查询缓存响应）。
- 编写代码以检测用户输入中的提示注入尝试。
- 实施LLM输出护栏系统，检查非主题响应和PII泄漏。
- 构建一个多代理系统，其中代理具有不同的角色并在任务上进行协作。
- 答案： 多智能体系统
基于行为和场景的问题
- 什么是人工智能工程，它与机器学习工程有何不同？
- 你如何决定一个问题是需要人工智能还是传统的软件解决方案？
- 你如何衡量人工智能功能的投资回报率？
- 当幻觉发生在生产AI系统中时，你如何处理？
- 您如何在使用LLM API和自托管开源模型之间做出决定？
- 你如何管理利益相关者对人工智能项目的期望？
- 描述您调试性能不佳的RAG系统的方法。
- 你如何跟上快速发展的人工智能格局？
- 你如何在人工智能系统中平衡创新与可靠性？
- 告诉我你参与的一个具有挑战性的人工智能项目。问题是什么？你采取了什么方法？你做了什么权衡？结果如何？
- 你会如何处理人工智能模型在生产中产生有偏见或有害输出的情况？
- 对于超出预算的人工智能系统，你如何进行成本优化？
- 描述一次你不得不在模型准确性和延迟之间做出选择的情况。你是怎么做出这个决定的？
- 当你的人工智能系统的质量随着时间的推移而下降时，你会如何处理？
- 你如何向非技术利益相关者传达人工智能的局限性？
- 你会如何用有限的标记数据构建人工智能功能？
- 描述你在人工智能项目上与跨职能团队合作的经验。
- 你认为人工智能工程在未来3-5年将走向何方？
- 你为什么对这个人工智能工程职位感兴趣？
- 您的项目经理希望在边缘病例上发布一个幻觉率为15%的AI功能。你如何传达风险？
- 一位非技术高管问，为什么你的人工智能功能不能100%准确。你如何解释LLM的局限性？
- 你需要在一个在基准测试中得分高出15%的复杂代理系统和一个更容易维护的更简单的RAG管道之间做出选择。你怎么决定的？
许可证
Copyright (C) 2026 Outcome School
Licensed under the Apache License, Version 2.0 (the "License");
you may not use this file except in compliance with the License.
You may obtain a copy of the License at
http://www.apache.org/licenses/LICENSE-2.0
Unless required by applicable law or agreed to in writing, software
distributed under the License is distributed on an "AS IS" BASIS,
WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
See the License for the specific language governing permissions and
limitations under the License.