护网面试
最全的网安面试题附参考答案
安全服务初级面试题
蓝队面试入门初级
HW蓝队防守方面试题
HW蓝队面试问答简易版
HVV护网面试实战大全
综合安全工位面试总结
高频渗透面试题必须会
州弟学安全细讲面试题
网安人职业路线的思考
万人共创互帮互助面试表
HW直推攻防演练招聘
XX安全服务实习生面试题
护网蓝队蓝初中面经
2026年HW真实工资!
蓝队总纲红线项目流程
对1000份网安简历的分析
AI渗透安全岗面试小记
AI安全面试题库2.0
小迪安全知识库
-
+
首页
AI安全面试题库2.0
AI安全面试题库2.0
# 来自于社区人员真实面试反馈及社区信源采集 ## LLM 基础 1. 大语言模型是怎么工作的? 2. Transformer 架构是如何工作的? 3. 什么是分词(tokenization)?它如何影响大模型的表现? 4. 什么是 temperature 和 top-p 采样?它们如何影响输出? 5. 什么是 KV cache?它对大模型推理有什么帮助? 6. 结合一个真实业务问题,说说生成式 AI 与传统编程的区别在哪 7. 在复杂的多步工作流中,你如何保证大模型的输出既稳定又准确? 8. 什么是 RAG?把完整流程讲一遍 9. 什么是向量嵌入(embedding)? 10. 文档切分(chunking)是怎么做的? 11. 判别式模型和生成式模型有什么区别? 12. 什么是 Graph RAG?它和标准 RAG 有何不同? 13. 在 LLM Agent 的语境下,什么是反思(reflection)? 14. 符号主义 AI 与联结主义 AI 有什么区别? 15. 文本摘要都有哪些做法?分别在什么场景下用? 16. 用大模型时,你怎么做记忆管理和上下文管理? 17. 什么是自注意力机制?它和多头注意力有什么区别? 18. 为什么即使在非生成任务上,decoder-only 架构也占主导? 19. 什么是位置编码(positional encoding)?Transformer 为什么需要它? 20. RLHF 和 DPO 有什么区别?什么情况下选哪一个? 21. 什么是专家混合(MoE)?它如何提升效率? 22. 大模型究竟是怎么生成文本的?解释自回归解码过程 23. 为什么大模型推理受限于显存(内存)? 24. 大模型里的停止序列(stop sequences)是怎么起作用的? 25. 什么是上下文窗口?超出窗口会发生什么?长文档该怎么处理? ## 一、AI 安全基础 1. 什么时候、以及怎样落地 LLM 护栏? 2. 如何设计一个既能最大限度减少有害输出、又保持好用和有表达力的语言模型? 3. 如何构建一个判定内容是否违规或含冒犯性材料的系统? 4. 解释宪法 AI与对齐相关考量 5. 训练数据和生成内容中的偏见怎么处理? 6. 你在模型里如何处理偏见与公平性?能举一个你遇到过的取舍吗? 7. 在强监管或合规要求高的领域(如金融、医疗),Agent 架构要怎么设计? 8. 如何向用户暴露模型的局限或错误,又不破坏信任? 9. 生产环境里如何发现并缓解幻觉? 10. 摘要系统里的事实性错误怎么防? 11. 模型自信地答错时怎么办?一个 RAG 聊天机器人给出自信但错误的答案,你怎么排查? 12. AI 系统的失效模式与传统软件系统有什么不同? 13. 你如何定义并约束 Agent 的自主边界? ## 二、AI安全技术题 1. 如何防御提示注入(prompt injection)和越狱? 2. 你怎么对一个 LLM 系统做红队测试? 3. Agent 如何安全地处理来自网页、邮件、文档和用户消息的外部指令? 4. 会用工具的 Agent 最大的安全风险是什么? 5. RefundPilot 如何抵抗提示注入攻击,并记录结构化的决策日志? 6. 你的应用会生成并执行代码,如何防止生成和执行恶意代码? 7. 如何安全地沙箱化工具执行? 8. 如何发现并终止无限的规划循环? 9. 如何设计一个既安全又好调试的 Agent 循环? 10. 如何实现人在回路(human-in-the-loop)?什么时候该触发人工审核? 11. 如何设计工具 schema,才能减少模型瞎调工具? 12. 工具调用失败、重试和幂等性怎么处理? 13. 如何控制工具调用引发的成本爆炸? 14. 如何设计 Agent 的终止条件、权限边界和高风险操作确认机制? ## 三、隐私与合规 1. 提示词和日志中的数据隐私与 PII 你怎么处理? 2. 数据进入 LLM 之前,如何在 Agent 链路里过滤 PII? 3. 在 RAG 链路里,你怎么保护敏感和机密数据? 4. 构建一个销售洞察 Agent 时,如何识别并拒绝 PII 请求(邮箱、电话、信用卡令牌)? 5. 销售洞察 Agent 为什么不允许把原始数据行传给 LLM,而只能传聚合结果? 6. 如何设计一个医院语音助手,同时处理隐私、延迟和专业词汇问题? 7. 如何设计一个带合规要求的法律合同生成系统? 8. 如何设计一个每月处理银行工资单、证件和推荐信的系统,并处理无效文件与服务商宕机? 9. 如何设计一个多 Agent 心理治疗(CBT)助手,包含危机识别、安全过滤、PII 脱敏与假名化、人在回路审批? 10. 如何构建一个可上生产的心理健康 MVP,满足安全、隐私、PII 脱敏与评测要求? 11. 如何设计一个带安全过滤的投资教练 Telegram 机器人,只提供教育性内容而不提供个性化理财建议? 12. Stripe 支付处理系统如何满足强一致性与 PCI 合规? ## 四、RAG、知识库与数据投毒安全 1. RAG 常见的失效点有哪些?怎么排查? 2. 在 RAG 链路里,你怎么保护敏感和机密数据? 3. RAG 系统里的引用与溯源怎么做? 4. 设计一个文档问答(RAG)助手,要求包含文档接入、检索、引用溯源,以及答不出来时的兜底 5. 设计一条端到端 RAG 服务,覆盖数据接入、索引、检索、生成、评测、追踪和护栏 6. 构建一个政策文档 RAG 助手,要求每个答案附来源引用,超出范围时返回安全兜底回答 7. 构建一个基于 FAQ 知识库的实时客服 Agent,要求模型只能依据已知 FAQ 数据作答 8. RAG 聊天机器人在答案不可得时必须回答“我没有这个信息”,如何保证它不编造? 9. 你的 RAG 系统能召回相关文档,但用户还是找不到答案怎样把它从“搜索引擎”变成“答案引擎”? 10. 如何评估一条 RAG 流水线?会用哪些指标(NDCG、MRR、precision@k、recall)? 11. 如何构建用于 RAG 幻觉检测的评测工具? 12. 政府文档 Agentic RAG 如何用忠实度、答案相关性、上下文精确率和上下文召回率评估? ## 五、Agent、工具调用与代码执行安全 1. 除了 LLM,一个 Agent 还需要哪些必要组件?其中哪些组件承担安全职责? 2. 哪些逻辑应该放在编排器(orchestrator)里,哪些该交给 LLM? 3. 如何设计一个既安全又好调试的 Agent 循环? 4. 长时间运行的 Agent,如何设置终止条件? 5. Agent 如何决定调用哪个工具? 6. 如何安全地沙箱化工具执行? 7. 如何实现人在回路?什么时候该触发人工审核? 8. 生产环境里如何监控和观测自主 Agent 的行为? 9. 在强监管或合规要求高的领域,Agent 架构要怎么设计? 10. 多 Agent 系统什么时候用编排(orchestration),什么时候用协同(choreography)? 11. 如何设计长期记忆而不让它被污染? 12. 多 Agent 心理治疗助手如何实现危机识别、安全过滤、PII 脱敏与人在回路审批? 13. 助手 Agent 如果能查询数据库、检索文档和执行 bash 命令,如何评估工具选择准确性、回答依据和错误处理? 14. 工作流引擎如何实现状态管理、分支、循环和死循环保护? ## 六、模型、训练与推理安全 1. 什么时候该微调、什么时候用提示工程、什么时候用 RAG?从安全角度如何选择? 2. 解释量化,模型体积、速度和精度之间如何取舍?安全影响是什么? 3. 你如何评估和对比 LLM 表现,尤其是安全性、偏见和拒答质量? 4. 如何构建评测用的黄金数据集,并用它做安全回归测试? 5. 新模型全量上线前,如何使用 A/B、金丝雀、交错和影子测试? 6. 一个线上聊天机器人的准确率在六周内从 95% 掉到 80%,在重新训练之前如何定位根因? 7. 如何针对不同提示词版本做 A/B 测试,同时监控安全回归? ## 七、红队、评测、监控与事件响应 1. 你怎么对一个 LLM 系统做红队测试? 2. 生产环境里如何发现并缓解幻觉? 3. 面对非确定性输出,你的测试策略是什么? 4. 在传统指标不适用的生成式系统里,你如何衡量准确性? 5. 如何对生产中的模型做评估和监控,而不只是离线评估? 6. 除了准确率,AI 系统还有哪些运营和业务指标重要? 7. 如何为一个 ML 模型确定成功指标? 8. 如何构建评测用的黄金数据集?怎么用它做回归测试? 9. 一个 RAG 聊天机器人给出自信但错误的答案,你怎么排查? 10. GenAI 应用里的异常,你会按什么步骤处理? 11. 如何设计安全、隐私、PII 脱敏与评测的生产级 AI 应用?
xiaodi
2026年11月22日 16:20
6
0 条评论
转发
收藏文档
上一篇
下一篇
手机扫码
复制链接
手机扫一扫转发分享
复制链接
分享
链接
类型
密码
更新密码
有效期
Markdown文件
Word文件
PDF文档
PDF文档(打印)