LLM面试前先补这五块基础，比背三十道题更管用

准备生成式AI岗位面试，先把Transformer、token、自注意力、模型选型和线上约束讲顺；三十道题只是外壳，面试官真正追问的，是你能不能把选择条件和代价说清楚。

面试官问“什么是LLM”，到底在听什么

这题看着像送分题，实际在筛你有没有把训练和推理分开。公开的这份30题清单把它放在第一题，面向应届和初级工程师，示范答案按1分钟内能说完来写。一个能过关的说法分三层：模型是神经网络，通常是Transformer；训练目标是用前面的token预测下一个token；聊天模型是在这个基座上继续做指令和对话训练。推理时一次只生成一个token，再把输出塞回输入继续跑。
别把这段背成名词解释。面试官很可能接着问“Chat模型和基座模型差在哪”，你就用同一套逻辑往下说：基座学的是语言规律，Chat模型多了指令跟随和对话能力。清单里特意提醒，不要记措辞，要换成自己的话，能换成自己项目里的例子就换。没有项目例子也别硬编，直接说“这块我只在课程实验里做过”，比编一个上线系统安全。

Transformer和自注意力，哪些细节最容易被追问

第二题考架构，第三题考注意力。Transformer先把token变成embedding，加位置信息，再送进一叠结构相同的block；每个block里有自注意力和前馈网络，两边都有残差连接和layer norm。原始设计是encoder加decoder，现在多数通用LLM是decoder-only。它相对RNN的关键优势是训练时所有位置能并行算，这句话要能脱口而出。
自注意力这题，很多人只背“Q、K、V”，一追就露馅。每个token的向量投影成query、key、value；用query和所有key做点积，除以key维度的平方根，再softmax成权重，最后对value加权求和，写成softmax(QK^T / sqrt(d_k)) V。多头的做法是并行跑几组不同投影，让不同头关注不同关系。面试官常追问“为什么要除以平方根”，答案是不缩放的话点积容易过大，softmax会落进梯度很小的区域。这个“为什么”比公式本身更能区分人。

BERT、GPT、T5该怎么选，别只报名字

第四题是模型选型。BERT是encoder-only，双向看整个输入，适合分类和embedding；GPT是decoder-only，用因果mask，每个token只能看前面的，适合生成；T5是encoder-decoder，先编码输入再解码输出，翻译和摘要很自然。今天通用LLM里decoder-only占主流，但别把“主流”说成“唯一正确”。如果面试官给你一个分类任务，你张口就说“用GPT生成”，他会继续问成本和延迟，这时候答不上来就减分。
这题的回答顺序可以是：任务是要理解还是生成，需不需要双向上下文，输出是不是一段新文本，再落到具体模型。清单里把这组题放在基础部分，说明初级岗也会问，但不会要求你推公式推到研究级。能把“为什么选这个”说清楚，比多报三个模型名有用。

token为什么会影响报价和延迟

第五题问token，很多人答“就是词”，太粗。token是模型读写的最小单位，通常来自BPE或SentencePiece这类分词器。英文里一个token平均大约4个字符，但Hindi等其他语言表达同样意思往往要更多token。上下文上限、延迟和API价格都按token算，所以它不是概念题，是成本题。
准备项目介绍时，别用字数代替token数，尤其非英文场景。你可以拿项目里的真实prompt跑一遍分词器，看看输入和输出各占多少，再决定要不要压缩上下文。面试里如果被问“为什么这个请求这么贵”，你能拆成输入token、输出token和重试次数，回答就具体了。清单还把chunking、向量索引和RAGAS放到另一份RAG题里，这30题不覆盖那部分，别把RAG的细节硬塞进基础题答案里。

简历写了音频生成，面试官会怎么追

如果简历里有生成式音频项目，面试官很可能不满足于“我调过API”，而是追问你为什么这样拆模型。公开材料里，AudioCraft在2023年8月2日发布，框架分成MusicGen、AudioGen、EnCodec三个模型；它强调训练用的是原始音频信号，不是MIDI或钢琴卷。这个细节可以拿来说明“数据形态决定模型设计”，但别把它说成你的亲历。

• MusicGen： 用Meta自有和专门授权的音乐训练，做文本到音乐。
• AudioGen： 用公共音效训练，做文本到音效。
• EnCodec： 是音频编解码模型，公开材料提到这次发布了改进版的EnCodec解码器。

被问“为什么不用一个模型全包”时，可以按任务和数据来源拆：音乐和音效不是同一类训练数据，编解码又是另一层能力。授权音乐和公共音效的来源不同，拆开讲至少更清楚。回答时可以补一句：先确认数据授权和输出格式，再决定用哪个模型。这个回答不需要你假装跑过AudioCraft，只需要把公开设计讲清楚。面试官要听的是你的判断路径，不是你背产品页。

把30题变成能开口的练习

清单里的示范答案按1分钟内说完设计，这个限制很实用。练习时别默读，直接开口说，录下来回听，超过1分钟就砍掉背景铺垫，先给结论。每个答案至少补一个“为什么不选另一个”的对比，比如BERT和GPT、encoder-decoder和decoder-only、缩放和不缩放。面试官追问时，你才有第二层可讲。
这条AI工程师学习路线不用从论文目录开始，按四组问题推进更稳：基础原理、训练与微调、调用时的提示词和推理参数、线上安全运行。公开材料说，最后一组最能区分“做过”和“只读过”。如果你没有上线经验，就准备一个可验证的小方案，讲清楚输入输出、失败模式和回滚条件，别编一个“我们线上跑了很久”的故事。
最后提醒一句，30题只是范围，不是题库答案。把每题的“定义、为什么、什么时候不适用”三件事说顺，比背30段范文更接近面试现场。