14 答案与评分点
先做13章再看。本章数字采用乘加算2 FLOPs、GiB=2³⁰bytes、自然对数、标准全头MHA及指定的population std；条件改变时答案可不同。
A. 判断题
| 题 | 结论 | 关键理由 |
|---|---|---|
| 1 | 错 | ID是索引，语义在学习的向量中 |
| 2 | 错 | 编码使用训练好的merge规则和rank |
| 3 | 错 | 后续hidden state仍取决于上下文和网络计算 |
| 4 | 错 | 仿射复合仍仿射 |
| 5 | 错 | eval与禁用autograd不同 |
| 6 | 错 | B位置预测C，读取C会目标泄漏 |
| 7 | 对 | 点积需要共同d_k，输出宽度可由d_v决定 |
| 8 | 错 | Q/K投影不同，逐行softmax也不保证对称 |
| 9 | 错 | 若不重新归一化，行和和输出改变 |
| 10 | 错 | RMSNorm不减均值 |
| 11 | 错 | 相对位置不保证对任意内容点积单调 |
| 12 | 错 | Q不同，分数和权重仍可不同 |
| 13 | 错 | 只省重算，历史KV仍要参与检索 |
| 14 | 错 | 前置上下文/位置等也必须兼容 |
| 15 | 错 | 降低分配/共享浪费，不改每元素固有存储 |
| 16 | 错 | 标准dense版本算术仍二次，主要省IO和中间存储 |
| 17 | 错 | Top1后单项softmax恒1；全softmax的选中概率仍可求导 |
| 18 | 错 | shared是所有token执行的独立专家 |
| 19 | 错 | 低秩约束针对ΔW |
| 20 | 对 | teacher熵对student常数，注意teacher必须固定 |
| 21 | 错 | greedy仍可能确定地输出错误事实 |
| 22 | 错 | 奖励来源与优化算法是不同维度 |
| 23 | 错 | clip是surrogate激励限制，不是概率比硬约束 |
| 24 | 错 | 相对policy信号退化，KL等其他项仍可能非零 |
B. 计算与推导
25. d=8；Q分头[2,3,5,8]；A[2,3,5,5]；context合并[2,5,24]。Q/K/V/O各24²，总2304参数。不要把batch、sequence乘进参数量。
26. Q=[[2,1],[1,2]]，K=[[1,2],[1,1]]，V=[[2,-1],[1,0]]；scores=[[4,3],[5,3]]/√2。A≈[[.6698,.3302],[.8044,.1956]]；Z≈[[1.6698,-.6698],[1.8044,-.8044]]。causal后首行A=[1,0]、Z=[2,-1]，第二行不变。只改变第二个token时，第一输出在masked条件下不变；unmasked没有此保证。
27. 每个q_rk_r在假设下方差1，独立求和方差d，标准差√d；除√d后方差1。若除d则方差1/d，会随着维度增大过度缩小分数。softmax饱和动机和假设条件均应说明。
28. 使用R_mᵀR_n=R_(n-m)，再左乘qᵀ右乘k。频率[1,.01]；两个位置对点积均≈10.48301217。必须固定内容、同旋转约定；只说“位置差相同”未写正交性推导不充分。
29. LN=[-1,1]；RMSNorm=[1/√5,3/√5]。共同加10后LN仍[-1,1]，RMSNorm变[11/√145,13/√145]，不再相同。
30. 原参数2×768×3072=4,718,592；SwiGLU F=(2/3)3072=2048，使3DF相同。仅线性前向FLOPs都约9,437,184/token，非线性和访存仍有不同。
31. 平均NLL=(ln2+ln4+ln8)/3=ln4≈1.386294，PPL=4。不同长度组汇总NLL总和/有效token总数后取exp；不能平均PPL。
32. top-k2=[.625,.375,0,0]；top-p.81保留前三项，归一化[10/19,6/19,3/19,0]。正温度不改排序，但可能改变top-p集合。
33. 接受率[.75,1]，接受质量[.6,.2]；拒绝概率.2；残差[0,1]；最终[.6,.4]。得分点是min(p,q)+(p-q)_+=p，不只是列结果。
34. GQA：2×32×4×8192×8×128×2=4,294,967,296bytes=4GiB。MHA Hkv32为16GiB；MQA Hkv1为.5GiB。Q头32不应替代公式中的KV头8。
35. 权重约14.901161GiB；剩余24-4-14.901161=5.098839GiB。每tokenKV=2×32×8×128×2=131,072bytes；理论可装floor((20×2³⁰-16×10⁹)/131072)=41,769tokens。注意题设的24GiB不是24GB；实际还受模型最大长度、分页舍入、碎片、工作区随长度增长等限制。
36. ceil长度/16分别2、2、3块，共7块112槽；真实84tokens，浪费28槽。第三与第二共享完整前32token时，理想共享2块，独有物理块5块。修改共享块需遵守copy-on-write；逻辑槽统计与物理共享统计要分开。
37. 2×128×256×64=4,194,304 FLOPs。roofline=min(100,1×10)=10TFLOP/s。不是说这一次小matmul真能达到10TFLOP/s，还存在launch/形状效率问题。
38. 先处理[0,ln2]：m=ln2、ℓ=1.5、u=2.5；加入ln3后旧乘2/3，ℓ'=2、u'=17/3，输出17/6。换m就换指数归一化基准，旧统计必须同比重缩放。
39. t=10⁴s=2.777778h，IT电量2.777778kWh，含PUE为3.333333kWh。若吞吐有效性或功率口径变，估算跟着变。
40. A[16,1024]，B[4096,16]，参数16×5120=81,920，scale=2。初始B=0则ΔW=0；首步∂A=0而∂B通常不为0。W0冻结但参与forward。
41. KL(q||p)=.8ln1.6+.2ln.4≈.192745；反向=.5ln(.5/.8)+.5ln(.5/.2)≈.223144。不同方向以不同分布加权，不能交换。
42. mean=1、std=1，A=[1,1,-1,-1]；两例目标项1.2和-.8。若写loss，要反号；若分母用sample std，需明确说明并得相应不同A。
C. 原理题评分框架
43. messages→template→IDs/mask→embedding→N层→norm/head→最后位置logits→首token；各层cache在prefill建好；新token正确position进入decode并追加KV；采第二/第三token。若漏“最后位置用于下一token”或每步重置position，说明流程未打通。
44. RoPE：位置关系；GQA：KV容量/带宽；SwiGLU：乘性非线性特征；pre-norm：深层梯度主路径。分别说明外推局限、共享取舍、三投影预算、非绝对最优结论。
45. ICL推理上下文；SFT监督目标；LoRA更新参数化；蒸馏教师信号；量化数值表示；RLVR奖励来源；GRPO策略优化。可构造“冻结4bit base+LoRA学习教师答案SFT，再用可验证数学奖励GRPO”。可行性还需实现/硬件支持，不靠概念组合保证程序能跑。
46. D固定则各头总投影宽仍D，参数约4D²；GQA减少K/V投影及cache，却保留Hq个独立query的attention匹配。应同时考虑投影、匹配、访存，而非用一个比例概括全部成本。
47. 通信：all-to-all、热点、很多小matmul、调度。优化：router离散性、专家饿死、数值稳定、微调漂移。答“专家多所以强”不足。
48. f为硬分配比例、P为平均soft概率；∂L/∂p_(t,e)=αE f_e/T，f求导时视常数。经softmax回传使过载概率受惩罚，不是对argmax索引求导。
49. PT用一般语料next-token；SFT用示范回答并mask；RM用偏好对rank差的logistic loss；PPO用rollout reward、critic advantage、ratio/clipping及KL；GRPO用同prompt多rollout的组相对advantage并省critic。
50. old是采样/更新前行为策略，为ratio分母；ref是行为锚点，为KL比较对象。GRPO只移除critic需求，不自动移除ref和奖励来源。
51. 固定token长度/输出、等长非共享对照、预热、冷/热缓存分离、足够重复/随机顺序、控制并发，记录TTFT和真实cache指标；累计counter差分，明确block/token单位。无法控制共享服务器就降低因果结论强度。
52. CoT会累积错误、greedy会稳定错误、RAG可能检索错误。改进：可靠检索→来源对照→可执行检验/独立验证→不确定时保留不确定性→用带真值数据评估准确率与来源忠实度。
D. 查错题
53. view只改内存解释，不交换原time/head顺序。应先reshape到[B,T,H,d]再transpose(1,2)，合并时反向操作并考虑contiguous。
54. 没有。跨调用需要保存/传递past_key_values并只输入新token（按接口约定）。一次forward产生cache不表示下次自动能用。
55. 若权重/归一化相同，数值输出可等价；但E专家计算都做了，没有主要稀疏compute收益。需要dispatch到所选token子集。
56. 两个因子互相乘0，首步两边梯度都0，无法从该路径启动。常用A随机/B零，使ΔW=0但B能获梯度。
57. 发生两次shift，可能变成预测错位更远目标而非next-token。先确认模型内部契约，用短已知序列逐索引打印对齐。
58. old失去固定采样参照，若分子分母同一张量ratio恒1且梯度相消；即使detach分母，每轮重同步也不是预期的多轮PPO目标。正确保存rollout时old logp，current按更新重新算。
59. 目标有效mask要随offset重新对齐，防末端PAD被算loss；detach决定aux loss不回传backbone。前者是目标正确性，后者是训练设计，不能混成同一个问题。
60. 不能。prompt/输出长度不同、无TTFT/命中指标、热身/服务器负载未知；只能说该两组端到端观测如此，不能归因为缓存无效。
