人工智能考研

答案 B(堆排序最坏 O(n log n)、辅助空间 O(1))

解析 【考点定位】出自数据结构内部排序单元,通用教材体系以「时间复杂度(平均与最坏)、辅助空间、稳定性」三列对常用排序做横向比较,考纲对应「内部排序算法的性能分析」,是排序三大命题面(复杂度、特性、模拟)中覆盖面广的一类,也是自命题数据结构部分的常规客观题。 【逐项分析】A 项错:快速排序平均时间复杂度为 O(n log n),但当每次划分极不平衡(例如序列已基本有序且固定取首元素为枢轴)时退化为 O(n²),平均与最坏并不相同;其递归实现还需要平均 O(log n) 的栈空间。B 项对:堆排序自底向上建堆为 O(n),随后 n-1 次取堆顶、每次自堆顶向下调整 O(log n),任何输入下都为 O(n log n),且堆就建在原数组上、只占用常数个辅助单元,选 B。C 项错:直接插入排序平均与最坏均为 O(n²),只在序列基本有序时接近 O(n)。D 项错:归并排序无论输入如何都稳定在 O(n log n),它的代价在空间——每次合并需要 O(n) 的辅助数组。四个选项把「平均与最坏是否一致」和「空间代价」两条主线各考一遍,正是排序复杂度对比的典型命题面。 【知识串联】复杂度对照表应连同稳定性一列整表记忆:直接插入、冒泡、归并、基数稳定,快排、希尔、简单选择、堆排序不稳定;「一趟能否固定元素最终位置」是另一命题面(简单选择、快排、堆排序可以,插入与归并不行);排序同时是分治策略的入门载体,归并与快排的分治结构直接通向算法设计策略单元(贪心与动态规划的辨析见本组后题)。 【易错点】快排空间是 O(log n) 递归栈而非 O(1);归并以空间换时间,误记成原地排序;把「平均与最坏一致」张冠李戴到快排头上;堆排序建堆 O(n) 与逐次调整 O(log n) 两段混淆,以为总时间是 O(n) 或更差。 【变式思路】变式一:多叙述组合判断,如「快排空间 O(1)、归并稳定、堆排序不稳定」挑对错;变式二:给初始序列问某排序一趟后的中间结果;变式三:问序列基本有序时选哪种排序(直接插入或冒泡接近 O(n));变式四:稳定性在多关键字排序中的用途判断。自列一张三列对照表、每格写清依据(划分平衡性、合并过程、建堆与调整),比背结论牢固。

答案 A(基于贪心策略,按路径长度递增确定各顶点最短路径)

解析 【考点定位】出自数据结构图单元的最短路径小节,通用教材体系将单源最短路径(Dijkstra)与多源最短路径(Floyd)并置讲授,考纲对应「图的应用:最短路径」,是图论部分的概念命题主干,算法家族对照与适用条件是两大常设问角度。 【逐项分析】A 项对:算法维护一个已确定最短路径的顶点集合,每一步在集合之外选取当前路径长度值小的顶点纳入,并以它去更新(松弛)其邻接顶点的路径估计,本质上就是按路径长度递增的贪心确定过程,选 A。B 项错:负权边会破坏这一贪心的正确性——反例:源点 s 到顶点 a 的直达边权为 5,另有路径 s→b(权 2)→a(权 -4),总长 -2 更短;但算法可能已按 5 把 a 的路径「敲定」,此后不再修正,得到错误结果。C 项错:一次运行只解一个源点;求每一对顶点间的最短路径应使用 Floyd 算法(动态规划,O(n³))或对每个源点各运行一次 Dijkstra。D 项错:算法对有向图同样适用,前提仍是边权非负。四个选项分别对应策略、适用条件、求解范围、图类型,合起来就是该算法的概念命题面。 【知识串联】Dijkstra=贪心+非负权前提,Floyd=动态规划+允许负权边(不可有负权回路)+O(n³),两者与最小生成树算法(Prim 同为逐点扩张的贪心,但优化目标不同)应放进一张对照表;松弛操作是理解实现的钥匙;堆优化可把 Dijkstra 做到 O((n+e)log n),是「算法+数据结构」组合增效的典型例子,也可作为追问方向。 【易错点】负权反例画不出来,只能背「不能用」却说不出为什么;把「按路径长度递增确定」误解为 BFS 的「按层次扩展」(BFS 处理无权图,Dijkstra 处理带权非负图);混淆单源与多源的求解范围;以为有向图需要专门改造算法。 【变式思路】变式一:给具体带权图手工跑一遍 Dijkstra,写出每轮的路径估计表;变式二:在图中放一条负权边,问结果是否可靠并说明原因;变式三:问 Prim 与 Dijkstra 的异同(都逐步扩张,一个求生成树一个求单源最短路);变式四:Floyd 三重循环与状态转移的辨认。两个顶点三条边即可现场构造负权反例,这一手要练熟。

答案 A(最优子结构为两者共有前提,贪心选择性质为贪心独有)

解析 【考点定位】出自数据结构算法设计策略部分,通用教材体系把分治、贪心、动态规划、回溯并列为基本设计策略,考纲对应「算法设计与分析:策略性质判定」,是算法设计向自命题卷的概念主干题,常以「性质归属+方法适用性」的组合叙述形式出现。 【逐项分析】A 项对:最优子结构指问题的最优解由子问题的最优解构成,是动态规划与贪心共有的前提;贪心还额外要求贪心选择性质——整体最优解可由一系列局部最优选择逐步导出,这一性质成立时自顶向下一次推进即可,无需回溯。B 项错:把两者的回溯特征说反了——贪心算法每步做出当前选择后不回头修正,「一选不悔」正是它速度快的代价;动态规划通过填表时对决策取 max 或 min 系统比较各种可能,保留了全局比较的余地。C 项错:按单位重量价值贪心在物品可分割(分数背包)的情形可证最优,但 0-1 背包物品不可分割,装入与否的组合效应使局部贪心丢失全局最优——反例:容量 6,物品甲(重 4,值 8)、乙(重 3,值 5)、丙(重 3,值 5),贪心先装甲,剩容量 2 装不下乙丙,得 8;不装甲、装乙丙则总重 6 恰好、总值 10 更优。D 项错:动态规划的主战场恰是离散组合优化(背包、最长公共子序列、编辑距离、图最短路),连续优化反而不是它的典型用武之地。 【知识串联】三种策略按「子问题是否独立、是否重叠、是否做不可回溯的选择」区分:分治的子问题互相独立(如归并排序);动态规划的子问题重叠,用表结构避免重复计算;贪心在动态规划的要求之上再加贪心选择性质,把「比较所有决策」压缩成「取当前最优」。0-1 背包与分数背包是试金石:后者具备贪心选择性质、前者不具备,只能走动态规划,正是下一题的主题。 【易错点】把「贪心更简单」误解为「贪心是动态规划的特例且总能用」;构造反例时忘记「物品不可分割」才是 0-1 背包贪心失效的根源;混淆最优子结构与贪心选择性质(前者两者共有,后者贪心独有)。 【变式思路】变式一:问哪些经典问题适合贪心(Huffman 编码、单源最短路、最小生成树等,注意与图论题交叉);变式二:给具体背包实例验证贪心解与最优解的差距;变式三:判断「动态规划在状态与转移设计正确时能得到精确最优解」(对,这正是它换取空间开销的回报);变式四:判断某问题是否具备最优子结构。见到「局部最优能否推出全局最优」的问法,先检验贪心选择性质。

答案 答题要点:①f(i,j)=max{f(i-1,j), f(i-1,j-w_i)+v_i}(j≥w_i 时两项取大,j<w_i 时 f(i,j)=f(i-1,j)),边界 f(0,j)=0,其中 w_i、v_i 为第 i 件物品的重量与价值;②逐行填表:i=1 行 j=0~8 依次为 0、0、3、3、3、3、3、3、3;i=2 行为 0、0、3、4、4、7、7、7、7;i=3 行为 0、0、3、4、5、7、8、9、9;i=4 行为 0、0、3、4、5、7、8、9、10;f(4,8)=10;③回溯:f(4,8)=10 与 f(3,8)=9 不同,装物品 4,容量剩 3;f(3,3)=4 与 f(2,3)=4 相同,不装物品 3;f(2,3)=4 与 f(1,3)=3 不同,装物品 2,容量剩 0,物品 1 不装;装入集合为{物品 2, 物品 4},总重 3+5=8(恰好装满),总价值 4+6=10。

解析 【考点定位】出自算法设计策略的动态规划单元,通用教材体系以 0-1 背包为动态规划入门的标准载体,考纲对应「动态规划:状态设计、转移方程、填表与方案回溯」的完整链条,是自命题算法大题的保留题型,步骤分占大头。 【得分点结构】按「状态与方程—填表—回溯」三段给分。第(1)问:对物品 i 只有不装与装两种决策,不装则继承上一行 f(i-1,j),装则先腾出 w_i 的容量取得 f(i-1,j-w_i) 再加 v_i,两者取大,即 f(i,j)=max{f(i-1,j), f(i-1,j-w_i)+v_i},j<w_i 时只有不装分支;边界 f(0,j)=0(没有物品可选时价值为 0)。第(2)问逐行填表:i=1(重 2,值 3):j<2 为 0,j≥2 为 3,即 0、0、3、3、3、3、3、3、3;i=2(重 3,值 4):j=3 起出现「装」分支,4+f(1,0)=4 越过不装的 3,j=5 处 4+f(1,2)=7,整行为 0、0、3、4、4、7、7、7、7;i=3(重 4,值 5):j=4 处 5+f(2,0)=5、j=6 处 5+f(2,2)=8、j=7 处 5+f(2,3)=9、j=8 处 5+f(2,4)=9,整行为 0、0、3、4、5、7、8、9、9;i=4(重 5,值 6):j=8 处 6+f(3,3)=6+4=10 越过不装的 9,整行为 0、0、3、4、5、7、8、9、10,故 f(4,8)=10。第(3)问从 (4,8) 回溯:两行值不同即该物品装入并扣容量,相同即不装;依次得装物品 4(剩容量 3)、不装物品 3、装物品 2(剩容量 0)、不装物品 1,总重 8 恰好等于容量,总价值 4+6=10。 【知识串联】本题与上一题构成贪心与动态规划的正面会师:同一背包,贪心按单位价值装入得不到保证,动态规划穷尽「装与不装」的组合得到精确最优;滚动数组(一维 f[j] 按 j 自大到小枚举)可把空间压到 O(C),是代码实现的常见追问;完全背包(每件物品无限件)把内层枚举方向反过来,恰好对应「装了还能再装」;状态设计的思想与 Dijkstra 按「考虑范围递增」逐轮扩表同构。 【易错点】方程里把 f(i-1,j-w_i) 误写成 f(i,j-w_i)(同一行取值,物品被重复装入,变成完全背包);填表时 j≥w_i 仍照抄不装分支导致漏更新;回溯时比较对象弄错(应比 f(i,j) 与 f(i-1,j));边界行 f(0,j)=0 漏写;验证环节忘记核对总重量不超过容量。 【变式思路】变式一:改问「恰好装满」口径(初始化 f(0,0)=0、其余取负无穷,再比较可达性);变式二:改物品数与容量重填表格;变式三:统计最优方案数或要求输出编号靠前的方案;变式四:改为完全背包、多重背包。抓住「不装看上一行、装看左上方」的表格几何,这一族题通吃。

答案 D(半监督学习的要点是少量标注样本与大量无标注样本联合使用)

解析 【考点定位】出自机器学习绪论部分,通用教材体系以「监督、无监督、半监督、强化学习」四种学习范式开篇,考纲对应「机器学习基本概念与学习范式辨析」,是自命题概念题的常规起点,也是后续所有模型的「户口本」——每个模型都要先归入一种范式,再谈方法与评估。 【逐项分析】A 项对:训练样本带有人工标注的类别标签,模型从「输入-标签」样本对中学习映射,邮件文本到「垃圾/正常」的判别正是标准的有监督分类。B 项对:监督学习按输出空间分离散与连续两支,输出连续数值的是回归,房价、气温、销量预测都属此类;输出离散类别的是分类,两者共用「有标签」这一前提。C 项对:聚类不给标签,按样本间距离或密度的结构自行成组,是无监督学习的代表;此外降维(如主成分分析)、密度估计、关联规则挖掘也在无监督名下。D 项错:半监督学习的定义恰恰是「少量标注样本+大量无标注样本」联合训练——标注昂贵、无标注廉价的现实催生了这一范式,典型做法如自训练、协同训练与半监督支持向量机;「只用无标注数据」是无监督学习,不是半监督,选 D。 【知识串联】范式判定是许多模型题的隐藏前置问:支持向量机、逻辑回归、决策树是监督;K 均值、DBSCAN、层次聚类是无监督;朴素贝叶斯虽是生成模型,训练时同样用标签,属监督;强化学习与之并列为第四种范式,靠与环境交互的奖励信号学习,不在本题选项内。分类与回归的区分还决定评估口径:前者用混淆矩阵、精确率召回率(见本组评估一题),后者用均方误差、绝对误差(见本组线性回归一题)。 【易错点】把「模型名字带回归」当成回归任务(逻辑回归是分类器,见本组逻辑回归一题);认为聚类「其实也有类别」而混同于分类——聚类的组是算法产出的结构,不是人事先定义的标签;半监督与无监督望文生义混为一谈;把「无标注数据」与「带标签数据」的成本差异这一半监督的动机漏掉。 【变式思路】变式一:给一批具体任务(垃圾邮件识别、新闻自动分组、房价预测、用户分群)问各属哪种范式;变式二:问「分类与回归的区别」,按输出离散与连续作答;变式三:问无监督学习除了聚类还包括什么(降维、密度估计、关联分析);变式四:强化学习与其他三种的分界(奖励信号而非标签)。判定口诀:有无标签定范式,输出离散连续定分类回归。

答案 答题要点:①x̄=2.5,ȳ=4;Sxx=(−1.5)²+(−0.5)²+(0.5)²+(1.5)²=5;Sxy=(−1.5)(−2)+(−0.5)(−1)+(0.5)(1)+(1.5)(2)=7;b=Sxy/Sxx=7/5=1.4;a=ȳ−b·x̄=4−1.4×2.5=0.5;②ŷ=0.5+1.4x;x=5 时 ŷ=0.5+7=7.5;③4 组拟合值依次为 1.9、3.3、4.7、6.1,残差(实测−预测)为 0.1、−0.3、0.3、−0.1,残差之和为 0,SSE=0.01+0.09+0.09+0.01=0.2。

解析 【考点定位】出自监督学习线性模型单元的线性回归小节,通用教材体系把它作为「模型—损失—参数求解」三件套的入门样本,考纲对应「线性回归与最小二乘估计」,是机器学习与概率统计交叉部位的常规计算题,步骤固定、数值干净。 【得分点结构】第(1)问先算均值:x̄=(1+2+3+4)/4=2.5,ȳ=(2+3+5+6)/4=4;离差平方和 Sxx=(−1.5)²+(−0.5)²+(0.5)²+(1.5)²=2.25+0.25+0.25+2.25=5;交叉离差和 Sxy=(−1.5)(−2)+(−0.5)(−1)+(0.5)(1)+(1.5)(2)=3+0.5+0.5+3=7;斜率 b=Sxy/Sxx=7/5=1.4,截距 a=ȳ−b·x̄=4−3.5=0.5。第(2)问:ŷ=0.5+1.4x;x=5 时 ŷ=0.5+1.4×5=7.5。第(3)问:各组拟合值 1.9、3.3、4.7、6.1,残差(实测−预测)为 0.1、−0.3、0.3、−0.1,求和恰为 0,SSE=0.01+0.09+0.09+0.01=0.2。可再算总离差平方和 SST=4+1+1+4=10,得拟合优度 R²=1−SSE/SST=1−0.02=0.98,作为附加说明。 【知识串联】最小二乘的目标是最小化平方损失 SSE,一元情形有闭式解,多元情形的正规方程 (X^T X)^(−1) X^T y 与之同源;SSE 除以自由度得均方误差,是回归任务的标配评估量;梯度下降求同一目标是无闭式解模型(如神经网络)的通用替代,其一步更新的算例见本组梯度一题;残差之和为零、残差与自变量样本相关为零是正规方程的内生性质,不是数据巧合。回归侧的常见评估还有均方误差的平方根(RMSE)与平均绝对误差(MAE),前者对大偏差样本更敏感;当特征间高度共线或特征数超过样本量时,最小二乘解不稳定,岭回归在正规方程上加入 L2 惩罚正是对症手段,与本组过拟合一题的正则化思想同源。 【易错点】Sxy 配对错位(离差必须同一样本的 x 与 y 相乘);公式记成 b=Sxx/Sxy 或把 a=ȳ−b·x̄ 的减号丢了;残差方向弄反(残差=实测−预测);把 x=5 的外推当内插使用——样本范围仅 1~4,预测值仅供参考,这类说明写了常是得分点。 【变式思路】变式一:换一组数据重算 b、a 与预测值;变式二:加问 SST、SSE 与 R² 的计算与含义;变式三:问「若改用梯度下降,损失对 b 的梯度形态」(与偏导数计算衔接);变式四:讨论样本量少于参数个数或特征共线时正规方程不可逆的问题。离差表逐列计算、公式两行默写,此题即流程题。

答案 D(逻辑回归是分类模型,「回归」源自对数几率的线性建模)

解析 【考点定位】出自监督学习线性模型单元的 logistic 回归小节,通用教材体系将其与线性回归对照讲授,考纲对应「分类模型:logistic 回归」,是「名字与任务错位」这类概念辨析题的高发区,也常作为损失函数与概率输出的追问载体。 【逐项分析】A 项对:σ(z)=1/(1+e^(−z)) 把实数轴压进 (0,1),输出天然可当后验概率 P(y=1|x) 使用,取阈值(常取 0.5)切分即得类别。B 项对:w·x+b=0 是特征空间中的一张超平面,一侧输出大于 0.5、另一侧小于 0.5,原始特征空间下边界是线性的;要弯曲边界需先做多项式特征扩展或改用核方法。C 项对:二分类交叉熵损失 −Σ[y ln ŷ+(1−y)ln(1−ŷ)] 关于参数 w、b 是凸的,没有多余的局部极小点,梯度形式整洁(∂L/∂w_j=(ŷ−y)x_j),训练友好。D 项错:logistic 回归是分类器,「回归」二字来自它由线性回归推广、对「对数几率」做线性建模——ln[p/(1−p)]=w·x+b,把概率的 logit 变换当成回归目标,不是拿它拟合连续因变量,选 D。 【知识串联】它与线性回归同属广义线性模型家族:线性回归用恒等连接,logistic 回归用对数几率连接;训练目标与伯努利模型的极大似然等价——最小化交叉熵即极大化似然,与本组极大似然一题互为表里;与支持向量机对照,两者都产线性边界,logistic 输出概率、依赖全部样本,核 SVM 可弯边界、只看支持向量;多分类推广是 Softmax 回归。 【易错点】见「回归」二字误判任务类型(本题 D 项陷阱);把 Sigmoid 输出当「得分」而非概率,忽略阈值的人为性——类别不平衡时应调整阈值而非固守 0.5(与本组评估一题的阈值方向分析衔接);凸性只对「损失关于参数」成立,不代表它能处理线性不可分数据。 【变式思路】变式一:给 w、b 与样本算 σ(w·x+b) 并判类;变式二:写交叉熵对某参数的梯度并说明其形态为何简洁;变式三:问对数几率 ln[p/(1−p)] 的含义;变式四:与线性回归在任务类型、损失函数(平方损失对交叉熵)、输出形态上列表对照。抓住「线性内核+概率外衣」一句即可定位此模型。

答案 C(增大模型容量通常加剧而非缓解过拟合)

解析 【考点定位】出自机器学习模型评估与选择单元,通用教材体系以「过拟合与欠拟合」开篇,考纲对应「模型选择、正则化与泛化能力」,是机器学习概念题的头号命题点,几乎所有正则化方法的考察都以此为语义前提,设错方式几乎固定为「把欠拟合的药方开给过拟合」。 【逐项分析】A 项能缓解:训练数据增多,模型见到的经验分布更接近真实分布,记住训练集个别噪声的空间被压缩,数据扩充(如图像翻转、裁剪)是低成本的实现方式。B 项能缓解:L2 正则化在损失中加入权重平方和惩罚,把权重整体压小、让拟合出来的映射更平滑,降低对训练噪声的敏感度。C 项不能缓解,选 C:加深网络、提高多项式次数都是在扩大假设空间的拟合能力,正是过拟合的成因方向;模型容量应与数据规模匹配,过拟合时通常要做的是降容量而不是升容量(欠拟合才需要增大容量)。D 项能缓解:交叉验证用于及时暴露泛化误差的变化,早停在验证误差回升前停止训练,两者都直接对着「训练好、测试差」的症状下手。辨析抓手:数据侧(增数据)、模型侧(降容量、加正则)、训练侧(早停、交叉验证)三条线各记一两个手段,选项对号入座即可。 【知识串联】L1 正则产生稀疏解、可兼做特征选择,L2 让权重整体变小但一般不产生精确稀疏,两者区别常作追问;深度学习侧的对应手段是 Dropout(训练时随机失活神经元,近似集成效应)与批归一化(稳定各层输入分布),与早停互补;偏差-方差分解给出理论像:过拟合对应低偏差高方差,欠拟合对应高偏差,Bagging 与 Boosting 各攻一侧(见本组集成一题)。 【易错点】把欠拟合的药方开给过拟合(增大容量、提高特征次数——本题 C 项的陷阱);认为正则化强度越大越好(过强导致欠拟合);把训练误差当泛化误差直接汇报;验证集与测试集混用,反复用测试集调参本身就是信息泄漏。 【变式思路】变式一:换问「欠拟合时应采取什么措施」(增容量、加特征、减正则);变式二:给学习曲线(训练误差与验证误差随样本量或训练轮次的走势)判断过欠拟合状态;变式三:L1 与 L2 的性质对照选择;变式四:Dropout 在训练与推理阶段行为差异的判断。先把「过拟合=训练好测试差、欠拟合=两头都差」的判断立住,再按三条线配措施。

答案 答题要点:①H(D)=-(4/8)log₂(4/8)-(4/8)log₂(4/8)=0.5+0.5=1 比特;②H(D1)=0;H(D2)=-(1/4)log₂(1/4)-(3/4)log₂(3/4)=0.5+0.311=0.811;g(D,A)=H(D)-(4/8)H(D1)-(4/8)H(D2)=1-0-0.406=0.594;按 B 划分的两个子集熵均为 1,g(D,B)=1-(4/8)×1-(4/8)×1=0;③选特征 A:g(D,A)=0.594>g(D,B)=0,ID3 准则取信息增益大的特征作划分,根结点选 A。

解析 【考点定位】出自决策树学习单元,通用教材体系以「熵—条件熵—信息增益」三步作为决策树 ID3 的选型准则,考纲对应「决策树学习的信息论基础」,是机器学习部分步骤固定的手算题型,与概率论的数字特征、信息论的熵共享同一套数学,交叉出题空间大。 【得分点结构】按「根熵—条件熵—增益」三步给分。第(1)步:H(D)=-(1/2)log₂(1/2)-(1/2)log₂(1/2)=0.5+0.5=1 比特,正负各半时二值分布的熵达到上限。第(2)步:A 的一侧子集 D1 全为正例,是纯子集,H(D1)=0;D2 中 log₂(3/4)=log₂3-2≈-0.415,故 H(D2)=-(3/4)×(-0.415)-(1/4)×(-2)≈0.311+0.5=0.811;条件熵按子集样本数加权:H(D|A)=(4/8)×0+(4/8)×0.811≈0.406,信息增益 g(D,A)=H(D)-H(D|A)≈1-0.406=0.594。B 的两个子集类分布与根结点完全相同(各 2 正 2 负,熵均为 1),H(D|B)=1,g(D,B)=0——按 B 划分对消除类别不确定性毫无贡献。第(3)步:0.594>0,选 A 作根结点,这正是 ID3 算法在每个结点取信息增益大的特征做划分的做法。 【知识串联】三代准则对照是必然的延伸追问:ID3 用信息增益、偏好取值多的特征,C4.5 改用信息增益比做校正,CART 用基尼指数做二叉划分;熵的语言与信息论一脉相承,交叉熵作为分类损失(见本组逻辑回归一题)与 KL 散度同源;决策树长深易过拟合,预剪枝与后剪枝的处理思路与本组过拟合一题汇流;随机森林在树之上做集成(见本组集成一题)。 【易错点】加权系数代错(应按子集样本数占比 4/8);对数底与题设不一致(题设取 2,熵单位比特);把纯子集的熵误写成 1;增益的被减数与减数颠倒;算完不比较两个增益直接选特征。 【变式思路】变式一:换三值特征或调整样本分布重算;变式二:改问信息增益比(C4.5 口径,注意对取值多的特征的惩罚项);变式三:给基尼指数口径重算(CART);变式四:问「增益为 0 的特征还能否用于下层划分」(本层无用,下层未必)。8~12 个样本的小数据集、三步计算加一次比较,是这一考点的固定形态。

答案 D(随机森林属于 Bagging 族,基树并行训练、彼此独立)

解析 【考点定位】出自机器学习「决策树与集成学习」单元,通用教材体系按「决策树—Bagging 与随机森林—Boosting」的顺序讲授,考纲对应「集成学习:Bagging 与 Boosting」,是树模型考点的自然延伸,也是概念题里辨析度稳定的一类,家族归属与「降方差还是降偏差」是两条主线。 【逐项分析】A 项对:自助采样(bootstrap)有放回地抽样本训练多个基学习器,分类投票、回归平均;各基学习器「错得不一样」,平均之后方差下降——样本扰动既是方差的来源,也是平均能治的病。B 项对:Boosting 串行进行,AdaBoost 调高分错样本的权重、梯度提升逐轮拟合残差,把弱学习器逐个加进来、逐个纠偏,主攻偏差;其代价是对噪声与轮数敏感,过拟风险随轮数上升,需要控制轮数与收缩率。C 项对:随机森林=Bagging+决策树,再加「特征随机」——每个结点只从随机特征子集中挑划分特征,样本与特征两重随机性降低树间相关性;树通常长到很深不剪枝,单树方差大,靠平均拉回来。D 项错:随机森林是 Bagging 族,基树并行训练、彼此独立;「串行拟合残差」的是梯度提升树一族,张冠李戴正是本题题眼,选 D。 【知识串联】单个决策树不稳定(数据微动、树形大变),这恰是 Bagging 喜欢的基学习器画像——不稳定才有平均的空间;方差-偏差视角把两条集成路线分开:Bagging 降方差,适合深树这类低偏差高方差的基学习器;Boosting 降偏差,适合浅树这类高偏差的基学习器;袋外(OOB)样本可做不需额外划分数据的验证,特征重要性可从森林导出,常用于特征筛选。 【易错点】只记「多棵树投票」而分不清两条路线的串并结构与主攻方向;以为随机森林的随机性只有样本采样一处(还有特征子集);把梯度提升树一系与随机森林的家族归属弄混;忽略 Boosting 对噪声敏感、轮数过多会过拟合的一面。 【变式思路】变式一:问「基学习器为什么选不稳定的学习器」;变式二:给现象判断路线——并行训练、投票整合、注重降方差是 Bagging,串行、拟合残差、注重降偏差是 Boosting;变式三:OOB 误差的用途;变式四:随机森林与单棵决策树在方差上的对比判断。串并行结构与「降方差/降偏差」两个坐标轴立住,此类题按坐标归类即可。

答案 A(间隔最大化,决策边界仅由支持向量决定)

解析 【考点定位】出自监督学习经典分类模型单元的支持向量机小节,通用教材体系围绕「间隔最大化—对偶—核技巧—软间隔」四步展开,考纲对应「支持向量机基本概念」,是分类模型部分概念辨析的主要阵地之一,核函数与软间隔两处是高频设错点。 【逐项分析】A 项对:能分开两类的超平面有无穷多个,SVM 挑的是两侧离边界最近的样本到边界的距离之和(间隔)达到最大的那一个;解只依赖落在间隔边界上(软间隔时还有越界)的少数样本,即支持向量——挪走其余样本,边界不动,选 A。B 项错:核技巧的价值恰是「不显式构造映射」:核函数直接给出 K(x,z)=φ(x)·φ(z) 这一高维内积,绕开对高维坐标的显式计算;「先映射再算内积」是朴素做法,不是核方法的意义所在。C 项错:软间隔引入松弛变量,允许少数样本越界或落入间隔带,换取更宽、泛化更稳的边界,由惩罚参数 C 权衡「间隔宽」与「违例少」;要求严格全对的是硬间隔。D 项错:SVM 基本形式是二分类器,多分类靠一对一、一对多等组合策略拼装,不是原生支持。 【知识串联】与逻辑回归对照:都产线性边界,logistic 输出概率、依赖全部样本,核 SVM 可弯边界、只看支持向量(见本组逻辑回归一题);与感知机对照,感知机只要分对就停、解不唯一,SVM 在可行解里挑间隔最大的;对偶问题引出拉格朗日乘子,常见核有线性核、多项式核、高斯核(RBF);「最大间隔」与正则化的精神相通:都在压模型复杂度、换泛化能力。 【易错点】把核函数理解成「先显式映射、再算内积」的双步流程(恰反,本题 B 项);硬软间隔的目标混淆,忘了参数 C 的权衡角色;以为支持向量就是「被分错的样本」——硬间隔下支持向量都落在间隔边界上,分得对;以为 SVM 原生输出概率(原生输出是符号与间隔距离,概率需额外校准处理)。 【变式思路】变式一:给二维两类的简单图景,辨认哪些点是支持向量;变式二:问 C 调大调小时边界的走向(大 C 更迁就训练样本、边界易弯;小 C 更容忍违例、边界更平);变式三:常见核函数辨认与选择;变式四:与逻辑回归逐项对照的判断题。「间隔最大化+核技巧不做显式映射」两句立住,SVM 概念题的大头就稳了。

答案 D(标准 K 均值的质心是簇内样本向量的均值,优化目标是最小化平方误差和)

解析 【考点定位】出自无监督学习聚类单元,通用教材体系以 K 均值为聚类算法入门,考纲对应「聚类:K 均值算法」,与学习范式辨析(见本组概念一题)、密度聚类 DBSCAN(见本组后题)构成聚类考点的三点一线,「两个输入与三个敏感」是记忆骨架。 【逐项分析】A 项对:聚类从数据自身的相似结构出发分组,不依赖人工标注的类别标签,属于无监督学习;有标签时做的是分类(监督学习),两者常被放在一起对比考查。B 项对:K 是算法的超参数,需事先给定,如何选 K(肘部法、轮廓系数)是常见追问方向。C 项对:目标函数非凸,不同初始质心可能收敛到不同的局部解,多次随机初始化、K-Means++ 是常用的缓解手段。D 项错:标准 K 均值的质心取簇内样本向量的算术平均(每一维分别求均值),对应的优化目标是各样本到其簇质心的平方欧氏距离之和(误差平方和 SSE);「几何中位数」最小化的不是平方距离和,那是 K-中位数一类算法的思路,把它安到 K 均值头上就错了。本题四个选项覆盖「学习范式、超参数、收敛性、目标函数」四个考点,是聚类概念题的完整命题面。 【知识串联】「均值质心」与 SSE 的对应关系可证:对 SSE 求关于质心的一阶导数并置零,解恰为簇内均值——选项 D 的偷换正是在这里做手脚;K 均值可视为高斯混合模型在特定假设下的极限特例;K-Means++ 初始化让初始质心彼此散开;Mini-Batch K 均值应对大规模数据;与层次聚类、DBSCAN 按「输入参数、簇形状假设、噪声处理」三行对照(见本组 DBSCAN 一题)。 【易错点】把「均值」偷换成「中位数/众数」的选项没有当场识破;忽略 K 均值对离群点的敏感(均值被拉偏);以为 K 均值能发现任意形状的簇(隐含球形簇假设);「肘部法选 K」的依据(拐点处边际收益骤降)说不出所以然。 【变式思路】变式一:给小型二维点集与初始质心,手算两轮迭代;变式二:K 增大时 SSE 的单调变化与拐点判读;变式三:K-Means++ 初始化思想的选择判断;变式四:与层次聚类、密度聚类的适用场景匹配。盯住「目标函数 SSE 与均值质心的对应关系」,选项对不上这条对应就是错。

答案 D(所述为凝聚层次聚类的做法,DBSCAN 不生成层次结构)

解析 【考点定位】出自无监督学习聚类单元,通用教材体系在 K 均值之后接层次聚类与密度聚类,考纲对应「聚类:K 均值之外的密度方法」,是聚类概念题的第二张面孔,常与 K 均值、层次聚类放在一起对照命题,机制互换是典型设错手法。 【逐项分析】A 项对:DBSCAN 的输入是「多近算邻居(Eps)」与「多密算核心(MinPts)」,簇的个数由数据密度结构自己浮现,这正是它对 K 均值「必须先给 K」的改善之一。B 项对:核心点的定义如选项所述;从某个核心点出发,密度可达的点不断汇入,连成一片即为一簇;边界点(自身不是核心点、但落在某核心点邻域内)归入使其被吸收的簇。C 项对:既非核心点又未被任何簇吸收的点是噪声,显式给出离群标签是 DBSCAN 的独门输出;簇按密度连片,环形、月牙形等非凸形状的簇都能发现,不像 K 均值那样隐含球形簇假设。D 项错:描述的是凝聚层次聚类(AGNES 一类)的做法——把每个点各成一簇,按簇间距离由近及远反复合并,形成树状图;DBSCAN 不产生层次结构,也不做逐层合并,选 D。 【知识串联】三种聚类对照记:K 均值要 K、快、偏球形、对初值与离群点敏感(见本组前一题);层次聚类不要 K、给树状图、可任意层切割,但合并不可逆且样本规模大时开销高;DBSCAN 不要 K、抗噪、能处理任意形状,但对 Eps 敏感、密度悬殊的数据难以用同一组参数覆盖。评估侧,聚类常用轮廓系数、簇内紧致与簇间分离等内部指标,与分类的评估体系分立。 【易错点】把 DBSCAN 与层次聚类的机制互换(本题 D 项题眼);以为「不需要 K」等于「没有参数要调」(Eps 与 MinPts 同样敏感,需按维度与规模试值);边界点的归属规则想当然;忽略密度差异大的数据是 DBSCAN 的公认短板。 【变式思路】变式一:给小规模二维点集与 Eps、MinPts,判断各点是核心、边界还是噪声;变式二:问三种聚类对「环形簇」的表现差异;变式三:层次聚类的簇间距离口径(单链、全链、平均、Ward)辨认;变式四:给应用场景(需剔除离群点、簇形状不规则)选合适算法。按「输入参数—簇形状假设—噪声处理」三行对照表归类,聚类族概念题按表作答。

答案 答题要点:①P=TP/(TP+FP)=45/50=0.9;R=TP/(TP+FN)=45/60=0.75;②F1=2PR/(P+R)=2×0.9×0.75/(0.9+0.75)=1.35/1.65≈0.818;③阈值调低,被判为正例的样本增多:假负例减少、召回率通常升高,假正例增多、精确率通常下降。

解析 【考点定位】出自模型评估单元的分类指标小节,通用教材体系按「混淆矩阵—精确率/召回率—F1—ROC 与 AUC」的顺序展开,考纲对应「分类模型的评估指标」,是机器学习评估考点的固定手算题,也是复试问答题的常客,两条分母口诀是全部家当。 【得分点结构】先把四个量的口径立住(一律站在「预测」角度):预测为正且确实为正是 TP,预测为正而实为负是 FP,预测为负而实为正是 FN。第(1)问:精确率问「模型报出来的正例里有多少是真的」,P=45/(45+5)=0.9;召回率问「真正的正例被找回了多少」,R=45/(45+15)=0.75——两个分母不同,是头一个易错点。第(2)问:F1 取 P 与 R 的调和平均,2PR/(P+R)=1.35/1.65≈0.818;调和平均对失衡有惩罚,P、R 一高一低时 F1 会被拉低,这正是汇报指标常取 F1 而不取算术平均的原因。第(3)问是精确率-召回率权衡:阈值调低,更多边缘样本进入正例一侧,漏检(FN)减少使 R 升高,误报(FP)增多使 P 下降,两者此消彼长。可附带说明:本题准确率=(45+35)/100=0.8,但正例占 60%、即便把全部样本都判为正例也有 0.6 的准确率,不平衡场景里准确率容易被多数类抬高,评估应偏重 P、R 与 F1。 【知识串联】阈值连续变动时,以假正例率 FPR 为横轴、真正例率 TPR(即召回率)为纵轴扫出 ROC 曲线,曲线下面积 AUC 综合衡量各阈值下的整体判别力、与具体阈值选取无关;P-R 曲线在不平衡场景更受偏爱;多分类情形用宏平均(各类指标算术平均)与微平均(合并计数再算);特异度、假负率等其余格值按混淆矩阵对称展开。 【易错点】P 与 R 的分母混淆(一个用预测正例数,一个用实际正例数);调和平均公式漏乘 2;阈值方向答反(调低阈值意味着更容易判正,R 升 P 降);在不平衡数据上拿准确率当主指标汇报。 【变式思路】变式一:给新混淆矩阵重算全套指标;变式二:由 P、R 反推 TP、FP、FN 计数;变式三:两类模型 F1 比大小或按场景选指标(查准优先的垃圾拦截、查全优先的疾病初筛);变式四:ROC 与 P-R 曲线的横纵轴与适用场景对照。四个计数、两条分母口诀立住,这一族题即可口算。

答案 D(Tanh 的输出范围是 (-1,1),不是 (0,1))

解析 【考点定位】出自神经网络基础单元的激活函数小节,通用教材体系把「为什么需要非线性激活」作为感知机走向多层网络的分水岭问题,考纲对应「多层感知机与激活函数」,是深度学习入门部分的概念辨析常客,值域、导数峰值、饱和性三格是命题惯性。 【逐项分析】A 项对:多层线性变换的复合仍是线性变换(权矩阵连乘、偏置相加后可折叠成一层),深度网络的非线性表达力全部来自激活函数——这句话也是「为什么需要非线性激活」的标准答案。B 项对:Sigmoid 的导数为 σ(z)(1-σ(z)),在 z=0 处才达到峰值 0.25,输入绝对值稍大即进入饱和区、导数趋于 0;反向传播逐层连乘小导数,梯度随层数指数式衰减,靠前的层几乎得不到更新,这正是分段线性激活被广泛采用的原因之一。C 项对:ReLU 在正区间导数恒为 1、负区间恒为 0,计算简单且正区间不衰减梯度;负区间梯度为 0 也带来「神经元死亡」问题,Leaky ReLU 是其改良。D 项错:Sigmoid 把输出压到 (0,1),Tanh 的输出范围是 (-1,1)、以 0 为中心,两者值域并不相同;零中心化通常被认为有利于优化,但 D 项的错误点在于把值域安错了对象,选 D。 【知识串联】可记一组数字:Sigmoid 导数峰值 0.25、值域 (0,1),连乘十层只剩百万分之一量级;Tanh 值域 (-1,1)、可由 Sigmoid 平移缩放得到;ReLU 正区导数 1、负区 0。梯度消失的机制与反向传播手算(见本组后题)中导数因子的连乘直接呼应;激活输出的稳定化引出批归一化,与 Dropout 同属训练稳定工具箱(见本组过拟合一题)。 【易错点】值域记混((0,1) 与 (-1,1) 张冠李戴,本题 D 项);以为「导数峰值 0.25」不算小(指数连乘后衰减极快);ReLU 的「神经元死亡」与梯度为零的条件(输入恒为负)对不上;忽略「线性堆叠等价于单层」的折叠论证前提(每一层都是纯线性变换)。 【变式思路】变式一:给四个激活函数的图像判名称与性质;变式二:问梯度消失的成因与对策(换激活、批归一化、残差连接、门控结构);变式三:Leaky ReLU 等改良版的设计动机判断;变式四:「去掉所有激活函数会发生什么」的推断题。值域、峰值、饱和、死亡四格填满,此类比较题按格作答。

答案 B(5×5)

解析 【考点定位】出自卷积神经网络单元,通用教材体系在「卷积层与池化层」之后讲感受野与参数量,考纲对应「卷积神经网络的基本组件与性质」,是 CNN 概念计算的招牌题型,「两层小核等效一层大核」的换算是其固定题眼,也是结构设计的论证基础。 【逐项分析】自输出向输入逐层回溯:第二个卷积层的一个输出像素,由上一层卷积输出的特征图上一个 3×3 邻域内的 9 个像素加权求和而来;而步长为 1 时,这 9 个像素在原图上各自的 3×3 感受窗逐像素错位重叠,九个窗口的并集恰好铺满一个 5×5 的正方形区域,故选 B。D 项 9×9 是把两层感受野按「面积相乘」当成了规则(3×3 感受 9 个像素,再乘 9 得 81),感受野按边长线性叠加、不按面积相乘;C 项 6×6 没有对应的结构来源;A 项只数了一层。通式:步长 1 时每堆叠一个 k×k 卷积层,感受野每边增加 k-1,两个 3×3 得 5×5,三个 3×3 得 7×7。顺带一个常考对照:两个 3×3 卷积层与一个 5×5 卷积层感受野相同,但参数量是 2×3×3=18 对 5×5=25(单通道口径),小卷积核堆叠因此成为经典网络的结构选择。 【知识串联】感受野沿深度递增,输出层像素「看得见」的输入区域随之扩大,这是「浅层看边缘纹理、深层看语义」论述的量化基础;池化层也贡献感受野(2×2 池化按其跨度叠加上来);多通道时参数量=输入通道×输出通道×k²,与单通道口径差一个通道积;空洞卷积在不加参数的前提下跳采扩大感受野,是分割网络的常用件。 【易错点】按面积相乘(9×9 陷阱即为此设);步长不为 1 时仍套用「每层加 k-1」的步长 1 公式;参数量比较漏乘通道数;把感受野与输出特征图尺寸两个计算混为一谈(后者由输入尺寸、核、步长、填充共同决定)。 【变式思路】变式一:三个 3×3 卷积叠三层,问感受野(7×7)与等效单核;变式二:结构中加入池化层后重算;变式三:给输入尺寸与结构算输出特征图尺寸;变式四:参数量与计算量的分别统计。边长线性叠加 k-1 这一增量公式,配上「每层回溯画窗口」的规范动作,此类题即可稳定作答。

答案 答题要点:①z1=0.5×2-1=0,h=σ(0)=0.5,ŷ=2×0.5=1.0,L=(1/2)×(1.0-1.5)²=0.125;②∂L/∂ŷ=ŷ-t=-0.5;∂L/∂w2=(ŷ-t)·h=-0.5×0.5=-0.25;∂L/∂h=(ŷ-t)·w2=-1;σ'(0)=0.5×0.5=0.25,∂L/∂z1=-1×0.25=-0.25;∂L/∂w1=∂L/∂z1·x=-0.25×2=-0.5;∂L/∂b1=∂L/∂z1=-0.25;③w1←0.5-0.4×(-0.5)=0.7,b1←-1-0.4×(-0.25)=-0.9,w2←2-0.4×(-0.25)=2.1;更新后 z1=0.7×2-0.9=0.5,h=σ(0.5)≈0.622,ŷ=2.1×0.622≈1.306,L≈(1/2)×(1.306-1.5)²≈0.019<0.125,损失下降。

解析 【考点定位】出自深度学习的反向传播单元,通用教材体系以单神经元两层网络作为链式法则的入门算例,考纲对应「前向计算与误差反向传播」,是深度学习部分几乎仅有的手算大题形态,考的是链式法则沿计算图逐段相乘的规范性,数值设计上都取在可手算的干净点上。 【得分点结构】第(1)问前向:x=2 代入,z1=0.5×2-1=0;h=σ(0)=0.5;ŷ=2×0.5=1.0;L=(1/2)(1.0-1.5)²=(1/2)×0.25=0.125。第(2)问反向,从损失端向输入端逐段求导再连乘:∂L/∂ŷ=ŷ-t=-0.5(平方损失对输出的导数形态);对 w2:ŷ=w2·h,∂L/∂w2=(∂L/∂ŷ)·h=-0.5×0.5=-0.25;对 h:∂L/∂h=(∂L/∂ŷ)·w2=-0.5×2=-1;过 Sigmoid:σ'(0)=σ(0)(1-σ(0))=0.5×0.5=0.25,∂L/∂z1=-1×0.25=-0.25;末段 z1=w1·x+b1 分别对 w1 与 b1 求偏导得 x=2 与常数 1,故 ∂L/∂w1=-0.25×2=-0.5,∂L/∂b1=-0.25×1=-0.25。第(3)问更新:参数沿负梯度方向移动,w1=0.7、b1=-0.9、w2=2.1;重做前向:z1=0.7×2-0.9=0.5,h=σ(0.5)≈0.622,ŷ=2.1×0.622≈1.306,L≈(1/2)×0.194²≈0.019,一步就把损失从 0.125 压到约 0.019。 【知识串联】本题是「激活函数饱和导致梯度消失」的定量注脚:若 z1 落在饱和区,σ'(z1) 接近 0,∂L/∂w1 将成倍变小,深网络里这一因子逐层连乘,梯度指数式衰减(与本组激活函数一题呼应);自动微分框架所做的,就是把这段手工链式法则规模化、自动化;平方损失对线性输出求导得 (ŷ-t) 的简洁形态,也是回归任务偏爱平方损失的原因之一;学习率的作用与敏感性见本组梯度一题。 【易错点】链式次序颠倒(应从 L 出发向输入端逐段乘);Sigmoid 导数公式漏写 σ(1-σ) 或代入时用错 z 值;末段偏导张冠李戴(∂z1/∂w1=x=2,∂z1/∂b1=1);更新公式写成加梯度(应为减去 η 乘梯度);第(3)问重算前向时忘记参数已经更新。 【变式思路】变式一:输出层也加 Sigmoid、损失换交叉熵(梯度形态更简:∂L/∂z=ŷ-t);变式二:隐层加到两个神经元,链上多一支汇合,需分别求两条路径的导数再求和;变式三:改问某条边的梯度为零的原因(激活饱和、输入分量为零);变式四:学习率取过大时损失不降反升的讨论。画计算图、逐段标导数,是反向传播手算的规范动作。

答案 D(自注意力对所有位置可一步并行计算,顺序信息由位置编码补入)

解析 【考点定位】出自深度学习序列模型与注意力机制单元,通用教材体系在循环网络之后讲注意力、再讲 Transformer,考纲对应「注意力机制基本概念」,是近年自命题与复试问答的新增高频点,与产业侧大模型方向的知识需求直接衔接,概念题以「三向量分工+缩放+并行性」三个角度轮换设问。 【逐项分析】A 项对:这是缩放点积注意力的标准流程,Attention(Q,K,V)=Softmax(QK^T/√d_k)V;权重是一组非负、和为 1 的系数,输出是 v 的加权平均,「拿查询去匹配键、按匹配度取值」三向量分工清晰。B 项对:多头即多组独立的线性投影与注意力,有的头看句法邻接、有的头看长程依赖,拼接后再线性融合;单头只有一种关注模式,多头给出多种视角。C 项对:键向量维度大时点积的方差随 d_k 增大,大片偏大的数值进 Softmax 会饱和成近似独热分布,梯度接近 0;除以 √d_k 把方差拉回稳定量级,是训练稳定性的关键细节。D 项错:自注意力对所有位置一步并行计算——任意两个位置的交互只依赖它们的表示,不依赖「先算完谁」;真正逐位置递推的是循环网络(RNN/LSTM),这正是 Transformer 训练并行性好、能扩展到长序列与超大规模的原因,顺序信息由位置编码补回,选 D。 【知识串联】与 RNN/LSTM 对照:后者靠隐状态逐步传递历史,长程依赖路径长且易梯度消失,LSTM 用遗忘门、输入门等门控缓解;自注意力任意两位置直连、交互路径长度为常数,代价是序列长度平方级的计算量与位置信息的丢失(故需位置编码)。注意力权重可视化常用于解释模型「看哪里」;多头、残差连接与层归一化共同构成 Transformer 编码器块。 【易错点】以为 q、k、v 是三套独立学习的词向量(它们是同一输入的不同线性投影);把缩放因子记成 d_k 或 log d_k;认为注意力天然包含词序(没有位置编码时不包含);把「训练可并行」与「自回归生成可并行」混为一谈——训练时用教师强制可并行,逐 token 生成时仍要一个位置一个位置出。 【变式思路】变式一:给小维度的 Q、K、V 手算一遍注意力输出;变式二:问位置编码的作用与常见形式;变式三:RNN、LSTM、自注意力在长程依赖、并行性、计算复杂度上的三行对照;变式四:编解码结构中掩码注意力的用途(防止看到未来位置)。把「QK 打分、Softmax 归一、V 加权」一句流程背熟,概念题即有锚点。

答案 答题要点:①E(X)=0×0.2+1×0.5+2×0.3=1.1;E(X²)=0²×0.2+1²×0.5+2²×0.3=1.7;Var(X)=E(X²)-[E(X)]²=1.7-1.21=0.49,标准差=√0.49=0.7;②E(Y)=2E(X)+1=2×1.1+1=3.2;Var(Y)=2²×Var(X)=4×0.49=1.96;③期望刻画分布的中心位置(平均水平),方差刻画取值围绕期望的离散程度;Var(X)=0 表示 X 以概率 1 恒取常数,取值无波动。

解析 【考点定位】出自概率论数字特征单元,通用教材体系以期望、方差为随机变量的两大数字特征,考纲对应「离散型随机变量的期望与方差及性质」,是概率部分的常规计算题,也是机器学习里均方误差、偏差-方差分解等概念的数学地基,常作为大题的头一小问出现。 【得分点结构】第(1)问按定义展开:E(X)=Σx_k p_k=0×0.2+1×0.5+2×0.3=1.1;随机变量函数的期望 E(X²)=Σx_k² p_k=0+0.5+1.2=1.7;方差用简化式 Var(X)=E(X²)-[E(X)]²=1.7-1.21=0.49,标准差=√0.49=0.7——标准差与 X 同量纲,故报告离散程度时常报标准差。第(2)问用性质:期望的线性性 E(aX+b)=aE(X)+b 给出 E(Y)=2×1.1+1=3.2;方差的伸缩平移性 Var(aX+b)=a²Var(X) 给出 Var(Y)=4×0.49=1.96——加常数只搬移分布位置不改变波动,伸缩按倍数的平方放大波动。第(3)问:期望是分布的重心(中心位置),方差度量取值围绕重心的离散程度;Var(X)=0 等价于 X 以概率 1 取常数。动手前先验一眼概率和 0.2+0.5+0.3=1。 【知识串联】先算 E(X²) 再减 [E(X)]² 的次序在信息增益一题中同样出现(先算子集熵再加权合并);偏差-方差分解把均方误差拆为偏差平方+方差+噪声,「模型准不准」与「模型稳不稳」的分账全靠方差一项,与本组集成学习一题的降方差路线呼应;常见分布(0-1 分布、二项、泊松、均匀、正态)的期望方差应整表背记,考试直接引用。再往外延伸一步,切比雪夫不等式用方差给出取值偏离期望的概率上界,是方差理论应用的经典出口;机器学习里问「同一模型换随机种子多次训练,结果波动多大」,回答的也正是方差。 【易错点】E(X²) 误写成 [E(X)]²(本题 1.7 与 1.21 恰好可对照自查);Var(aX+b) 写成 aVar(X)+b 或 a²Var(X)+b;标准差与方差混报;忘了先用「概率和为 1」做 sanity 检查。 【变式思路】变式一:换 0-1 分布、二项分布重算并对照公式;变式二:给 E(Y) 与 Var(Y) 反求 a、b;变式三:独立变量之和的期望与方差(可加性);变式四:联系机器学习问「多次训练的方差说明什么」。定义两行加性质两条,此题即送分流程。

答案 答题要点:①设 A={患病},B={检测为阳性},所求为 P(A|B);②由全概率公式 P(B)=P(A)P(B|A)+P(Ā)P(B|Ā)=0.01×0.95+0.99×0.05=0.0095+0.0495=0.0590;③代入贝叶斯公式 P(A|B)=P(A)P(B|A)/P(B)=0.0095/0.0590≈0.161,即阳性者中真患者约占 16.1%。

解析 【考点定位】出自概率论条件概率与贝叶斯公式单元,通用教材体系把「先验—似然—后验」的更新链条作为统计推断的入口,考纲对应「全概率公式与贝叶斯公式」,是概率计算的保留题型,也是朴素贝叶斯分类器的数学骨架,场景换皮(筛查、垃圾邮件、质检)不换算法。 【得分点结构】得分点四步:事件定义、全概率展开、贝叶斯代入、数值结果。设 A 为患病、B 为阳性后,先把已知量归位:P(A)=0.01(先验患病率),P(Ā)=0.99,P(B|A)=0.95(灵敏度),P(B|Ā)=0.05(假阳性率,对应特异度 0.95)。第二步用全概率公式把「检测为阳性」拆成患病且阳性、未患病但误报两支:P(B)=0.01×0.95+0.99×0.05=0.0095+0.0495=0.0590——漏掉假阳性分支是本题头号失分点。第三步代入贝叶斯公式:P(A|B)=P(A)P(B|A)/P(B)=0.0095/0.0590≈0.161。结果解读值得写上:直觉容易高估,是因为把 P(B|A)(患病者中 95% 阳性)与 P(A|B)(阳性者中约 16.1% 患病)两个方向的条件概率弄混;患病率先验只有 1%,即使灵敏度与特异度都达 95%,阳性之下真患病的概率仍然不高——这是基础率作用的定量展示,也是贝叶斯推断价值的直观例证。 【知识串联】画「患病/未患病 × 阳/阴」的两分支树是防错规范动作;朴素贝叶斯分类器把「先验乘类条件似然、再按证据归一」推广到多维特征(条件独立假设是「朴素」二字的出处);与极大似然(见本组后题)的立场差异:贝叶斯把参数当随机变量、纳入先验,极大似然把参数当未知常数;连续情形对应条件密度与全概率的积分形式。 【易错点】分母漏写假阳性分支(算出 0.95 一类的荒谬值);P(B|A) 与 P(A|B) 的方向弄反;把 0.99 乘成 0.09 之类的手误;结果不按题设保留三位小数。 【变式思路】变式一:调整先验(如患病率 0.1)观察后验跃升,体会基础率的作用;变式二:换垃圾邮件过滤、零件质检场景重算;变式三:两种检测先后为阳性的串联更新;变式四:朴素贝叶斯的小型计算(两特征条件独立)。分支树画好、四个概率归位,公式代入即成。

答案 答题要点:①∇f=(∂f/∂x, ∂f/∂y)=(2x, 4y),在 (1,1) 处为 (2,4);f(1,1)=1+2=3;②上升最快的方向是梯度方向 (2,4)(单位化为 (2,4)/√20,方向不变),下降最快的方向是负梯度方向 (-2,-4);一步更新得新点 (1-0.1×2, 1-0.1×4)=(0.8, 0.6),f(0.8,0.6)=0.64+2×0.36=1.36<3;③方向导数等于梯度与单位方向向量的内积,在梯度方向取到最大值、负梯度方向取到最小值,故负梯度方向是局部下降最快的方向;梯度下降法每步按 θ←θ-η∇f 更新参数使损失逐步下降,η 控制步长,神经网络训练(含反向传播求得的各参数梯度)正是这一迭代的高维实例。

解析 【考点定位】出自多元函数微分学与机器学习数学基础的交叉单元,通用教材体系在「梯度与方向导数」处讲清最速方向,考纲对应「梯度概念与梯度下降」,是 AI 方向数学工具箱的地基题;反向传播手算(见本组深度学习一题)里的每一步,都是本题在高维参数空间里的实例。 【得分点结构】第(1)问:偏导数 ∂f/∂x=2x、∂f/∂y=4y,梯度 ∇f=(2x,4y),在 (1,1) 处为 (2,4);f(1,1)=1²+2×1²=3。第(2)问:梯度方向是上升最快的方向,(2,4) 即所向(单位化为 (2,4)/√20,方向不变);负梯度 (-2,-4) 是下降最快的方向;一步更新:x'=1-0.1×2=0.8,y'=1-0.1×4=0.6;f(0.8,0.6)=0.64+2×0.36=1.36,一步从 3 降到 1.36。第(3)问:沿单位方向 u 的变化率(方向导数)D_u f=∇f·u=|∇f|cosθ,当 u 与梯度同向(θ=0)时取到 |∇f|,反向(θ=π)时取到 -|∇f|,故负梯度方向是局部下降最快的方向;训练网络即在高维参数空间对损失函数反复做这件事:θ←θ-η∇L(θ),η 太小收敛慢,太大可能越过谷底来回震荡甚至发散。 【知识串联】本题的 f(x,y)=x²+2y² 是椭圆抛物面,等高线为椭圆,梯度恒指向等高线的法线方向,沿负梯度的轨迹之字形折向谷底;学习率、小批量采样(随机梯度下降)、动量等都是围绕这一步更新的工程改良;梯度为零的点可能是极小、极大或鞍点,高维损失面上鞍点远多于局部极小;矩阵语言下,多元线性回归的梯度与最小二乘正规方程相接(见本组线性回归一题)。 【易错点】梯度写成标量或漏分量;y² 项的偏导漏乘系数(4y 误为 2y);「上升最快」与「下降最快」答反;更新时加减号弄错(必须减去 η 乘梯度);以为一步负梯度就能到达极小点(新点函数值 1.36 不是极小值 0,离谷底尚远)。 【变式思路】变式一:换 f(x,y)=x²+y² 或含交叉项的函数重算;变式二:η 改大(如 0.8)观察一步后的函数值变化,讨论步长敏感性;变式三:梯度为零处的类型判断(极小、极大、鞍点);变式四:写出某损失函数关于参数的梯度并与梯度下降对接。偏导两行、更新一步、结论一句,是这类题的完整得分骨架。

答案 答题要点:①思想:把样本出现的概率写成参数的函数(似然函数),在参数取值范围内寻找使该概率达到极大的参数值作为估计——即在候选参数中选让手头样本出现机会大的那个;②L(p)=p^k(1-p)^(n-k);③取对数 ln L=k·ln p+(n-k)·ln(1-p);④令 d(ln L)/dp=k/p-(n-k)/(1-p)=0,交叉相乘得 k(1-p)=(n-k)p,解得 p 的极大似然估计为 k/n,即样本成功频率;⑤二阶导 -k/p²-(n-k)/(1-p)²<0,对数似然为凹函数,确认该驻点是极大值点。

解析 【考点定位】出自数理统计参数估计单元,通用教材体系以极大似然估计为点估计的首选方法,考纲对应「极大似然估计的思想与求法」,是概率统计与机器学习的衔接点——逻辑回归、神经网络的常用损失函数多由它导出,复试里「交叉熵损失从哪来」一问的答案正在这里。 【得分点结构】按「思想—似然函数—对数化—求导—验证」五步给分。思想表述:把样本出现的概率写成参数的函数(似然函数),在参数取值范围内寻找使该概率达到极大的参数值作为估计——即在候选参数中选让手头样本出现机会大的那个。似然函数的写法:观测为 k 次成功、n-k 次失败,独立试验下联合概率是各次概率的连乘,视 p 为变量即 L(p)=p^k(1-p)^(n-k)。取对数是标准动作:ln L=k·ln p+(n-k)·ln(1-p),把连乘化为连加、便于求导,且对数变换单调、不移动极值点位置。求导置零:k/p-(n-k)/(1-p)=0,交叉相乘得 k(1-p)=(n-k)p,展开相消得 k=np,故 p 的估计为 k/n——恰是样本频率,「样本里成功的比例就是 p 的自然估计」由此获得理论背书。验证:ln L 对 p 的二阶导 -k/p²-(n-k)/(1-p)² 恒为负,对数似然是凹函数,驻点是极大值点且在此模型下唯一,论证闭环。 【知识串联】四步模板(似然→对数似然→求导置零→验证)可迁移到指数分布、泊松分布、正态分布(均值方差联估)等常见载体;与贝叶斯估计的分野(上一题)在于参数是否被视为随机变量、是否纳入先验;机器学习侧,逻辑回归在 0/1 标签下以交叉熵为损失求小,等价于对该伯努利模型求极大似然(见本组逻辑回归一题)——「最小化损失」与「极大似然」互译的例子在机器学习里随处可见,写明这层同构常是加分点。 【易错点】不取对数直接对连乘积求导(可行但繁琐易错);忘了二阶导或凹性验证;把似然函数与概率混为一谈(似然是参数的函数,样本已固定);以为极大似然估计总有闭式解(许多模型需数值迭代)。 【变式思路】变式一:泊松分布参数的极大似然(估计恰为样本均值);变式二:正态分布均值与方差的联估;变式三:给具体样本观测值算出估计数值;变式四:与矩估计法对照出概念判断题。四步模板加一句与交叉熵的同构,是本题的完整得分面貌。