分类还是回归
分类和回归的输出有什么本质区别?“预测明天的温度”和“判断邮件是否垃圾”分别属于哪一种?
练习
题目整理自本地机器学习与深度学习资料。先独立作答,再展开答案,并通过标签或来源回到对应学习位置。
分类和回归的输出有什么本质区别?“预测明天的温度”和“判断邮件是否垃圾”分别属于哪一种?
为什么测试集不能参与模型选择?请分别说明三类数据的职责。
创建一个 3×4 的 NumPy 矩阵,并计算每一列的均值。应使用哪个 axis?
为什么决策树通常不要求标准化,而 KNN 通常要求?
为什么不能用整个数据集的均值和标准差完成标准化后再划分训练集与测试集?
为“贷款发放时预测未来是否违约”的模型举一个包含未来信息的危险特征,并说明问题。
L1 与 L2 正则化对参数有什么不同影响?逻辑回归中的 C 变小时正则化变强还是变弱?
KNN 中 K 太小和太大分别容易产生什么问题?
RBF 核 SVM 中,C 和 gamma 分别主要控制什么?
为什么不断加深的决策树会记住训练噪声?给出两个控制方法。
为什么 K-Means 的簇编号不能直接与真实类别编号比较?
癌症初筛和垃圾邮件拦截分别更应优先关注 Recall 还是 Precision?为什么?
每位用户有多条行为记录时,为什么普通随机划分可能不可靠?应改用什么方式?
把“保留测试集、建立 Pipeline、交叉验证比较、调参、最终测试、保存模型”排成正确顺序,并说明测试集可使用几次。
写出人工神经元公式,并解释输入、权重、偏置和激活函数分别扮演什么角色。
训练集有 1050 个样本,batch size=100。drop_last=False 与 True 时每个 epoch 分别有多少次 iteration?训练 5 个 epoch 时各更新多少次?
十分类、二分类和回归的典型输出形状与损失函数分别是什么?
输入 [10,1,28,28],依次经过 Conv2d(1,8,3,stride=1,padding=1) 和 MaxPool2d(2),两个输出形状是什么?
Conv2d(3,32,kernel_size=3,bias=True) 有多少个可学习参数?
Dataset.__getitem__ 通常返回单样本还是 batch?batch 维是谁添加的?训练和验证的 shuffle 通常如何设置?
为什么训练循环每次 backward 前通常要调用 optimizer.zero_grad()?
为什么 `torch.inference_mode()` 不能替代 `model.eval()`?
一个正类占 1% 的模型全部预测为负类,Accuracy 是多少?为什么这个结果没有价值?
长度为 [5,3,4]、补齐长度为 5 的单向 RNN 输出 [3,5,H],三个样本分别应取哪个时间下标?
Q=[16,12,64]、K=[16,20,64]、V=[16,20,32]。注意力分数、权重和输出形状分别是什么?
训练下一 token 预测器时为什么必须遮住未来位置?长度从 512 增至 2048 时注意力分数元素约增加多少倍?
输入 [8,64,32,32],主分支输出 [8,128,16,16]。shortcut 至少需要怎样的卷积才能相加?
如何用实验区分“预训练特征有效”与“只是模型更大”?至少列出三组对照及记录项。
真实框 A=[0,0,4,4],预测框 B=[2,2,6,6],按连续坐标面积计算 IoU。
分类模型 Loss 长期不下降。为什么应先反复拟合 8~32 个样本?若仍失败,优先检查什么?
只保存 model.state_dict 与保存完整训练检查点有什么区别?各自适合什么场景?
一个可靠的 MNIST 项目在开始训练前、训练中和最终评价时分别至少检查什么?