机器学习的方法与评估

逻辑回归虽然名称中带有『回归』，但它是把线性计算的结果转换为概率形式来判定类别的分类方法。预测连续值本身的是线性回归等回归问题的方法，被名称误导而选择这一项是常见的错误。不使用训练数据来找出聚类的是聚类分析，属于无监督学习的话题；以奖励为线索改进行动选择的是强化学习的话题，两者都被列在别的中项目中。

回归问题预测销售额或气温这类连续值，分类问题预测是否为垃圾邮件这类离散的类别。把这两者对调的记述是最常见的错误。有监督学习无论哪种问题都需要特征量与训练数据成对出现，不存在只有一方仅用特征量就够的情况。只以奖励为线索的是强化学习，不能用来说明有监督学习。

解释变量只有1个的是一元回归分析，有2个以上的是多元回归分析。『一元』与『多元』这两个字本身就表示了解释变量的个数，因此对调后的记述可判断为错误。两者都是预测连续值的回归方法，因此说其中一方用于分类也不成立。此外回归分析属于有监督学习，无论变量个数多少都需要训练数据。

SVM 采用间隔最大化的思路，即在边界与最近数据点之间的间隔最大处画出边界，这个最近的点被称为支持向量。一边增加误分类数据权重、一边不断添加学习器的是提升法（Boosting）的思路，寻找方差最大方向的是主成分分析（PCA）的思路，都不是对 SVM 的说明。通过重心中点画线的方法完全没有考虑间隔。

核技巧通过核函数直接求出映射到高维空间后的内积，从而不实际计算映射后的坐标，就能实现非线性分离。不需要逐个计算坐标正是被称为『技巧』的原因，所以『先实际计算再分离』的说法方向反了。不使用训练数据的分割是聚类分析的话题，也不是减少训练数据件数的机制。

装袋法用自助采样（Bootstrap sampling）生成的训练数据，并行地、相互独立地构建多个学习器，再取多数表决或平均。提升法一边让前一个学习器出错的样本被更重地对待，一边串行地不断添加学习器，因此依赖顺序、无法并行构建。把并行与串行对调是最常见的错误。两者都属于有监督学习并使用训练数据，可用的弱学习器种类也不限于决策树或线性回归。

随机森林是装袋法的代表例子：用允许重复抽取的自助采样生成略有差异的训练数据，从中并行地、相互独立地培育大量决策树，再取多数表决或平均。一边让前一棵树的错误被更重地对待、一边逐棵添加的是梯度提升等提升法一方的说明，把这里对调是常见的错误。使用的不是一棵树而是大量的树，汇总的对象是决策树而不是线性回归。

决策树是把针对特征量的条件分支以树的形式排列出来的方法，其优点在于人可以读懂在哪个条件下走向了哪一边。另一方面，树培育得越深，就越容易连训练数据的细微特点都记住，单独使用时容易发生过拟合。培育得越深，对训练数据的拟合程度反而会更好，问题在于用新数据检验时效果会下降，因此『拟合程度必定变差』的说法是错误的。决策树属于有监督学习，既可用于分类也可用于回归。

AR模型用一个时间序列自身的过去值来解释其当前值。VAR模型把这一思路扩展到多个时间序列，让它们用彼此的过去值互相解释。区别在于是单个还是多个，因此把它对调的记述是错误的。两者都是处理时间序列的模型，并不是提取图像局部特征或语音频率成分的工具，也不是按是否需要训练数据来区分的。

多类别分类是判断属于3个以上类别中哪一个的分类问题，把手写数字分配到0到9中的某一个正是典型例子。预测最高气温这类连续值属于回归问题而非分类。找出相似顾客聚类是聚类分析，属于无监督学习；依据奖励重新选择棋步是强化学习，二者本就不是有监督学习中的分类问题。

教学大纲把『理解无监督学习只需要特征量』列为目标。在不持有正确答案标签的情况下，通过聚类或降维找出数据本身的结构，这就是无监督学习。以特征量和训练数据成对为前提的是有监督学习，以奖励为线索的是强化学习，二者分别列在不同的中项目中。舍弃其余数据的做法也不是对无监督学习的说明。

k-means算法是一种非层次聚类：预先确定簇的数量k，反复进行『把各点分配给最近的重心』和『重新计算重心』这两个操作。不确定簇数量、从近的开始依次合并的是沃德法（Ward's method）等层次聚类，它可以画出树状图（Dendrogram）。使边界间隔最大化的是SVM，属于有监督学习；根据单词出现方式推测话题的是潜在狄利克雷分配（LDA）等话题模型。

沃德法是从近的开始依次合并的层次聚类，可以把合并的过程画成树状图（Dendrogram）。其优点是可以一边观察在哪个高度切开、一边事后决定簇的数量。非层次且先确定簇数量的是k-means算法，它不会生成树状图。沃德法既不是降维方法也不是有监督学习方法，不使用正确答案标签。

PCA是把坐标轴重新取在方差最大方向上的线性降维方法，t-SNE是在保持相近点之间接近关系的前提下映射到低维的非线性方法，常用于二维或三维的可视化。把线性与非线性对调是常见的错误。推测文档话题的是潜在狄利克雷分配（LDA）等话题模型，进行矩阵分解的是奇异值分解（SVD）。PCA和t-SNE都是无监督学习，不需要训练数据。

协同过滤是以用户之间或商品之间评价的相似程度为线索来进行推荐的，因此对尚无评价历史的新用户或新商品缺乏可用线索，难以给出推荐，这就是冷启动问题。以商品说明文字或属性本身为线索的基于内容的过滤，常被作为弥补这一弱点的思路一并提及。它不是关于计算时间或库存的话题。

强化学习一边与环境反复试错交互，一边学习使获得奖励的累积最大化的策略。其线索不是逐步给出的正确答案标签而是奖励，因此它不是有监督学习的一种。只以距离远近为线索是聚类分析等无监督学习的思路，单词出现次数是自然语言处理中特征表示的话题，两者都不是强化学习的学习信号。为应对奖励不能立即返回的情况而用折扣率来评估未来，也是这一框架的特点。

教学大纲把『理解价值函数的学习与策略的学习这两种代表性方法』列为目标。先估计状态价值函数或行动价值函数、再据此选择行动的是前者，Q学习和SARSA是其代表。用参数直接表示策略本身并加以更新的是后者，策略梯度法和REINFORCE是其代表。Actor-Critic结合了负责策略的Actor与负责价值的Critic，兼具两者。『只存在其中一种』或『不会成为学习对象』的说法都是错误的。

两者都是不断更新行动价值函数的强化学习方法，区别在于更新时使用什么。Q学习使用下一状态可采取的行动中价值最大的那个，SARSA使用实际选择的下一个行动的价值来更新。把这两者对调是常见的错误。Q学习同样会更新行动价值函数，所以『只有一方会更新』的说法不成立。强化学习无论哪一种都是靠奖励来学习的框架，因此『需要训练数据』的说法也是错误的。

估计价值最大的臂被选中，有两种情形：贪心地选择，以及随机选择后碰巧选中该臂。前者是1减去0.1，即0.900，后者是0.1除以4，即0.025，两者相加为0.925。0.900是漏算了随机选中部分的值，0.250是从4个臂中均匀选择时的概率，0.100就是ε本身。ε越大，探索就越多，这个概率也会随之下降。

4乘以0.5得2，12乘以0.5的2次方即0.25得3，8乘以0.5的3次方即0.125得1，合计为6.0。24.0是完全不乘折扣、直接把4、12、8相加的值，12.0是在这个24上只乘了一次0.5的值，7.5是把相乘顺序颠倒、让4乘以0.125、12乘以0.25、8乘以0.5所得的值，这些都是常见的混淆。折扣率的作用是让越遥远的未来奖励评估值越小，因此越近的奖励权重越大。

精确率以预测为阳性的数量为分母，因此用真阳性40除以真阳性40与假阳性10之和50，得0.80。0.67是以实际为阳性的数量为分母的召回率，即40除以真阳性40与假阴性20之和60所得的值。0.85是200件全体中正确判断的170件所占比例，即准确率；0.73是精确率0.80与召回率0.67的调和平均，即F值。这些都是求出了别的指标所得的值。

精确率是『预测为阳性的当中，实际为阳性的比例』，因此分母在预测这一侧。召回率是『实际为阳性的当中，被捕捉到的比例』，因此分母在实际这一侧。把两者对调是最常见的错误，可以通过分母是预测还是实际来记忆区分。以数据全体为分母的是准确率，只以真阴性或假阴性为分母的指标既不是精确率也不是召回率。想减少误检时应重视精确率，想减少漏检时应重视召回率。

F值是精确率与召回率的调和平均，因此用2乘以0.6与0.9之积0.54得1.08，再除以0.6与0.9之和1.5，得0.72。0.75是误算成算术平均而非调和平均所得的值，0.54是仅将两者相乘的值，1.50是仅将两者相加的值。调和平均会被较小的一方拉低，因此比算术平均的0.75要小，这一点也值得确认。

由于阳性只占1%，只要全部回答阴性就能猜中99%，因此准确率达到99%。但实际的阳性一件也没有捕捉到，召回率为0%，这样的模型没有用处。当各类别数量不均衡时，只看准确率会误判，因此也需要一并查看召回率、F值以及ROC曲线和AUC。在这种设定下，准确率不会变成1%或50%。

ROC曲线是一边移动判定阈值、一边以真阳性率为纵轴、假阳性率为横轴描绘出的曲线，其下方的面积就是AUC。AUC越接近1越好，0.5则意味着与随意判定处于同一水平。若把纵轴改为精确率、横轴改为召回率，就会变成另一条曲线，这正是常见的混淆之处。准确率与数据件数、误差与迭代次数的组合，是用来观察学习过程的另一种图表。

AIC和BIC都是把对数据的拟合优度与增加参数所带来的惩罚相加而成的指标，数值越小被视为越好的模型。认为数值越大越好是错误的，这正是最容易被考查的地方。如果只按对训练数据的拟合程度来选择，就会总是选中参数较多的模型、导致过拟合，因此设置惩罚项来取得平衡。这与不必要地追求复杂就是不好的『奥卡姆剃刀』思路方向一致。

k折交叉验证是把数据分成k份，其中1份用于验证、其余用于学习，这一过程重复k次后再对结果取平均。把200件分成5份，每份就是40件，因此每次验证都是40件，学习用剩下的160件，如此重复5次。只分一次就结束的是留出法（Holdout），计算量轻，但结果容易受分割方式左右。把160件当作验证件数，是把学习与验证搞混了的数法。

误差的平方分别为4、16、16、0，合计为36。用件数4去除得到9，这就是均方误差（MSE），其平方根3.0即为RMSE。9.0是把MSE本身当成答案的值，2.5是误差绝对值2、4、4、0的平均，即平均绝对误差（MAE），6.0是忘记除以件数、直接对平方和36开平方所得的值。RMSE与原始误差单位一致，因此更便于解读。

总和84除以件数7得平均值12，按从小到大排列后第4个是6，所以中位数是6，出现两次的4是众数。50这一异常值大幅拉高了平均值，而中位数与众数几乎没有变化，这正是要点所在：不能只看一个代表值就下判断。把平均值与中位数对调，或把中位数与众数搞混，都是常见的错误值。

伪相关是指，正如气温这一共同因素使冰淇淋销量与溺水事故件数一同变动一样，本无直接因果关系的两者之间也会出现相关这一现象。这里的教训是：即使存在相关，也不能断定存在因果，因此不能因为相关系数为正就说存在因果关系。此外，相关系数即使为0，也可能隐藏着非直线的关系，因此不能确定毫无关系。异常值的处理是另一个议题。