泛化样本是实例区域的矩形范围，称为超矩形，因为它们是高维的。在定义新实例时，必须转换距离函数才能计算到超矩形的距离。当正确定义新的样本时，通过将其直接与相似类别的最近样本合并来泛化它。最近的样本可以是单个实例或超矩形。在这种方法中，会生成一个覆盖先前实例和新实例的新超矩形。超矩形会扩展以包围新实例。最后，如果预测错误……阅读更多

流行的前馈网络类型是径向基函数 (RBF) 网络。它有两层，不算输入层，并且与多层感知器在隐藏单元实现计算的方法上形成对比。每个隐藏单元都显着地定义了输入空间中的特定点，以及其针对给定实例的输出或激活，这基于其点与实例（只是一个不同的点）之间的距离。这两个点越接近，激活就越好。这是通过利用非线性变换函数将距离修改为相似性度量来实现的。一个钟形高斯……阅读更多

十倍交叉验证是测量学习方案在特定数据集上的错误率的标准方法；为了获得可靠的结果，需要进行 10 次十倍交叉验证。有两种方法是留一法交叉验证和自举法。留一法交叉验证留一法交叉验证是公开的 n 倍交叉验证，其中 n 是数据集中实例的倍数。每个实例依次被排除在外，学习方案在所有剩余实例上进行训练。它由其对剩余实例的正确性来计算——根据成功或失败分别为一或零。对数据集的每个组进行的所有 n 个判断的结果取平均值……阅读更多

决策树是一种类似流程图的树机制，其中每个内部节点表示对属性的测试，每个分支定义测试的结果，叶节点描述类或类分布。树中最大的节点是根节点。构建决策树的问题可以递归地定义。首先，选择一个要放在根节点的属性，并为每个可能的值创建一个分支。这会将示例集划分为子集，每个属性值一个。该过程可以针对每个分支递归地重复，仅使用那些实例……阅读更多

学习最简单的结构是简单的记忆或死记硬背。由于已经记住了一组训练实例，因此在遇到新实例时，会检查内存中与新实例最相似的训练实例。唯一的问题是如何阐明相似之处。首先，这是一种完全不同的描述从一组实例中提取的“知识”的方法——它存储实例本身，并通过将类别未知的新实例与类别已知的当前实例关联来工作。与其试图制定规则，不如直接从实例本身入手……阅读更多

判别分析方法依赖于两个主要假设来查看分类分数——首先，它认为某些类别中的预测器测量值来自多元正态分布。当这个假设合理地成立时，判别分析比其他分类方法（包括逻辑回归）更有效。结果表明，如果数据是多元正态的，则判别分析比逻辑回归有效 30%，它需要 30% 的记录才能达到相同的结果。已经表明，这种方法在偏离正态性的意义上相对稳健，因为预测器可以是非正态的……阅读更多

k-近邻算法是一种分类方法，它不假设类成员 (Y) 和预测器 X1、X2……Xn 之间关系的结构。这是一种非参数方法，因为它不包含对假定函数形式（包括线性回归中假定的线性形式）中的参数的估计。此方法从数据集中数据的预测器值之间的相似性中提取数据。k-NN 方法的优点是其完整性和对参数假设的需求。在存在大型训练集的情况下，当每个……阅读更多

k-近邻算法是一种分类方法，它不假设类成员 (Y) 和预测器 X1、X2……Xn 之间关系的结构。这是一种非参数方法，因为它不包含对假定函数形式（包括线性回归中假定的线性形式）中的参数的估计。此方法从数据集中数据的预测器值之间的相似性中提取数据。k-近邻方法中的概念是识别训练数据集中与需要分类的新数据相同的 k 条记录。它可以……阅读更多

数据挖掘中一个常见的问题是使用回归方程来预测因变量的值，当它可能有几个变量可用于在该模型中选择为预测器时。另一个考虑因素有利于包含许多变量，希望出现先前隐藏的关系。例如，一家公司发现购买椅子和桌子腿防磨保护器的客户信用风险较低。在将所有可能的变量都放入模型之前，需要谨慎考虑几个原因。设置完整的预测器集合可能价格高昂或不可行……阅读更多

热图是数值数据的图形显示，其中颜色用于表示值。在数据挖掘环境中，热图对于两个目的特别有用——用于可视化相关表和可视化数据中的缺失值。在这两种情况下，信息都以二维表的形式传达。热图是对数据的图形描述，需要一个颜色编码系统来定义多个值。热图用于各种分析形式，但最常用于显示用户在特定网页或网页模板上的行为。热图可以用来显示……阅读更多