什么是径向基函数网络?
流行的前馈网络类型是径向基函数 (RBF) 网络。它有两层,不包括输入层,并且在隐藏单元实现计算的方法上与多层感知器形成对比。
每个隐藏单元都显着定义了输入空间中的特定点,以及它针对给定实例的输出或激活,该输出或激活基于其点与实例之间的距离,这只是一个不同的点。这两个点越接近,激活就越好。
这是通过利用非线性变换函数将距离修改为相似性度量来实现的。通常使用钟形高斯激活服务(每个隐藏单元的宽度可以不同)来实现此目标。隐藏单元被称为 RBF,因为给定隐藏单元产生类似激活的实例区域中的点形成超球体或超椭球体。
RBF 结构的输出层类似于多层感知器的输出层 - 它获取隐藏单元输出的线性组合,并在分类问题中通过 sigmoid 函数传递它。
此类网络理解的参数是 RBF 的中心和宽度以及用于设计从隐藏层获得的输出的线性组合的权重。与多层感知器相比,一个重要的好处是第一组参数可以独立于第二组参数确定并创建准确的分类器。
确定第一组参数的一种方法是使用聚类。可以应用简单的 k 均值聚类算法,独立地对每个类进行聚类以获得每个类的 k 个基函数。
第二组参数是在保持第一组参数不变的情况下确定的。这包括使用线性或逻辑回归等方法之一学习简单的线性分类器。如果隐藏单元的数量远少于训练实例的数量,则可以快速完成此操作。
RBF 网络的局限性在于它们为每个属性提供相同的权重,因为除非属性权重参数包含在完整的优化过程中,否则所有属性在距离计算中都被认为是同等重要的。
因此,与多层感知器相比,它们无法有效地处理不相关的属性。支持向量机也存在类似的问题。具有高斯核(即“RBF 核”)的支持向量机是 RBF 网络的一种特定方法,其中每个训练实例上都集中了一个函数,所有基函数都具有相同的宽度,并且通过计算最大边距超平面线性合并输出。这导致某些 RBF 具有非零权重,这些权重定义了支持向量。
数据结构
网络
关系型数据库管理系统
操作系统
Java
iOS
HTML
CSS
Android
Python
C语言编程
C++
C#
MongoDB
MySQL
Javascript
PHP