一、 背景知识
1988年，Broomhead、Lowe以及Moody和Darken最早将径向基函数用于神经网络设计。径向基函数神经网络（Radial Basis Function Neural Network，RBF神经网络）是一类常用的三层前馈网络，既可用于函数逼近，也可用于模式分类。与其他类型的人工神经网络相比，RBF网络有生理学基础，结构简单，学习速度快，优良的逼近性能和泛化能力等特点。
简单说明一下为什么RBF网络收敛得比较快。当网络中的一个或多个可调参数（权值或阈值）对任何一个输出都有影响时，这样的网络称为全局逼近网络。由于对于每次输入，网络上的权值都要调整，从而导致全局逼近网络的学习速度很慢。BP神经网络就是一个典型的例子。常见的局部逼近网络有RBF网络、CMAC网络、B样条网络。
二、什么是径向基函数
径向基函数是一个取值仅仅依赖于离原点距离的实值函数（RBF）方法。也就是 Φ ( x , c ) = Φ ( ∣ ∣ x − c ∣ ∣ ) \Phi(x, c)=\Phi(||x-c||) Φ(x,c)=Φ(∣∣x−c∣∣)。任意一个满足 Φ ( x ) = Φ ( ∣ ∣ x ∣ ∣ ) \Phi(x)=\Phi(||x||) Φ(x)=Φ(∣∣x∣∣)特性的函数 Φ \Phi Φ都叫做径向基函数，标准的一般使用欧式距离（也叫做欧式径向基函数）。最常用的径向基函数是高斯核函数，形式为 k ( ∣ ∣ x − x c ∣ ∣ ) = e − ∣ ∣ x − x c ∣ ∣ 2 2 σ 2 k(||x-x_c||)=e^{\frac{-||x-x_c||^2}{2\sigma^2}} k(∣∣x−xc∣∣)=e2σ2−∣∣x−xc∣∣2。其中 x c x_c xc为核函数中心， σ \sigma σ为函数的宽度参数，控制了函数的径向作用范围。
重要的径向基函数主要有如下三种：
- Gauss（高斯）函数
φ ( r ) = e − r 2 2 σ 2 \varphi(r)=e^{-\frac{r^2}{2\sigma^2}} φ(r)=e−2σ2r2 - 反常S型函数
φ ( r ) = 1 1 + e r 2 σ 2 \varphi(r)=\frac{1}{1+e^\frac{r^2}{\sigma^2}} φ(r)=1+eσ2r21 - 拟多二次函数
φ ( r ) = 1 ( r 2 + c 2 ) 1 / 2 \varphi(r)=\frac{1}{(r^2+c^2)^{1/2}} φ(r)=(r2+c2)1/21
三、什么是RBF神经网络
其中，隐含层的作用是把向量从低维度m映射到高维度n，这样低维度线性不可分的情况到高维度就变得线性可分了，实际上是核函数的思想。
写成向量的形式为 Φ W = d \Phi W=d ΦW=d，当 Φ \Phi Φ可逆时，有 W = Φ − 1 d W=\Phi^{-1}d W=Φ−1d
四、高斯核函数怎么映射高维空间
五、计算例子
发布者：全栈程序员-站长，转载请注明出处：https://javaforall.net/215807.html原文链接：https://javaforall.net
