神经网络是计算智能和机器学习嘚重要分支在诸多领域都取得了很大的成功。在众多神经网络著作中影响最为广泛的是Simon Haykin的《神经网络原理》（第3版更名为《神经网络與机器学习》）。在本书中作者结合近年来神经网络和机器学习的最新进展，从理论和实际应用出发全面、系统地介绍了神经网络的基本模型、方法和技术，并将神经网络和机器学习有机地结合在一起

本书不但注重对数学分析方法和理论的探讨，而且也非常关注神经網络在模式识别、信号处理以及控制系统等实际工程问题的应用本书的可读性非常强，作者举重若轻地对神经网络的基本模型和主要学習理论进行了深入探讨和分析通过大量的试验报告、例题和习题来帮助读者更好地学习神经网络。

本版在前一版的基础上进行了广泛修訂提供了神经网络和机器学习这两个越来越重要的学科的最新分析。

1. 基于随机梯度下降的在线学习算法；小规模和大规模学习问题

2. 核方法，包括支持向量机和表达定理

3. 信息论学习模型，包括连接、独立分量分析（ICA）、一致独立分量分析和信息瓶颈

4. 随机动态规划，包括逼近和神经动态规划

5. 逐次状态估计算法，包括卡尔曼和粒子滤波器

6. 利用逐次状态估计算法训练递归神经网络。

1.4 高斯环境下感知器与貝叶斯分类器的关系33

第2章 通过回归建立模型28

2.4 正则最小二乘估计和MAP估计之间的关系46

3.6 用马尔可夫模型来描画LMS算法和维纳滤波器的偏差64

3.7 朗之万方程：布朗运动的特点65

4.6 改善反向传播算法性能的试探法90

4.10 学习率的最优退火和自适应控制98

4.16 作为最优化问题看待的监督学习117

第5章 核方法和径向基函数网络144

7.16 用半监督学习对模式分类的实验225

9.5 计算机实验Ⅰ：利用SOM解网格动力学问题280

9.9 计算机实验Ⅱ：利用核SOM解点阵动力学问题290

第11章 植根于统计仂学的随机方法366

13.6 作为递归网络范例的吸引子操作435

第14章 动态系统状态估计的贝叶斯滤波461

14.7 数值积分卡尔曼滤波器:基于卡尔曼滤波器480

14.9 计算机实验：扩展的卡尔曼滤波器和粒子滤波器对比评价490

15.10 利用非线性逐次状态估计的递归网络监督学习框架521

15.13 实例学习：应用于神经控制的模型参考529