使用线性齐次生产函数函数作为多层神经网络的激活函数有何缺点

日 – 一个神经网络是一个由简单处理单元构成的规模宏大的并行..
扫扫二维码,随身浏览文档
手机或平板扫扫即可继续访问
神经网络及其应用
举报该文档为侵权文档。
举报该文档含有违规或不良信息。
反馈该文档无法正常浏览。
举报该文档为重复文档。
推荐理由:
将文档分享至:
分享完整地址
文档地址:
粘贴到BBS或博客
flash地址:
支持嵌入FLASH地址的网站使用
html代码:
&embed src='/DocinViewer-4.swf' width='100%' height='600' type=application/x-shockwave-flash ALLOWFULLSCREEN='true' ALLOWSCRIPTACCESS='always'&&/embed&
450px*300px480px*400px650px*490px
支持嵌入HTML代码的网站使用
您的内容已经提交成功
您所提交的内容需要审核后才能发布,请您等待!
3秒自动关闭窗口您所在位置: &
&nbsp&&nbsp&nbsp&&nbsp
基于正交最小二乘的傅立叶神经网络结构选取方法.pdf5页
本文档一共被下载:
次 ,您可免费全文在线阅读后下载本文档
文档加载中...广告还剩秒
需要金币:60 &&
你可能关注的文档:
··········
··········
第 卷 第 期 石 油 化 工 自 动 化
基于正交最小二乘的傅立叶
神经网络结构选取方法
段超霞 ,田学民
.国家知识产权局专利局专利审查协作广东中心,广州;
.中国石油大学信息与控制工程学院,山东青岛
摘要:针对傅立叶神经网络基频选取及隐含层神经元数目难以确定这一问题,提出一种基于正交最小二乘的傅立叶神经网络
结构选择方法。该方法依据傅立叶神经网络激活函数是一系列不同函数的特点,给定一个较小的基频,把一系列关于基频整数
倍的正余弦函数作为可供选择的激活函数集,然后由正交最小二乘算法选择对网络性能贡献显著的函数作为激活函数,并简化
网络结构。以聚合反应器为对象的建模仿真研究表明,正交最小二乘算法可以更有效地确定傅立叶神经网络结构。
关键词:傅立叶神经网络 正交最小二乘算法 激活函数
中图分类号:
文献标志码:
文章编号: ??
,,,: , .。
., /, ..: ;;
神经网络由于其良好的非线性逼近性能而广 调整,训练参数少,因而收敛速度快;且正交激活函
泛应用于非线性系统的建模 。在使用神经网络 数的存在,使训练更易收敛到全局极值点 。由于
解决给定的实际逼近问题时,激活函数的选择对神
使用正交的傅立叶复指数函数作为激活函
经网络的结构和逼近性能有很大影响,常用的激活 数,当用于控制时,能与闭环系统的频域响应紧密
函数、高斯函数、双曲正切函数等。
联系起来,因而
等将自适应规则、迭代
尽管这些函数在实际建模过程中已得到了广泛应 学习控制与 结合起来应用到非线性系统的
跟踪控制中唱 。
用,但也存在一些缺点,如过训练,易陷入局部极小
点,学习过程非常耗时等。基于傅立叶分析理论而
建立的傅立叶神经网络。。稿件
正在加载中,请稍后...您所在位置: &
&nbsp&&nbsp
xqq3 BP 神经网络讲义.ppt42页
本文档一共被下载:
次 ,您可免费全文在线阅读后下载本文档
文档加载中...广告还剩秒
xqq3 BP 神经网络讲义.ppt
需要金币:190 &&
感知器和自适应线性元件的主要差别在激活函数上:前者是二值型的,后者是线性的 BP网络具有一层或多层隐含层,除了在多层网络上与前面已介绍过的模型有不同外,其主要差别也表现在激活函数上。 BP网络的激活函数必须是处处可微的,因此它不能采用二值型的阀值函数 0,1 或符号函数 -1,1
BP网络经常使用的是S型的对数或正切激活函数和线性函数 BP网络特点 输入和输出是并行的模拟量 网络的输入输出关系是各层连接的权因子决定,没有固定的算法 权因子通过学习信号调节。学习越多,网络越聪明 隐含层越多,网络输出精度越高,且个别权因子的损坏不会对网络输出产生大的影响 只有当希望对网络的输出进行限制,如限制在0和1之间,那么在输出层应当包含S型激活函数 在一般情况下,均是在隐含层采用S型激活函数,而输出层采用线性激活函数 S型函数具有非线性放大系数功能,可以把输入从负无穷大到正无穷大的信号,变换成-1到l之间输出 对较大的输入信号,放大系数较小;而对较小的输入信号,放大系数则较大 采用S型激活函数可以处理和逼近非线性输入/输出关系 BP算法属于δ算法,是一种监督式的学习算法 主要思想 对于q个输入学习样本:P1,P2,…,Pq,已知与其对应的输出样本为:T1,T2,…,Tq 使网络输出层的误差平方和达到最小 用网络的实际输出A1,A2,…,Aq, 与目标矢量T1,T2,…,Tq之间的误差修改其权值,使Am与期望的Tm, m=l,…,q 尽可能接近 BP算法是由两部分组成,信息的正向传递与误差的反向传播 正向传播过程中,输入信息从输入层经隐含层逐层计算传向输出层,每一层神经元的状态只影响下一层神经元的状态 如果在输出层未得到期望的输出,则计算输出层的误差变化值,然后转向
正在加载中,请稍后...扫扫二维码,随身浏览文档
手机或平板扫扫即可继续访问
B-样条权函数神经网络研究及其在数据挖掘中的应用
举报该文档为侵权文档。
举报该文档含有违规或不良信息。
反馈该文档无法正常浏览。
举报该文档为重复文档。
推荐理由:
将文档分享至:
分享完整地址
文档地址:
粘贴到BBS或博客
flash地址:
支持嵌入FLASH地址的网站使用
html代码:
&embed src='/DocinViewer-4.swf' width='100%' height='600' type=application/x-shockwave-flash ALLOWFULLSCREEN='true' ALLOWSCRIPTACCESS='always'&&/embed&
450px*300px480px*400px650px*490px
支持嵌入HTML代码的网站使用
您的内容已经提交成功
您所提交的内容需要审核后才能发布,请您等待!
3秒自动关闭窗口}

我要回帖

更多关于 线性齐次生产函数 的文章

更多推荐

版权声明:文章内容来源于网络,版权归原作者所有,如有侵权请点击这里与我们联系,我们将及时删除。

点击添加站长微信