人工智能是人类生存面临的最大威胁?
&v&&v&&v&&v&&v&&v&&v&&v&&v&&v&&v&&v&
您现在的位置：&&>>&&>>&&>>&科学新知正文
人工智能是人类生存面临的最大威胁?
据英国广播公司（BBC）报道，英国著名科学家斯蒂芬?霍金说，人类创造智能机器的努力威胁自身生存。霍金表示，“彻底开发人工智能可能导致人类灭亡。”
霍金的此番警告是回应对他使用的通讯科技的改良，其中就包括了基本的人工智能。
霍金是英国著名理论物理学家，患有肌萎缩性脊髓侧索硬化症（ALS），使用英特尔（Intel）公司开发的一种新的系统说话。
另一家英国公司Swiftkey的机器认知方面的专家也参加了这一系统的开发。这家公司的技术已经被用在智能手机的按键应用软件中，揣摩霍金教授的思想并推测他可能希望使用的词语。
霍金教授说，人工智能目前的初步阶段已经证明非常有用，但他担心创造出媲美人类甚至超过人类的东西将要面对的后果。“它可能自行启动，以不断加快的速度重新设计自己。而人类局限于缓慢的生物进化过程，根本无法竞争，最终将被超越。”
不过，其它科学家并非都对人工智能持如此悲观的看法。智能机器人的发明者罗洛?卡彭特表示：“我相信我们还将继续在相当长的时间内掌控科技和它的潜力，并解决世界上的许多问题。”
卡彭特说，“我们还不知道机器智能超越人类后将出现什么情况。所以我们不知道我们最终将得益于此，还是因此而被忽略、被边缘化，或者被消灭。”他预示，人工智能将起到正面的作用。
霍金教授并非少数担心未来的科学家。智能机器的开发已经让很多人担心它们将取代人类，短期效应是使数以百万计的工作职位不复存在。而长期来看，人工智能是“人类生存面临的最大威胁”。
霍金教授另外还对互联网的好处和危险发表了看法。他引述英国政府通讯总部（GCHQ）负责人的警告说，网络有可能成为恐怖主义分子的指挥中心。“互联网公司应该下更大力气应对这些威胁，但是困难之处是如何不损害自由和隐私”。
虽然人工智能在过去数年发展很快，但霍金使用的科技智能仪器中，声音部分并没有任何的更新换代。
霍金承认，他的声音的确听起来很机器，不过坚持他不想要更加自然的声音。“这已经是我的标志，我不想变成更自然的英国腔调的声音”，“我听说很多需要智能声音的孩子，都要像我这样的声音。”
上一个科学新知： 下一个科学新知：
相关科学新知&&&&3月10日下午消息，谷歌围棋人机大战今日迎来第二场，创新工场董事长李开复撰文表示，虽然机器在逻辑分析推算方面，能力会远超人类，但是依然是属于人类操控的工具。AlphaGo这类的“人工智能”机器真正可能带来的危机，不是奴役人类，而是让人类丧失斗志，无所事事。　　以下为李开复署名文章全文：　　昨天AlphaGo第一盘棋战胜了李世石，激起了各种“机器超越人类，科幻小说将成真”的讨论。特别有趣的是有人揣测AlphaGo下面会不会故意输下几盘棋，以免人类起疑心，阻挡了它统治人类的野心。其实，虽然机器在逻辑分析推算方面，能力会远超人类，但是依然是属于人类操控的工具。AlphaGo这类的“人工智能”机器真正可能带来的危机，不是奴役人类，而是让人类丧失斗志，无所事事。　　有些人描述AlphaGo是“和人一样的方式思考，但是比人快无数倍”。这么说并不精确。AlphaGo确实比人快无数倍，但是AlphaGo的思考只能说是“被人的大脑启发”，而非和人类思考一样。AlphaGo是一个能自我学习的深度学习，经过专家的调节，它能在任何在可以纯凭逻辑分析推算的问题上，把人类远远低抛在后面。机器速度会越来越快，学习能力会越来越强，数据会越来越多。　　基于深度学习的人工智能将带来什么改变呢？我们将看到无数的商机和产品，能够解决问题、拯救生命、产生巨大的商业和用户价值。未来，自动交易能得到更高的投资回报和风险比例，自动诊断+基因排序会达到个性化精准医疗，推荐引擎将能推荐你最可能会买的产品、想吃的菜，想认识的人。在拥有大数据+大计算+专家调节的领域，就不必再跟人类相比了，因为人类根本差的太远了(就像没有人能打败搜索引擎一样)。　　这些技术可能辅助专家，也可能取代专家。非专家的工作者很多将会面临失业。未来十年，大部分今天的人类工作可被机器取代。机器将取代许多的护士、记者、会计、教师、股理财师。。。的工作。任何带有“助理”、“警察”或“经纪”等字样的职位都很可能被取代。&这些机器不需要工资，只需要供电和网，就会一年365天，一天24小时“上班”。这些机器将帮助我们创造世界上的大部分财富。　　虽然这些机器确实很“聪明”，而且又高效、勤奋、低廉，但是他们并不“人性化”，只是冷冰冰的机器和工具。比如说，AlphaGo第一场就战胜了李世石，但是它不会感觉高兴，也不会理解我们对于它的讨论。甚至，它说不上这局棋是怎么赢的。因为，它的思考虽然周密，但是它不懂“赢了有什么感受？”，也不懂“为什么围棋好玩”，更不懂“人为什么要下棋？”，甚至连“你今天怎么赢的？”都说不上。今天的机器完全无法理解人的情感、喜怒哀乐、七情六欲、信任尊重、价值观等方面&。对于人文艺术、美和爱、幽默感，机器更是丝毫不懂。有位AI研究员做了一套研究幽默感的系统，然后输入了一篇文章，这个系统看了每句话，都说“哈哈”！今天的机器连个两岁小孩都不如。对人工智能的研究者，这应该是一大未来的挑战。　　所以，今天这些机器仅仅是我们的工具，会为创造价值。至少今天，我们不必担心人工智奴役我们(不过要盯好拥有机器学习+大数据的公司，别来作恶伤害用户)。那我们该担心什么呢？这些强大的机器，将带来人类能否度过有史以来最大的“下岗潮”。这次的“机器取代人类”将远超过去的工业革命和信息革命。不过，“下岗”还不是最可怕的，因为这些机器会产生巨大的商业价值，养活着这些下岗者，进而养活着人类。人类最应该担心的是：一旦当机器供养着人类，人类达到了马斯洛需求的基本需求，人类真的还会有动力去追求更宏伟的目标，自我实现吗？还是会醉生梦死、无所事事地或者？　　面对这个担心，我们应该：　　①关注启发式教育，用互动式教育启发孩子对学习的兴趣和效率。AlphaGo愿意跟人类学习，我们当然也要善用最善于分析，最博学的机器。善于学习，乐于学习的孩子，是不会醉生梦死的。　　②正视发育右脑的学科领域，平衡文理。塞翁失马，焉知非福？机器超越人类的左脑(工程逻辑思维)，也许就是要人类从过去几十年重视理工，倾斜回来，花更多的精力在机器不擅长的右脑，例如：文学诗歌、艺术音乐、电影话剧、文创设计、工匠之美、宗教哲学、沟通情商。这不是说就不要学理工了，而是说应该让适合理工，爱好理工的人学理工，适合人文，爱好人文的人学人文。我们应该平等看待文理，并且鼓励发展文理双全的人才。　　③鼓励有上进心的年轻人挑战自己，&孜孜以求，成为专才。不要把时间浪费在“安稳”但是重复性的工作上，而要以“成为某个特殊又有用领域的最顶尖人才”为目标，为己任。
投诉欺诈商家:
天津重庆哈尔滨沈阳长春石家庄呼和浩特西安太原兰州乌鲁木齐成都昆明贵阳长沙武汉郑州济南青岛烟台合肥南京杭州东莞南宁南昌福州厦门深圳温州佛山宁波泉州惠州银川
本城市下暂无经销商
下载中关村在线Android 客户端
下载中关村在线 iPhone 客户端
下载中关村在线Windows8客户端
成为中关村在线微信好友人工智能是否最终主宰世界？其实是拟人化倾向|人工智能|人类_科学探索_新浪科技_新浪网
人工智能是否最终主宰世界？其实是拟人化倾向
　　新浪科技讯 北京时间10月13日消息，据国外媒体报道，近日，许多世界著名科学家齐聚爱尔兰科克大学纪念英国传奇数学家乔治-布尔诞辰200周年，缅怀其在符号逻辑运算领域的特殊贡献。科学家们认为，乔治-布尔在符号逻辑运算领域的研究成果为今天的人工智能革命打下了坚实基础，而人工智能将带领人类社会生产力再一次实现飞跃性发展。但是，人力劳动被取代，社会失业率是否会大增？人工智能是否会最终主宰世界？这些问题也引发了人们对人工智能新的担忧。与会科学家认为，不必如此担忧，有人对人工智能的担心和害怕，其实是拟人化的倾向，即人类将自身的负能量强加于机器智能身上。
科幻电影《终结者》的画面：机器人崛起。
　　在过去几年里，人工智能已经从科幻小说中走进现实，对我们的人类生活产生了巨大影响。人工智能不仅仅会让现有的无数种职业逐渐消失，造成成千上万人失业，而且还会逼迫人类去面对许多新的难题，如隐私问题、法律问题、伦理问题等。在纪念英国传奇数学家乔治-布尔活动中，科学家们重点讨论了人工智能对人类社会的影响。乔治-布尔出生于200年前的1815年，是19世纪最重要的数学家之一。由于其在符号逻辑运算中的特殊贡献，很多计算机语言中将逻辑运算称为布尔运算，将其结果称为布尔值。
　　许多理论认为，如果不是因为布尔于1864年英年早逝，数字革命可能会因此提前数十年。后来，美国数学家克劳德-香农依据布尔逻辑理论发明了开关电路，将其应用于电子学领域。其实，布尔本人也是早期人工智能理论的倡导者。他认为，所有人类思想都可以换算成数学公式。布尔的传记作者戴斯-麦克海尔回忆道，在一次前往伦敦的途中，布尔对英国数学家、计算机先驱查尔斯-巴贝奇的差分机产生了极大的兴趣。差分机相当于一种早期的计算机。
美国数学家克劳德-香农依据布尔逻辑理论发明了开关电路，将其应用于电子学领域。
　　考虑到布尔对于计算机领域的重要贡献，在纪念活动中，科学家将其与现代人工智能的发展联系到一起，也就不足为奇了。目前，计算机软件能够理解输入指令并执行，无论是解释一条搜寻指令、还是导航一条道路，或是翻译一种外国语言，人工智能的应用都已达到一种史无前例的高度。比如，谷歌搜索引擎的搜索算法，微软Excel表格的自动计算功能，都是人工智能的应用，而且经过多年的发展它们已经成为我们日常生活的一部分。随着人工智能向更高层次发展，人们对于这些最最普通的应用已经习以为常，甚至不觉得它们是一种人工智能。当然，这也和著名科幻小说家艾萨克-阿西莫夫等人的作品对人们的影响有关。
　　如今，人工智能也取得了飞跃性的发展。计算机运算能力的大幅提升、互联网的高速发展、大数据的汇集与共享引发了一场新的人工智能革命。科技能够更接近地理解和模仿人类智力，比如苹果iPhone手机中的Siri能够理解人类的语音指令，并做出相应反应；图像识别软件可以根据照片识别出人和动物的脸，这些功能都已经是司空见惯了。此外，人工智能在医学扫描、疾病诊断、建筑结构检测等领域也都有着广泛的应用。
苹果iPhone手机中的Siri能够理解人类的语音指令，并做出相应反应，这其实也是一种人工智能。
　　著名人工智能专家、美国艾伦人工智能研究所负责人奥伦-埃兹奥尼表示，“现在是人工智能的春天。在几年前，人们可能认为这是不可能的，现在应该不会有这样的说法了。人工智能将带来更为广泛的商业影响。”可以肯定地说，人工智能的应用潜力是极其巨大的。未来，绝大多数体力工作都将交给机器人完成，而人类也应该学会信任它们。
　　但是，人力劳动被取代，社会失业率是否会大增？人工智能是否会最终主宰世界？这些问题也引发了人们对人工智能新的担忧。机器人不需要薪水和福利，不需要周末和假日，也不需要睡觉；它们不会因为宿醉而影响工作，不会迟到，也不会与工友发生不愉快。当它们变得越来便宜、功能越来越强大，企业主难道不想用它们来替代工人吗？其实，早在150多年前，布尔就已经想到了这一点。据布尔的妻子玛丽回忆，布尔曾经指出，“同样的工作，如果机器完成的速度比你快得多，当然要使用机器。”随着人工智能的发展，越来越多的现象证明，机器人正在逐渐替代劳动力，如自助结账超市、无人驾驶货运列车等已经出现。
　　关于机器人对人类社会，尤其是就业的影响的态度，科学家们分成了两个阵营。一方观点认为，就像工作革命打破了农耕社会的作业秩序又建立了生产工厂一样，机器人的出现也会促进新的机会的出现，培养新的职业，未来的许多事物我们如今也许想像不到而已。另一方观点认为，未来的工作将更加专业化和科技化，现有的大量职业将消失。埃兹奥尼表示，“这是一个现实问题。我们确实要好好讨论一下人工智能对劳动力的影响问题。”
现实生活中机器人接管的一个领域。
　　除了失业问题，还有一个更大的阴影笼罩于人们的心头。人们在担忧，越来越智能的机器是否会成为超级智能机器，甚至会反过来主宰人类？去年，许多有世界影响力的人物，如斯蒂芬-霍金、比尔-盖茨、埃隆-马斯克以及苹果联合创始人斯蒂夫-沃兹尼亚克，纷纷警告称，人类只顾着发展超级人工智能，而没有考虑潜在的致命后果。霍金认为，“它将会自我启动，自我设计。”盖茨担忧，“我不明白一些人为什么从不担心。”
　　参加布尔纪念活动的专家们似乎并没有太在意这些担忧。美国宇航局前高管、佛罗里达人类与机器认知研究所负责人肯尼斯-福特认为，对于人工智能的担心和害怕，其实是拟人化的倾向，即人类将自身的负能量强加于机器智能身上。他指出，在《2001太空漫游》中，人工智能电脑“HAL 9000”反过来攻击人类，其实是人类妄想症造成的。“HAL 9000”的问题并不是它的智能问题，而是人类强加给它的，没有理由相信现实生活中的人工智能也会这样。(彬彬)
　　扫一扫，带你看最新最有趣的科学。扫描下方二维码关注新浪探索官方微信(也可微信搜索：sinascience或新浪探索)。
文章关键词：
&&|&&&&|&&&&|&&
您可通过新浪首页顶部 “”， 查看所有收藏过的文章。
，推荐效果更好！
看过本文的人还看过人工智能还是人类公敌？
日 08:38:04
来源：中国青年报　　作者：记者 陈墨
　　日，在浙江宁波国际智能机器人环球巡演中，机器人与市民共舞。 CFP供图
在前不久的伦敦“谷歌时代精神”大会上，霍金平静地描述了人类的命运：“在未来100年内，结合人工智能的计算机将会变得比人类更聪明。”
这位大科学家认为，届时，人类将被机器控制。
出席美国脱口秀节目时，斯蒂芬·霍金甚至还讲了一个“恐怖”故事。
“世上真的有上帝吗？”科学家用颤抖的声音问道。
“现在有了。”世界上最聪明的人工智能电脑回答。话毕，一道电光闪过它的电源插头——人们再也关不掉它了。
主持人约翰·奥利弗听得瞪大了眼睛。和地球上大多数人一样，他也相信当人类真要与人工智能作战时，切断它们的电源就足以制敌了。
今年年初，霍金在一封提倡控制人工智能发展的公开信上签下自己的名字，微软创始人比尔·盖茨、特斯拉汽车公司与美国太空探索技术公司CEO伊隆·马斯克的名字也赫然在列。在他们看来，飞速发展的人工智能已经成为“我们现存的最大威胁”。
人类一手创造了敌人，并用自己最强大的武器“智慧”武装了它
几位人类科技界“顶梁柱”担心的“人机大战”，很可能已经悄悄冒出硝烟的味道。在上传至Youtube的一段视频中，一只名为Spot的机器狗协调地运动着白色的四肢，像真正的狗一样行走。
为了证明它的坚固，有人冲出来，对准它的腹部结结实实地踢了一脚。机器狗一个趔趄，一边发出急促的吱吱声，一边紧踏几步保持平衡。
这段“虐狗”视频引发了热议。有网友评论：“这就是世界结束的方式。不是大爆炸，而是在被你踢了之后，机器狗转身扑向你。”
在现实世界中，人类也正处在人工智能的包围中：拿起手机，可与虚拟助手Siri对话；想要出门，可乘无人驾驶汽车兜风；走进医院，超级电脑沃森医生正在“坐诊”。
战争可能在某一天悄悄打响。电脑擅自替你做出抛售股票的决定，或者无人驾驶汽车突然决定在高速路上歇脚。之后的情况则将超出“故障”的范畴，演变成一场灾难。
在忧心忡忡的科学家们看来，这将是一场前所未有的战争。人类一手创造了自己的敌人，并用自己最强大的武器——“智慧”，为它武装。
“我们人类之所以存活于世，从来不是因为我们是这星球上最强壮、或行动最快的物种，而是因为我们最聪明。”《我们最终的发明：人工智能和人类时代的终结》作者詹姆斯·巴拉特说道，“所以当比我们更聪明的力量出现在这星球上的时候，它就将接管地球。”
超人学家尼克·博斯特罗姆在《超级智能》一书中描绘了令人毛骨悚然的场面：纳米机器人突然开始疯狂地自我复制，而它们此前被植入人体内，是用来对抗疾病。
上上个周末，身在伦敦的霍金以三维全息图的方式出现在悉尼歌剧院，用机械声音对坐在台下的人们说：“我认为我们无法再在这个脆弱的星球上生活1000年。” 受困于缓慢的进化速度，人类根本无力与飞速发展的人工智能抗衡，最终，“人工智能的全面发展将导致人类的灭绝”。霍金甚至主张人类去其他星球“殖民”，以保证种群的延续。
另一些学者则描绘了人类完全被机器人“脾气”主宰的悲凉命运。他若残暴，我们可能被屠杀；他若人道，我们的出生率可能被逐渐降低，自然灭绝；若他们当中有善良的自由主义者，我们将被驯化。
比起“宠物”，对科技持乐观态度的哲学家格雷·斯科特更愿意把人类视为“学生”。当人工智能超越了人类智能，人类将在它们的指导下，“成为更好的物种。”
在一片恐惧中，百度公司首席科学家吴恩达认为，现在为人工智能的负面影响担忧，就像担心火星上人口过剩一样遥不可及。
特斯拉CEO马斯克却无法对此视而不见。这位亿万富翁已经开始“站岗放哨”。他为一家名为“Deep Mind”的人工智能公司注入资金，只是为了“盯着这种技术的走向。”
人工智能拥有成为“终结者”的潜力，即便在它们完全服从命令的时候
一位高级认知机器人学研究者正面临着颇为纠结的教育问题。与不知怎样向孩子解释“小孩从哪儿来”的父母不同，他在思考要不要向孩子揭示一个残酷的前景——他们可能不会有机会拥有自己的孩子，因为他认为人工智能统治的时代已经近在咫尺了。
“人工智能真正严重的危险将在5年、最多10年后便会出现。”马斯克去年11月在群组博客Edge的讨论中写道。或许是太过惊悚，消息刚发出便被删除。相比之下，霍金给出的100年期限简直温和极了。
不过眼下，人们还是可以确定，至少在一段时间内，人工智能只会是让生活更美好的“大白”。
它们将是照顾老人的护工，看护孩子的玩伴，打理家务的管家，甚至与人心灵相通的朋友。通过解码面部肌肉运动，人工智能机器人将得以理解人的感情和思维，如同科幻电影里的“大白”一般，时刻准备送上治愈的拥抱。
乐观的哲学家格雷·斯科特描绘了一幅美好的图景：到2018年，自动化将遍及世界，承包无聊或危险的工作，辅助人类做有趣的事情。在不远的未来，机器更将满足人类的生活所需，让二极管去算账，让女会计成为诗人。
然而，这些美妙的念头无法令他回避人工智能拥有成为“终结者”的潜力，即便在它们完全服从命令的时候。
“在追击人群中的一个目标时，它会知道等目标离开人群后再开火吗？”斯科特问道。这是科学家们共同承认的一个困境：如何为道德编码。当人工智能被用于军事，这变得尤为重要。
就在上月，哈佛大学法学院呼吁“通过国际法令，禁止开发、生产、使用自主式武器”。起草报告的邦妮·多赫蒂义正辞严地表示：“没有道德和人性的机器不应拥有杀戮的权力！”
在好莱坞电影《复仇者联盟：奥创纪元》中，人工智能奥创以“杀戮”的方式，忠实地履行着创造者维护和平的意愿，在它看来，这手段最行之有效。
现实中，科学家也担心，会不会有一天，“抗癌斗士”纳米机器人仔细思考后发现，比起杀死癌细胞，清除基因上易患病的人更方便。
“把能量释放出来容易，想确保安全却很难。”马斯克认为，人工智能研究的重点首先应该放在安全上。如果开发时间因此延长，恰恰是正确的路径。“我们不能一头扎向自己不懂的东西。”
今年年初，霍金、马斯克、盖茨等共同签署了公开信，呼吁科学家对人工智能提高警惕。霍金建议人工智能研究机构应协同合作，确保发展速度不会过快，并使之保持在人类的掌控之中。
人工智能将是人类历史上最大的成功，也可能是最后一个
如果有一天，外星文明发来讯息：“我们将在几十年之内到地球来。”我们当然不会回应：“好的，我们给你们留着灯。”
对此，霍金在2014年5月发表在英国《独立报》的一篇文章中写道，“相似的事情正在我们与人工智能之间发生。”
哲学家格雷·斯科特指出，人工智能是“入侵者”，而人类对它们而言也是“压迫者”。机器的反应取决于人类对它们的设定，降低机器的自尊水平或许能够避免冲突。马斯克则将“仁慈”视为保证人类控制水平的最佳方式。
在“时代精神”大会上，轮椅上的霍金用脸部的一块肌肉指挥机器说道：“我们需要确保计算机与我们的目标相一致。我们的未来取决于技术不断增强的力量和我们使用技术的智慧之间的赛跑。”
在另一些科学家看来，人类与人工智能可能根本不会有“开战”的机会。在被人工智能冲击之前，人类的防线就已经开始不由自主地倒戈。
第一台盲人阅读机的发明者雷蒙德·库茨魏尔在《灵魂机器的时代》一书中描述道，人类不会把控制权拱手让与机器，人工智能也不会主动攫取。随着机器愈发复杂和智能，人类对机器的依赖也日益加深，最终不得不听任机器来控制。到那时，关掉机器是无法摆脱他们的控制的，因为关机于我们而言无异于自杀。
斯科特依旧对人类充满信心，他相信，人类已经用技术和法律规范约束了核弹，也必定有能力管理人工智能。虽然在霍金口中，人工智能无疑是前所未有的劲敌，“比金融家更聪明、比研究者更富创造力、比领导更具操控力”。
在电影《超验骇客》中，被暗杀的科学家威尔在妻子的帮助下，成功将自我意志转入超级电脑之中，从此成了无所不在的“超验骇客”。他能从土壤中造出太阳能板，能让残疾人长出新肢，能全天候通过一切终端出现，人类已经无法阻止这个人机合一的超级存在。
曾主张修改人类基因与机器抗衡的霍金对此大为兴奋。他力挺把人的大脑与计算机直接相连的“人脑控制技术”，由此打破人类智能与人工智能间的藩篱，人与机器最终得以合二为一。自此，人工智能将对人类智能做出贡献，而非威胁。
到那时，人类千百年来苦苦追求的长生不老也可能因此实现，肉体死去，精神却在人工智能系统中获得无限的权力和自由。
“人工智能将是人类历史上最大的成功，”早已瘫痪的科学家霍金在机器的辅助下写道，“不幸的是，这也可能是最后一个。”
（ 网站编辑：赵梦姣 ）}