欢迎访问快乐赛车官网研发合作社!
当前位置:快乐赛车官网 > 公司动态 > 当人工智能变成人类杀手 公司动态

当人工智能变成人类杀手

发布时间:2019-06-30 03:45 作者:快乐赛车官网 点击量:154

  1942年,著名科幻小说家阿西莫夫提出了“;机器人三定律”:“第一,机器人不得伤,人,或者对身处险境的人袖手旁观;第二。,机器人必须服从人的指!示,除非这条指令违反第一条;第三,在不违反以上两条的情况下,机、器人有。权自保。”

  这些原则对后世的科幻文学产生了深&#;远影响,也成为现代人工智能(AI)学科的奠基石。数十年来,“失控、的机器&#;人”是人类挥之不去的梦魇,一代又一代科学家试图将日益强大的AI永远置于!阿西莫夫守则的禁锢中。

  然而,今年11月由美国HBO。推出。的纪录片《杀手机器人的真相》揭示了冰冷的现实:AI似乎正在远离阿西莫夫的构想,朝着《&#;终结者》或《西部世界》的方向发展。“这是本年度最恐怖的纪录片。”英国《卫报》评价道;。

  杀!手机器人已走进现实

  《杀手机器人的。真相》在机器人“科多莫罗德”的叙述中开常科。多、莫罗德看上去是个漂亮姑娘,但“僵硬的动作”和“怪快乐赛车官网异的停顿”揭示了&#;她的身份。美国“每日野兽”网站文。章称:“用机器人的口吻讲述;机器人杀手的故事再合适不过。”

  科多莫罗德首先回顾了2015年发生在德国法兰克福大众汽车工;厂里的一起悲剧。一名21岁的工人走进“关押”机器人的“安全笼”中进行调试,机器人突然“,发飙&#;”,用机械臂抓起工人按在金属板上碾压,致其死亡、。事故发生后,大众&#;公司含糊其辞,,至今未得出、调查结论、。检察官曾考虑提起诉讼,却不知该指控谁。

  据美国职业安全健康管理局统计,过去30年间,;机器人制造了30多起命案。最近一次是2&#;0&#;17年,57岁的技术人员万达·霍尔布鲁克在密歇根州一家汽车配件厂被机器!人杀死。,事件细节令人毛骨悚然。这家工厂里的&#;机器!人和人类在不同区域工作。然而,有个机器人“越界”了,它来到霍尔布鲁克身边,举起沉重的配件砸向她的头颅。死者的丈夫表示,妻子经历了“巨大的惊恐、疼痛和折磨”。

  如果说工业机器人“大开杀戒”离普通人有些遥远,那;么,自动驾驶汽车的车祸足以给乐观的人敲响警钟。自动驾驶汽车被称为;“第一代民用智能机器人”,可正如《杀手机器人的真相》指出的,它们;远非完美无&#;缺。2016年,一名美国男子的特斯拉汽车在自动驾驶模式下转弯时,并未察觉一辆拖车正在横穿路口&#;,以118公里的时速径、直撞了上去,特斯拉的车顶被削掉,车主瞬间殒命。。

  机器人能摧毁人类的血肉之躯,还会抢人类的饭碗。影片提到,机器人正在加速取代人,无论是在制造业、农业还是服务业,它们的!身影越;来越清晰。“当你。听到政客们承诺提高就业率时,他们不是在妄想就是在撒谎。”

  人工智能的粉丝描绘了一幅乌托邦画卷,:!机器人完成所有工作,人们、只需坐享清福。你我的大脑将被上传,到云端,实现“永生”。。

  而现实是,自动化导致越来越多的蓝领劳动者流离失所,留下。来的工人为了保住饭碗,不得不更卖命地工作。一边是效率更高、成本&#;更低的机器人,一边是&#;一有不满就罢工的工&#;人,老板有什么理由对后;者手下留情?

  “机器。人是好的,”科多莫罗德这样评价同类,“除了;杀人和抢工作的时候。”

  该让AI掌控生杀大、权吗?

  A。I对人类的威胁日益膨胀,把生杀大!权交到它手中更容易火上浇油。

  使用杀伤武器的决定权一;直掌握在人类手里!,但AI的;发展有朝一日或将改变局面。机器人可以更早,发现敌人,并主动出击,消,灭目标。据美国《纽约时报》报道,美国、英国和以色列等国家都在尝试赋予无人机和导弹自主权。

  这与阿西莫夫定律背道而驰,对人工智能武器的猛烈抨击汹涌而至。2015年,斯蒂芬·霍金及1000多名人工智能科学家联名签署了一封公开信,警告说“自动化!武器将像AK步枪一样普及”,“在执行暗杀、征服异族、破坏别国稳定、减少外族人口等任务时扮演理、想的工具”。201;8年,谷歌公司的几名资深&#;AI专家发表声明,“拒绝开发直接或间接导致!人员伤亡的武&#;器和技术”。

  有人呼吁全面禁用不;需要!人类监督的全自动致命性武器,&#;这项倡议受到澳大利亚、以色列、美国、俄罗斯和韩国等国!家的阻击,未!能成为国际守则。

  “我认为自动化武&#;器不能遵守作战规则。它们分不清敌我,也无法做出正确反;应。&#;”英国谢菲尔德大学;教授诺尔·夏奇告诉英国《每日邮报》,;“比如,你不能说本·拉登的性命等于50个老太太加20个孩子。人类必须亲自判断,不能让机器代劳。我们不反对机器人,但让杀人武器自己!跑出去!滥杀无辜,这太可怕了。”

  《纽约时报》假想了这样一幕:飘雪的寒冷冬日,两国。士兵正在进行;例行;边境巡逻,双方都配备了手持机枪的机器人,它能识别出有威胁的人员和、车,辆。一名士兵不慎跌倒,触碰了步枪扳机。对面的机器人听到枪声,立刻判断这是攻击信号。一秒之内,;双方机器人在算法的指挥下同时向人类开火。枪声停止后,几十名士兵的尸体散落在机器,人周围,两个国家剑拔弩张。

  对机器人士兵的担忧并非空穴来风。据英国“listverse”网站消息,2007年,南非的,一台防空武器在演习期间无缘无故地开火,&#;杀死了9名士兵。经查,“肇事者”可以在无人干预的、情况下发现和打击目标、,甚至自行装弹。防务;工!程师理,查德·杨表示,此事绝非!偶然,他曾多次目睹武器“发狂”,只是没人丧命而已。

  “,超级物种”实现自我进化

  人工智能会摆脱人类的约束吗?这是我们对AI最;大的忧虑。

  瑞典学者尼克·博斯特罗姆在《超级智能的、演变、危险和对策、》一书中写道,人脑、神经元的工作速率约为20!0赫兹,信号传递速度为每秒120;米;AI的工作速率为2000万赫兹,信号&#;传递速度为光速。而且,人、脑中神经元的数目是有限的,而AI不受存储空间限制。

  一&#;些,高级AI可以自行修改源代码,进一步改进算法提高“智商”,把人类远远抛在身后。因此,&#;它们,的智力几乎必然高于人类。

  Alphago-Zero是这类AI中的佼佼者。它是谷歌“阿尔法狗”家;族的最新成员。Alphago的其他版本都以大量!棋局作为学习基础,而Alphago-Zero跳过这步,在玩游戏的过程中学习如何玩游戏。诞生第&#;1天,除了基本的规则,它对围棋一无所知;第3天,它便打败了战胜过李世石的“大哥”A;lphagoLee,战绩为100:0;第40天,它;超、越了Alphago的其他所有版本,成为围棋界的“独孤求败”。

  科学家没有为Alphago-zer;o预装任何围棋知识,让它如、此强&#;大的秘密是一种新的强化学习模式。它将AI的神经网络与强大的搜索;算法结合,在一次次自我博弈中调整并更新神经网络,唯一的目、标是赢者通吃。简而言之,Alp&#;hago-zero不再受人;类既有知识的束缚,它是能自我学习和创造的“超、级物种”。

  Alphago-zero的自主进化能、力令人震惊,在。脸书的&#;人工智能实验室中发生的一件事则让所有知情者脊背发凉。2017年,训练机器人谈判的研究,人员发现,这些机器人在用某种“非人类语言”交流。研究人员、不得不调整。指令,把AI之间的对话限制在人类能理解&#;的范围内。

  这种现象有点儿像双胞胎的“隐语症”——2011年,有人把一对双胞胎的视频上传到“Youtub。e”网站:两个蹒跚学步的孩童用无人理解的声。音喋喋不休地“聊天”。不过,。脸书表示,与双胞胎!的“心灵感应”不同,机器人似乎正在创造语言,这些语言具有连贯的结构、特定的!词汇和&#;语法。

  美国《纽约客》杂志认为,一旦;AI全面超越人类,它或。许不会对造物!主感恩戴德,特别是当我们不知如何向它们灌输情感&#;的时候。一个心冷如&#;铁又无所不能的存在,凭什么。对一群只是因为天气恶劣就不想起床上班的生物怀有特、别的感情?

  恐惧源自不确定,的未来

  在纪录片《杀手机器人的真相》中,一些受访者认为机器人能促进社会繁荣,另一些人担心它,只会加剧!贫、富差距。

  已故,科学家霍金曾向英国广播公司表达自己对人工、智能的担忧。在他看来,,&#;人工智能的充分发展可能是人类的末日,“几乎可以肯定,在1000年到10000年之内,人类的生存将受到技术的严重威胁”。

  。霍金的想法得到了不少人的共鸣,包&#;括特斯拉CEO马斯克和比尔·盖茨。马斯克将开发AI比喻为、“召唤魔鬼,”,相信超级智能可以&#;把人类当宠物豢养。

  计算机科学家迈克尔·伍尔德里奇!认为,人工智能的算法在黑匣子里运行,复杂程、度超出常人认知。如果我们不理解算法如何运;作,就无从预测AI何时失控。因&#;此,自动驾驶汽车或机器人在关键时刻,会&#;“失心疯”,让人类命悬一线。

  人工智能的支持者同样大;有人在。克里斯多夫·沃尔特是一名德国机!器人工程师,他!并不觉得自动化会跟人类抢饭碗。“我们的目的不是用机器人代替工人,而是要为工人提供支持。”他在纪录片!中强调。

  好消息是,经过多年,研究,科学家仍然没有发现、机器人在需要情感交流的工作,中比得上人类,例如护理。尽管如此,在、日趋老龄化的社会,中使用机器人护&#;工,确实能让各国政府节省大笔养老和。医疗开支,这比对抗“终结者!”更现实。

  美国《时代》杂志认为,人工智。能堪、称&#;当代最热门、;最难理解、最具争议的技术之一。你无法看到它或&#;触、摸它,甚至可能意识;不到自己正在使用它,比如当你家里的恒温调节器设定适合的温度,或者手机自动纠正你输入的字母时。

  半个世纪以来,人类在人工,智能帮助下进步;如今,AI成为主角的时代正在到来。。我们身处的世界信息量巨大&#;,只有近乎无限的计算能力才能应付。人工智能可以切实帮人类克服很多棘手的课题&#;,涵盖通信,、能源、气候!、医疗、交通等领域。人工智能技术终将适应人类,给社会带来深刻变化。

  “超级人工智能的兴起将是人,类有史以来最好或最坏的事情。”如霍金生前所言,“我们还不知道是哪一个。”

  美国小说家洛夫克拉夫特说过:“&#;人类、最古老、最,强烈的恐惧源于未知。”这或许才是我们如此害怕人工智能的原、因。

  



快乐赛车官网| 企业概况| 公司荣誉| 产品中心| 公司动态| 联系我们| 网站地图