在线销售型网站产品,wordpress 栏目投稿,建筑职业培训中心,wordpress如何修改html代码文章来源#xff1a;机器之心作者#xff1a;Charles Q. Choi 编辑#xff1a;泽南、杜伟近日#xff0c;一项新的研究发现#xff0c;从理论上来看#xff0c;人类不可能控制超级人工智能。更为糟糕的是#xff0c;这项研究也明确了人类无法在这种 AI 生成之时发现它… 文章来源机器之心作者Charles Q. Choi 编辑泽南、杜伟近日一项新的研究发现从理论上来看人类不可能控制超级人工智能。更为糟糕的是这项研究也明确了人类无法在这种 AI 生成之时发现它。让人稍稍感到安慰的是根据不止一项预测任何通用超级计算机超越人类的时间都会在数十年以后。最近几年人工智能在国际象棋、围棋、德州扑克、Jeopardy 等游戏上超越了人类在 Dota2、星际争霸游戏中和顶级玩家打得有来有回时不时会引起一小阵恐慌有人担心超越人类的机器智能会在某一天让人们无所适从。「有关超级智能是否接受人类控制的问题其实很古老」西班牙马德里自治大学计算机科学家 Manuel Alfonseca 说道「这还得追溯到 20 世纪 40 年代的阿西莫夫的机器人三定律。」与超级人工智能展开任何形式的交流都是有风险的人们耳熟能详的机器人三定律首先在科幻小说家伊萨克 · 阿西莫夫在 1942 年的短篇小说集《我机器人》中被提出规则如下机器人不得伤害人类或坐视人类受到伤害机器人必须服从人类命令除非命令与第一法则发生冲突在不违背第一或第二法则之下机器人可以保护自己。在 1985 年《机器人与帝国》书中阿西莫夫将三大法则扩张为四大法则加入第零法则——机器人不得伤害整体人类或坐视整体人类受到伤害。2014 年牛津大学人类未来研究所Future of Humanity Institute 主任、哲学家 Nick Bostrom 不仅探索了超级人工智能破坏人类的方式还研究了针对这类机器可能的控制策略以及它们无法奏效的原因。Nick BostromBostrom 列举了这一「控制问题」的两种可能解决方案。一种是控制 AI 能做的事情如阻止 AI 连接互联网另一种是控制 AI 想做的事情如教授 AI 规则和价值观使其秉持人类利益最大的原则行动。Bostrom 认为第一种解决方案存在的问题是超级智能机器可能挣脱任何人类施加给它的限制第二种解决方案则担心人类可能没有能力训练出超级人工智能。计算固有的限制可能导致人类无法控制超级人工智能在本月初发表在 AI 领域顶级期刊《人工智能研究杂志》JAIR上的一篇文章中马德里自治大学、马克斯 - 普朗克人类发展研究所等机构的研究者认为由于计算本身固有的基本限制人类可能无法控制超级人工智能。他们表示任何旨在确保超级人工智能无法伤害人类的算法都必须首先模拟机器行为以预测其行动的潜在后果。如果超级智能机器确实可能造成伤害那么此类抑制算法containment algorithm需要停止机器的运行。然而科学家们认为任何抑制算法都不可能模拟 AI 的行为也就无法百分之百地预测 AI 的行为是否会造成伤害。抑制算法可能无法正确模拟 AI 的行为或准确预测 AI 行动的后果也就无法分辨出这些失败。论文地址https://jair.org/index.php/jair/article/view/12202/26642「阿西莫夫给出的第一定律实际上已被证明是无法计算的」Alfonseca 说道「因而根本无法实现。」我们甚至连自己是否已经创造了超级智能机器都不知道——这是可计算理论中莱斯定理的一个推论该定理指出递归可枚举语言的所有非平凡nontrival性质都是不可判定的。从本质上来说我们不能仅通过观察程序本身就知道程序可能会输出什么。当然另一方面我们还不需要为将来的机器人主宰提前做好服侍的准备。在该研究中有三个重要问题给该论文的推论带来了不确定性。首先Alfonseca 预计强人工智能的关键时刻还很遥远他说道「至少还有两个世纪。」其次人们所说的通用人工智能或强人工智能在理论上是否可行其实也是未知数。「这是指能像人类一样能够处理多个领域任务的机器。」最后Alfonseca 说道「我们还没有证明超级人工智能永远无法控制我只是说它们不能被永远控制。」计算复杂性是阻止人类控制强人工智能的重要原因尽管我们可能无法控制一个强人工智能体但控制一个超越人类水平的狭义 AI 是可行的——我们可以放心地依赖一些专注于某些功能而非像人类一样可以执行多种任务的机器人。「我们已经拥有这种超级智能」Alfonseca 说道。「例如我们拥有可以比人类速度快很多的计算机器。这也是一种狭义的超级智能。」原文链接https://spectrum.ieee.org/tech-talk/robotics/artificial-intelligence/super-artificialintelligence未来智能实验室的主要工作包括建立AI智能系统智商评测体系开展世界人工智能智商评测开展互联网城市云脑研究计划构建互联网城市云脑技术和企业图谱为提升企业行业与城市的智能水平服务。 如果您对实验室的研究感兴趣欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”
