霍金警告：“谨慎对待人工智能” 细思极恐

对于影响未来的技术，人工智能必须算一个。由于算法的进步，目前人工智能的迭代学习能力正飞速发展，看看阿尔法狗就知道，几个月的学习就能造就围棋巅峰水平，KO人类最强棋手。

正是因为超群的学习能力，有些人开始担忧机器会不会脱离人类而自主存在。物理学家霍金曾警告谨慎对待人工智能，它的疯狂崛起是人类文明的大事，也可能导致人类文明的终结。而所有的担忧归根结底来自于有关机器人意识的存在与否。

毋庸置疑目前的机器人是没有真正存在意识的，但是，未来呢？50多年前，科幻作家阿西莫夫在他的机器人科幻作品中就定义了机器人的三大定律。而这一切的出发点就是未来人工智能的发展，机器人所产生的意思形态。

一、 机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管

二、 机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外

三、 机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存

虽然这是三个世纪50年代的科幻作品，但是对我们现在对人工智能的理解还是很具有借鉴意义。

我们不去讨论这机器人三大定律，现在最本质的问题是机器人会不会产生意识，产生何种意识。由于目前的人工智能都采用机器学习的算法，类似于物种进化的法则，会不会进化出意思？首先何为意识，这个没有明确的答案，哲学家可能也还没想明白这个事。但是，人类为什么会有意识，还是可以思考一下。根据进化论，人类从猿变为人，迈出的第一步至关重要。为什么要迈出这一步？很可能是生存的压力，导致猿猴们不得不做出些改变，不得不思考一些从未想过的事物。而生存的压力来自于哪里，竞争，竞争引导人类的进化方向！一旦人开启了主动思考的大门，越过这一道砍之后，就开始了迅速的进化，成为食物链的顶端。

机器人会不会也发生这样的可能，进化出意识呢？谁也不知道，由于机器具备超强的记忆力和无尽的迭代循环学习的能力，在人类交办的任务上，会有类似于思维模式的思考。在未来机器人普及的时代，如果你给机器人提一个要求，你的问题机器人解决不了，它是宕机了还是开启其他的解决方式呢？比如寻求其他机器人帮忙或者从规则不允许的方向上帮你解决掉。破环规则很可能开启另一片天地。另一个问题就是，机器人多了，必然会产生竞争，机器人之间的竞争也可能会发生，竞争的发生会导致算法的升级，这一次次的升级会不会促成机器人的觉醒？

关于机器人的觉醒的影视作品很多，像《西部世界》就讲诉了机器人觉醒给人类带来的巨大灾难。目前对于机器意思有很多理论，奇点理论认为人工智能到产生意识存在一个奇点，怎么理解呢？就是现在的机器人都还是0.99，它的每一次进化都是乘以0.99，所以它进化的再快，也在1之下，也就是在人类的掌控之中。而觉醒相当于越过了1这道坎，成为了1.01。经过几十代进化后就成为了一个巨大的数字，成了人类无法掌控甚至威胁人类的存在。这也是目前对于机器能不能生产出意识最激烈的讨论。

人工智能大大方便了我们的生活，智能机器人会产生意思吗？算法的迭代会突破1，导致人类无法掌控的局面吗？现在还都不得而知。