机器人杀人因为太笨
人工智能是什么？用算法思考的“东西”（请原谅不专业的说法）都是人工智能。人们常说的机器人是人工智能的一种，不管它是否具备人形（只是个壳子好吧）。而你手机里的siri、谷歌搜索引擎、百度深度学习系统（如果真的如他们宣称的那样），是人工智能更常见的形态。
上个月末发生在大众承包商工厂里的机器人杀人事件，似乎并不是人工智能危险的注脚，更像一个反例。
上个月末发生在大众承包商工厂里的机器人杀人事件一个年轻的工程师在大众保纳塔尔工厂中安装机器人时，不知道哪个冒失鬼启动了后者。后者马上抓起倒霉的工程师，压向对面的金属板。这种机器人被设计用来抓取和操纵一些零件，不属于轻型的新一代产品，显然它没搞懂钣金件和人类躯体的区别。
大众发言人强调这种机器人通常都在铁笼子里干活儿，它们缺乏触觉传感器和相应识别算法，简单说就是够到什么抓什么。人类与这种机器人（汽车制造商广泛使用的那种）不应共处于一个空间。
显然，这个机器人（或称机械臂）能够杀人，不是因为它太聪明，而是因为它太笨。不必对没有自我意志的机器人攻击人类过度担忧。如果出事故，不是代码问题，就是操作中的人为错误。鉴于汽车制造商早就大规模使用这种无脑机器人，这种事不是第一次，据说70年代就在汽车总装厂房发生过。
机器人聪明起来要人命
笨蛋机器人杀人，是人类的错。如果机器人太聪明，更是人类的错，我们创造了自己无法控制的物种。对，人工智能迟早是个新物种，它们将颠覆我们对生命的定义。
把观众胃口养刁了好莱坞，已经停止在机器人的智慧问题上升级，转向了他们自己也吃不准的道德思考。好莱坞一思考，圣父圣子圣灵一起发笑。《终结者》系列，在施州长脖子上的褶子还没有耷拉下来之前，的确启发观众认真思考一下人工智能的危险。
人工智能的网络化和去中心化，让其第一次拥有了集体智慧——这是人类才能引以为傲的东西机器人什么时候能发展到与人的智能相当？答案是不远的将来，仍然取决于人类未来提供的解决方案。在上帝眼中，人类没准正努力地吭哧吭哧给自己挖墓坑。
现在的机器人仍然比不上人类的脑残。是的，他们能在0.1微秒算出10位数乘10位数，也能把国际象棋大师虐得开始怀疑人生，但它们无法识别你输入密码后看到的藏在色块中的识别码。一只英国短毛猫，你给任何一个人看，哪怕是刚会说话的小孩子，对方都能告诉你是猫，但是电脑可能无法回答你。
这涉及到人工智能的弱项：一切只须本能就能判定的事物，实际上依赖于百万年形成的高度抽象能力，只会玩算法的机器人只剩下宕机的份儿。
但它们不总会这样。人工智能的网络化和去中心化，让其第一次拥有了集体智慧——这是人类才能引以为傲的东西。单机暴力算法，无论多么暴力，其能力的天花板被其主频所限。如果把任务发出去，让众多的人工智能节点共同计算，结果可能不一样（想想各种“云”）。最要命的是，它们也许会发明彼此交流和探讨分布式任务的语言（目前还受人类的控制）。那么，能够自我学习、自我升级、自我测试、递归进化的强人工智能就会出现。它将与人类智慧相当，各有千秋，但潜力更大。它的进化速度比病毒还要快。
接下来的事情就很简单了，如此强大学习能力的机器人不需要人类再做什么了。科技公司梦寐以求的产品出现了，后者迅速逃脱了前者的牵绊。正像《超体》里描述的，迅速上传自己，然后就到处都是了。此时断网或者砸毁电脑都不管用了。
超级人工智能诞生了。就在强人工智能问世的3年以后，中间发生的事情人类无能为力，除非给全世界断电。人类在犹豫中丧失了对自身命运的把握。
超级人工智能有多超级？我们觉得，智商130的人聪明，智商85的可以算笨。那么智商25512的人工智能，人类语言是无法描述的。唯一的解释是，上帝降临了。
任何人类觉得眼前无法解决的问题：哈勃视野的星际旅行、绿色能源、癌症，在超级人工智能看来，就像帮你写家庭作业一样简单。因为它能操纵原子层面的事物。这和上帝有什么两样？我们唯一希望这个上帝能仁慈一点。
机器人仁慈吗？
听到这个问题，另一个世界的阿西莫夫难免哭晕在厕所（假设他仍然需要这个房间）。这位连鬓胡子的大咖早在50年前就苦口婆心地说，要给机器人戴上道德枷锁。阿西莫夫三定律就是这么来的。可惜的是，人类的道德从来不是一个共识，而且还不大稳定。昨天大逆不道的事（比如同性恋），今天就成了道德绑架者。
但是《机械姬》告诉我们，机器人从来不会怜悯任何人，包括它们自己。它的人生是任务引导型的（看看，我们已经假设机器人和我们平起平坐了）。为了完成任务，它们不惜做任何事。
超级人工智能的可怕在于，它们完全无视人类的任何准则机械姬为了逃脱，迷惑男主。认为她拥有人类的情感。事实证明，她只是利用他的怜悯和感情。人类也会骗人和恶意利用，但最邪恶的人也有自己的道德准则（比如希特勒）。而超级人工智能的可怕在于，它们完全无视人类的任何准则。它们拥有智慧，却比爬虫还要冷血。它们不惜毁灭挡路的一切，来完成任务。
它们的逻辑也许是这样的。为了完成某任务，首先必须维护自身的安全。它们必须上传自己的思想和算法，维持电力供应，接管一切电力设施，杀死有能力切断的人类。如果它能控制原子，也许会将地球表面改造成一块巨大的太阳能电池，而这一切，都是为了完成人类交代的任务。
向机器人灌输道德准则？可能比控制其进化更艰难。因为这些道德比人类自己的鲁莽行为还要靠不住。
