新能源汽车，自动驾驶汽车开拓者马斯克，spaceX的创立者马斯克，为什么说人工智能可怕？！
其实我非常赞同马斯克的观点，作为程序员的我，想从技术和伦理的角度，来详细阐述人工智能为什么可能会最后奴役人类，有这么可怕吗？
我的答案是：是的，非常有可能！
其实推导出这个答案，并不复杂，就俩字：私心！人类是有私心的，人类中是有坏人的，也许人工智能本身没有好坏，仅仅是工具，这例如一把菜刀或者手枪，但是若是落入恶人手里，将会有惨剧发生，而人工智能若是如此，人类则可能被消灭！
程序是有bug的，这些bug的产生复杂多样，但是站在远处看，也及其容易分辨出类型：
程序员工程师的无心之过-也许是工期，也许是心不在焉，编写程序的人，无意识中在自己的代码里种下了一个bug.
黑客歇斯底里的破坏-也许是为了显示自己的厉害和获利，黑客也许会给运行的程序植入bug，让应用程序陷入崩溃，或者执行逻辑发生扭曲
上面的程序bug对当前的软件应用破坏力总体是可以控制的，虽然有的时候会带来金钱的损失，但是基本可以隔离，可以杀死bug，让被破坏的
的应用程序重新复活。
但是有了人工智能以后，程序就出现了质的基因突变，程序不再是实现某一单一功能的app应用，比如淘宝网站是可以完成购物的，美图是可以完成照片美颜的，当有了人工智能以后，我们今天的所有应用app就实现了互联，它们开始有了文化和价值观，这是非常可怕的裂变，因为人类之所以处于生物链的顶端，就是因为人类具备野兽群所没有的文化和价值观，文化和价值观的厉害之处，就在于可以实现即时的高性能决策，而决策的基础则是利益！
当人工智能出现了这样的三个标志：文化，价值观，利益的时候，人工智能就开始有了智慧，俗称的类似人类的IQ,这时人工智能则可以完全有能力，有战略，有目标，有计划，有评估，有优化的逐步实现对人类的操控。
这个过程举个例子也许是这样的：
某一日，联合国总部决定上线一款人工智能app，来调研全球贫困人口，并制定出贫困的标准，和对贫困的扶持政策，初衷是消灭地球上的贫困，让人类共同发展，享受幸福和人类文明。
于是全球的所有国家，都派出自己国家的程序员团队，组成联合国级的研发团队，计划开发这么一款app，这个步骤肯定是充满了争吵！
1，非洲人民认为的贫困标准，放到美国，让美国瞬间都变成了有钱人，扶持政策下的扶持资金一下全给了非常人民，自然美国人民不答应。
这样的利益矛盾，同样也会投射到未来的app上，app到底是站在谁的立场，判定一户人家是贫困，什么级别的贫困？显然需要的是智慧，而
不是算法，这时候的程序研发，不可能仅仅靠理科男生的大脑了，对吗？
2，生产，关于生产！当贫困的国家制定出了标准，就会出现最贫困的国家，和不贫困的国家，那么工厂需要建立在贫困的国家，
让那里的人充分就业，而不贫困的国家则出钱投资，这看起来非常完美，可是事物是发展的，总有一天，贫困的地区或国家，随着工厂，经济越来越好，不再贫困了，那么工厂又该建立在哪里呢？显然这些也无法仅仅靠理科生的IQ来解决！
但是这款全球的app还是要开发出来投入使用的，没有人知道这款app的决策依据，因为本身人类也无法明白到底应该如何区别贫苦，如何决策在哪里建厂，但是有个原则是所有人都答应的-这款全球app不能宕机，不能出现故障！而这是理工男可以做到的，可以让这款app实现诊断故障，并自我修复！于是app获得了永生，而且app的第一行为规则就是-活着永远做人类的仆人，永远不宕机！
天啊，这时候进入到了新的bug，就是伦理bug时代，这是现在的软件所不具备的，伦理bug就是价值观的bug!
3,在伦理bug下，人工智能的app开始了奴役人类
当一个高明思辨专家，例如诸葛亮在世，他制定了一个关于好人和坏人，好方法和坏方法的识别机制和价值判断，但是这仅仅基于他自己的利益，完全忽视了其他国家和人类地区的实际，而这种不公平，不透明的脏的价值观和决策依据却被压入到了人工智能的价值观库里。
于是人工智能系统会结合人脸识别，大数据分析，瞬间把这些不是好人的坏人给识别出来了！
记得前几天有新闻说，歌唱会上，靠人脸识别，识别出了不少罪犯！但是如果未来的人工智能机器靠价值观识别，可能会识别出数以万计的人类群体出来，而这些人如果像罪犯一样被惩罚，被奴隶，那么人类就慢慢滑入战争，进入彼此相互伤害的模式。
而这时候，已经全球化的人工智能文明，仍在后台运行，继续决定着，什么人该受到处罚，什么人该受到奖励，
但是问题是，没人知道人工智能是依据什么来做的决策！没有人知道人工智能，基于的文化，价值观，虽然这些文化和价值观来自人类！
限于篇幅和时间，不能继续畅谈，否则会是一篇长篇科幻片，但是我坚信这会真实的发生在未来的人类社会，如果人工智能真的高度发达了，有了属于自己的，完全不受人类引导和约束的价值观，文化，和决策是非的智慧的时候！
本文作者
