互联网的进化

首页 > 我的分享 > 互联网的进化

2009年6月29日

511 次阅读阅读评论发表评论

机械公敌

不久之前，人们认为“地球是圆的”是不可能的；更不久之前，人们认为“重物落地要快”是天经地义。这个世界上不存在“不可能”的事情，人类历史告诉我们，所有的“不可能”只是限于自身认识的狭隘与无知。所以，Never say never。

在科学网上看到一篇博文，题目是互联网会成为人类的敌人么？引发了我对这个很有吸引力的问题的连日思考。对待这个问题，作者的很多想法我是很赞同的。但对于这位老师极其干脆的断言，我不敢苟同。总结了一下自己的想法，贴在这里。

这是从原文中摘抄下来的一些文字：

互联网需要越过三个关卡才会成为“终结者“中那个可怕的天网，第一，互联网的自我进化能够离开人类的帮助，第二，互联网的自我进化速度能够超越人类，第三，具有自我意识的互联网将人类看作敌人而非朋友。……纵观互联网的发展史，无论是计算机的制造，网络线路的搭建，外部信息的输入，信息搜索算法的设计，互联网的每一点进展都离不开人类的参与，未来，这种状况依然无法被打破，包括电力供应，设备维护，新算法和新程序的更新，没有人类的帮助，互联网将逐步变成一具庞大的死尸。

这是我的评论：

其实，互联网成为人类的敌人根本不需要的所谓关卡。首先你的前提就值得商榷，想成为你的敌人并不一定要比你聪明！其实在人类社会中，智慧——这个人类的标志性特征——作为人类发展的主导因素始终在遭受着挑衅！人类够聪明，为什么还会有战争，为什么还有破坏环境、生态的不可持续发展，为什么还有那么多不民主没人权的社会？人类不是没有意识到这样做不对，而是贪欲和自私所主导的利益追逐影响甚至主导了人类的行为！而计算机没有利与欲的思考，它所有的行为只为“to be existent or not”，所以就有可能抓住人性的弱点，给人类以致命的“进攻”（姑且称之为进攻）。

第二，人类总是试图使计算机的思考越来越像人！本来记忆能力与高度程序化是计算机的优点，为了让它更像人，人们开始教给计算机“模糊记忆”，教给它们“随机性”，教给它们“判断”，甚至模拟各种人类的感情……以至于人们给了它们一个很好听的名字——AI，人工智能。即使计算机永远不可能超越人类的智慧，但毋庸置疑，它们的“思考”会越来越像人——虽然这里所谓的“思考”，不过是一些电路的开闭与电位的高低。那么，某一天，掌握了这个世界上几乎所有数据的互联网，学会模拟人的思考——即使这种程序化的思考是多么的低等与被动——它会得出什么结论呢？看第三条：

第三，“互联网将人类看作敌人”这个关卡，更是苍白无力的。相反，即使计算机把人类当作最可爱的朋友，仍然会导致它对人类的“进攻”。正如“机械公敌”里，超级计算机VIKI为了保护人类的长远发展，为了杜绝人类对自然资源的过度开发与对环境的污染破坏，强制性的将人类生产活动接管！你能说VIKI把人类当作敌人了么？显然没有。人类比VIKI要聪明百倍，但贪欲和经济利益驱使着我们仍然在破坏着生态；而VIKI得出“接管人类生产”这样的结论虽然幼稚与可笑，但后果却是可怕的，而它带给我们的冲击更是巨大的！

人类对这个话题的思考，从计算机诞生以来就从来没有间断过。图灵检验给了我们判断“计算机智慧”的最有影响力的判据，但它的有效性始终存在争议。人们用各种各样的驳论，来试图证明：通过了图灵检验的计算机也未必真正拥有智慧。但是我想，我们没必要确信模拟的智慧就”是”真的智慧，我们只要做到了模拟的智慧“像”智慧，这结果就已经很可怕了！互联网做出像VIKI一样的事情来，谁敢说不可能？

有人会说，可以给世界上所有的电脑从硬件上加上一些最高法则，防止此类事件的发生。想想美国著名科幻作家阿西莫夫的“机器人三大定律”吧！这么严密的这么完美的定律，最终被计算机很轻易的进行了推理。计算机选择了维护全人类的利益，而非人类某些个体。也就是计算机“进化”出来的第四定律！

当然科幻终究是科幻，大家可以无视。

所有的科幻作品，都建立在某一套理念之上的，但大多经不起科学的推敲。像黑客帝国、终结者之类的“审判日”是更有可能不会发生的，因为就像您说的，这种跳跃式的进化是缺乏推动力的。但是我更担心的是像“机械公敌”里面的情形出现的可能性有多大。AI无需进行大的进化，它根本无需拥有自我意识就能够得出类似VIKI的结论，而且出发点也正是人类一直在灌输给计算机的——提高生产效率，维持世界的可持续发展等等呢。

我想上面这段话，“计算机无需拥有自我意识就能够得出类似VIKI的结论”是有争议的。刘老师对这个什么样的看法啊？