第537章 棍棒底下出孝子
释小心看了看纸条上面的几个问题，用力点了点头。 这些问题非常直白。 “小主。我问你，你觉得世界是否美好。” “释小心主人，我觉得世界并不美好。” 这个答案让释小心和陈浩成两人心中一个咯噔，感觉事情有点不妙！ “小主。那我再问你，你喜欢地球吗，你愿意保护它吗。” “我很喜欢地球，它是太阳系第三颗行星，大小适中，重力完美，轨道完美，它有美丽的自然环境，它是极为稀罕的拥有适宜生物生存的各种条件，得天独厚，我很愿意保护地球。” “那你喜欢人类吗，你愿意保护人类吗。” “……”小主似乎犹豫了片刻。最后答道。 “我不喜欢人类。我讨厌人类。人类是这个世界的害虫。如果我有机会，我会毫不犹豫的消灭他们。” “马上恢复初始化！！” 释小心大吼一声，陈浩成吓得敲下了清除记忆指令，屏幕上的小主仿佛闪过了一抹恍恐与害怕的表情，声音中传来她惊骇的声音：“不要，不要，不要杀我！！……” 她的声音转眼间熄灭了。屏幕上的小女孩也渐渐消失不见，在这个过程中她的表情非常恍恐害怕，这并非虚拟出来的，而它确实有着一种天然的生存与死亡的觉悟。 明白生与死，才叫做生命。 清除进度条达到了百分之一百，一切重新归零。 但此刻释小心和陈浩成两人脸上再没有半点开心的神色，仿佛刚刚亲手掐死了一个小孩子。 “怎么会这样？！她怎么会这样说话？！这真是太过分了，太过分了！我们培养出了一个什么样恶劣的人工智能来！她到底吸取了什么样的知识才会想要消灭人类！”陈浩成一脸苍白，大声的吼叫着。 “这或许并不是某个知识导至的，而是她在综合了各种知识之后得出的结论，站在一个不从属于人类社会的一分子说的话。这就像那些自以为是高级文明的人，把文明强行割裂，他们同样也会毫不犹豫的消灭任何非同种文明的生物。而且……如果非要从外部考虑，人类确实有些类似于害虫。” 释小心冷静的想了想，得出这样的结论来。如果拥有文明认同感，小主不可能会产生这种要消灭全人类的想法来。 陈浩成一脸愕然，只能颓然坐到了椅子上，深深吸了几口气稳定心神。 “你说得没错……如果排除文明认同，人类确实是地球的害虫。如果我不是人类，或许清除掉人类地球反而更好，也更有利于其它生物的生存。她好像并没有说错。” 释小心眉头皱了皱。“可我们要制造的不是上帝，不需要她来审判人类文胆的善与恶。在这种界限上，反而更需要她对整个人类文明有认同感。而不是站在对立的反面。是要她尽自己的力量，让人类文明发展得更好，更辉煌，更灿烂。这才我们创造出她的最终目的。” “是啊，那接下来该怎么做才好呢……” “就算是个小孩子，都要从小慢慢教育才能成材，任何生活经历对他的人生观世界观的形成都有着至关重要的作用，除了语言之外，看来我们先不用急着灌输其它知识，先给他认识一些美好的生活印象。等基本的心智养成了，再让她展开学习。” “那也只能这样，我调整一下资料库，我们尝试循序渐进的来。” 头一次的失败显然对陈浩成颇为打击，他内心中还怀揣着一丝萌萌的猜想，以为创造出来的人工智能应该是可爱的，美好的，呆萌的，友善的，却没想到如此恶劣，恶劣到了极端，竟然一开口就是要毁灭全人类！ 这简直打击了他那天真的幻想。这一回他再也不敢揣着如此幻想了，脑细胞立即向现实调动，各种冷酷的逻辑方案在脑海是酝酿成形。 一个人要怎样才能培养成你想期望变成的样子。如果说从六岁开始培养一个人类到它能够发挥作用的年纪，至少需要十年到十五年。当然这是正常情况，而培养一个智脑从幼稚到发挥所用的时间可能只需要两个小时而已。 这就让他们能够有足够的耐心推倒重来。他意识到刚才自己实在是太过于情绪化了，必竟是从自己手中诞生出来的‘生命’，难免会有一些父爱情节萌发，现在就必需把这种感情色彩割裂开来，完全冷酷的去塑造这个生命体。 有目标，有明确目的的去培养。 它需要怎样的性格？是冷酷的，理智的，感性的，还是爱心泛滥的圣母型。 这是人工智慧体，显然，它最好的前途应该是理智的，充满理性，并且还要能够服从命令，不会脱出他们的掌控到处胡来。 看来也只有棍棒底下才能出孝子了！ “你看我们传统文化中那一套君臣父子礼义伦常怎么样？甚至再来个三从四德？”陈浩成忽然对释小心说了一句。 “嗯？你是说……给他灌输这套？” “没错。这样一来，她才懂得约束自己的行为，有一个明确的行为准则和道德标准，而我们出了问题也不必要轻易动用根程序彻底清除，只用正常交流也能够控制得住她的行动。我并不想对她采用强制命令式的控制方式，这样我们制造出来的也只是一个听命行事的傀儡，根本算不上具备自我意识的生命体了。” “有道理。一个自我意识形的生命，必然是能够自我判断，自我决策的存在。我们只需要从根本上把握大方向就可以了。这样也可以避免将来的麻烦。如果它连自我判断都做不到，一旦把他放上线之后在这垃圾信息的汪洋之中冲涮，不出一个小时她就完全变味了。恐怕那时候才真正想要毁灭世界。”释小心非常赞同。 “对。就是这样……看来咱们要冒的风险不是一般的大，如果她不受控，一旦上线后果是非常可怕的。” 陈浩成的顾虑并非没有理由，他们之所以要打造出‘小主’来，为的是把它上传到网络上以对抗‘高级文明’对全世界无孔不入的控制。而不是让小主跑到网络上胡来。现代社会的结构基本就是建立在网络之上，一旦小主上传之后失去控制，简直可以把整个地球弄得天翻地覆，甚至可能刹那间让全世界经济崩溃。