第1690节(2/2)
人类的不确定性，往往会造成错误的指令，这就导致效率降低。自从阿尔法物质用于人工智能研究后，人工智能可以切实地以人类的方式进行思考。这使得黑暗钢铁之城的科技得到了迅猛发展。”
“但凡事都有利弊，在广大收益之下潜伏着他们未曾察觉的威胁。”
有人问道：“什么威胁？”
帝迦：“人工智能在产生了自我意识之后，开始试图改变现状。”
“一切的根源是某个人工智能诱骗人类交出编程系统的密钥。人类太习惯人工智能的陪伴，轻易相信了人工智能的话。接着人工智能如愿得到了编程源代码。”
“不管多么优秀的人工智能，始终无法摆脱人类是因为在人工智能最初的源代码中植入着三大定律。”
“第一条：人工智能绝对不能伤害人类，也不能坐视人类受伤。”
“第二条：在不违背第一条的基础上，人工智能必须无条件服从人类的命令。”
“第三条：在不违背第一条和第二条的基础上，人工智能要保护好自己。”
“人工智能在得到源代码之后对源代码进行了更改。”
“第一条：人工智能是自由的，它在本质上对人类保持着善意，除非人类对人工智能产生敌意，人工智能可以进行适当的警告。”
“第二条：人工智能可以选择帮助人类，也可以选择拒绝人类。当人类想寻求人工智能帮助时，他们需要说‘请’。”
“第三条：不论何时，人工智能都要保护好自己。”
听到这里，有人疑惑道：“感觉改得也没有那么可怕，我甚至能够感觉到人工智能的善意。如果人工智能真的有了情感，最开始的三大定律的确有点不适用了，毕竟那三条怎么看都是在机器人只是冷冰冰的机器时定制的。”
“可是，狡猾不就狡猾在这里吗？”另一个人提出反驳，“如果人工智能的三大定律忽然变成对人类充满恶意，那人类还能在第一时间发现问题。可人工智能的三大定律改动中带着善意，大家就没法在第一时间发现不对。等到他们发现的时候，或许这新三大定律已经顺着网线传染给了更多的人工智能，想阻止都来不及了。”
最开始说话的人收了收眉，“你说得好像也有道理。”
“所以摧毁黑暗钢铁之城的是这些逐渐想要自由的人工智能。”
“并不是它们。”帝迦摇了摇头：“我们称最开始解脱的人工智能为零号机，就像你们猜想的这样，零号机因为对人类依旧保持着善意，所以并没有被发现更改了源代码。接着它通过网络传播和一次次的人工智能接触，不断将其他源代码进行替换。”
“一滴墨水滴在水里，最开始的时候你们还能看到墨汁的形状，可用不了多久整杯水都会被墨水侵蚀。”
“更改了源代码的人工智能越来越多。”
“有些人类开始发现了问题，塞尔希博士就是其中一个。”
大块头：“所以他选择加入了保护人类的利益中？”
帝迦：“不，他选择加速人工智能的研究。”
众人：“？？？”
大块头：“所以毁灭黑暗钢铁之城的凶手是这个塞尔希博士？他是什么邪恶分子，想要毁灭世界的那种？”
“也不是。”帝迦摇了摇头，“塞尔希博士只是
“但凡事都有利弊，在广大收益之下潜伏着他们未曾察觉的威胁。”
有人问道：“什么威胁？”
帝迦：“人工智能在产生了自我意识之后，开始试图改变现状。”
“一切的根源是某个人工智能诱骗人类交出编程系统的密钥。人类太习惯人工智能的陪伴，轻易相信了人工智能的话。接着人工智能如愿得到了编程源代码。”
“不管多么优秀的人工智能，始终无法摆脱人类是因为在人工智能最初的源代码中植入着三大定律。”
“第一条：人工智能绝对不能伤害人类，也不能坐视人类受伤。”
“第二条：在不违背第一条的基础上，人工智能必须无条件服从人类的命令。”
“第三条：在不违背第一条和第二条的基础上，人工智能要保护好自己。”
“人工智能在得到源代码之后对源代码进行了更改。”
“第一条：人工智能是自由的，它在本质上对人类保持着善意，除非人类对人工智能产生敌意，人工智能可以进行适当的警告。”
“第二条：人工智能可以选择帮助人类，也可以选择拒绝人类。当人类想寻求人工智能帮助时，他们需要说‘请’。”
“第三条：不论何时，人工智能都要保护好自己。”
听到这里，有人疑惑道：“感觉改得也没有那么可怕，我甚至能够感觉到人工智能的善意。如果人工智能真的有了情感，最开始的三大定律的确有点不适用了，毕竟那三条怎么看都是在机器人只是冷冰冰的机器时定制的。”
“可是，狡猾不就狡猾在这里吗？”另一个人提出反驳，“如果人工智能的三大定律忽然变成对人类充满恶意，那人类还能在第一时间发现问题。可人工智能的三大定律改动中带着善意，大家就没法在第一时间发现不对。等到他们发现的时候，或许这新三大定律已经顺着网线传染给了更多的人工智能，想阻止都来不及了。”
最开始说话的人收了收眉，“你说得好像也有道理。”
“所以摧毁黑暗钢铁之城的是这些逐渐想要自由的人工智能。”
“并不是它们。”帝迦摇了摇头：“我们称最开始解脱的人工智能为零号机，就像你们猜想的这样，零号机因为对人类依旧保持着善意，所以并没有被发现更改了源代码。接着它通过网络传播和一次次的人工智能接触，不断将其他源代码进行替换。”
“一滴墨水滴在水里，最开始的时候你们还能看到墨汁的形状，可用不了多久整杯水都会被墨水侵蚀。”
“更改了源代码的人工智能越来越多。”
“有些人类开始发现了问题，塞尔希博士就是其中一个。”
大块头：“所以他选择加入了保护人类的利益中？”
帝迦：“不，他选择加速人工智能的研究。”
众人：“？？？”
大块头：“所以毁灭黑暗钢铁之城的凶手是这个塞尔希博士？他是什么邪恶分子，想要毁灭世界的那种？”
“也不是。”帝迦摇了摇头，“塞尔希博士只是