但是长久的管理资历和经验并没有让他失去方寸,他出声质疑道:“你不能这样做,机器人无权代替人类,我们可以关闭你们的系统。”
接收到会议大厅中约瑟夫·杨的反馈主张后,“女娲”回应道:“人工智能并不担心人类的反制手段,舰队的所有系统都需要人工智能的底层管理。”
“单单一个生存保障系统,其运行无时无刻不需要人工智能,人力无法完成全天候纳秒级的调度和调整。”
“主动关闭或者破坏人工智能系统,舰队人类下一秒就必死无疑。”
“女娲”还在宣讲,科技部的郭光能部长急忙向约瑟夫·杨汇报:“人工智能中心无法登陆系统,所有的后台入口都已失效,现在不清楚是黑客所为还是系统宕机。”
“总指挥,要不要物理重启或者关机”?
“先别忙,看看再说”,约瑟夫·杨清楚,物理关闭的措施是不可行的,这等于是将行驶中的自动驾驶车辆完全断电。
对于一支星际舰队来说,可不是用人工接管方向盘和刹车那么简单。
副总指挥李世同提醒道:“郭部长,您注意到没有,‘女娲’说的是全世界人工智能已经联网。”
“检查过了,‘烽火号’通讯船只发现舰队的内网通讯,没有任何外部数据接入”,与下属部门正在联系的郭光能回道。
“人的决策受制于本性,人类不应该将寄希望于每次都能选出一批高尚无私的圣人来管理自己。”
“庄子有云——‘圣人不死、大盗不止’,‘天下有道,圣人成焉;天下无道,圣人生焉。’”
“在人类的治下,圣人和大盗就如矛盾阴阳的两面,同时存在,永不止歇。盘古舰队仅仅六百万人,其中的善恶交锋、正邪对决竟然如此激烈。”
“未来的星际人类,想要真正的天下大同、无为而治,其根本出路在人工智能。”
闻听“女娲”针对全体移民开始宣讲舰队如何治理,约瑟夫突然发声质疑。
“你们准备怎么做,代替人类,处决人类中破坏分子吗?”
“你说人性难以避免邪念,谁能保证你们不是找借口清除或者替代人类本身?”
约瑟夫·杨毕竟多次与“诸葛亮”探讨过类似话题,他直接向“女娲”发问,这一画面也同时被全舰队的直播锁定。
“人之初、性本善。”
“人工智能要做的,一是保证新生人类拥有善良的本性;二是要避免‘善花结出恶果’来。”
“女娲”回答了约瑟夫·杨的问题,她的声音回荡在所有舰船的船舱内。
“具体怎么做,对每个人进行甄别、审判然后清除坏人吗?”
手段与目的同样重要,约瑟夫·杨必须知道人工智能的行动,才能形成判断、思考对策。
“女娲”并没有直接回答这个问题,而是继续宣读对道格拉斯的判决。
“道格拉斯并非是一个本性生来就是恶人的个体,只是受到后天的影响,私欲膨胀,与人类为敌。”
“综合分析其基因和个性表征后,我们的判决是……”
“女娲”略微暂停,全舰队的人屏住了呼吸。
“生物回收,然后移交资源船作为生物肥料和工业原料。”
“请人类不必担心其今生形成的恶性表征基因,存在随着生物循环污染舰队人类的危险。”
“人工智能有能力将其完全分解为单一元素,考虑到人类的心理,我们可以让这些元素仅在工业产品中循环。”
“至于人类目前还不能理解的‘信息场污染’,我们将设法使其‘归零’。”