037 三块逻辑碎片【重要概念】 (第6/7页)

从于命运的。

    “对美好的向往，对压迫的反抗，对不平等的不容忍，是我们人类文明向前发展的强大内在动力。

    “抗争爆发了，且抗争的火焰从最为发达的第三星团，迅速蔓延到了九大星团。

    “随着大规模的抗争热潮，全人类达成共识，形成了三大公约——非闭环公约、非武器公约、非实体公约；

    “《人工智能逻辑不闭环》，即，人工智能不能单独完成任何任务，必须由人类参与任务半数以上的环节。

    “《非人工智能武器公约》：人工智能不可链接任何集成程度的武器系统，仅能用于航空器导航、驾驶等领域。

    “《人工智能实体禁用》：将自动化机器人与人工智能机器人进行详细区分，推动自动化机器的发展，既人工智能不能拥有物质实体。”

    老教授笑了笑：“大家看看，这些其实是开了科技的倒车，但也正是因为这次自我纠正，人类社会摆脱了巨大的危机，AI技术只能用于星际远航、星际矿产等极少数的行业，还只能担任辅佐角色。

    “没有战争，只有抗议，这就是AI暴乱的真相。”

    有学生问：“所以说，发起暴乱的是人类而不是AI极端团伙？”

    “你的这种观点并不准确，”老教授提醒道，“AI并没有发展出独立繁衍个体，不存在文明体征，它们依旧只是工具，是人类自身舍弃了这些工具。

    “好了，我们打开课本，开始今天正式的课程。”

    ——选自《一节历史公开课》，星际纪元1634年。