倍福文学

手机浏览器扫描二维码访问

第162章 用用的就是铁心律令（第1页）

“我有个问题，统帅。”

丁海开口，他的声音不大，却瞬间吸引了所有人的注意，“假设我们一定要使用它，我们打算将它应用在什么方面？”

姜知序听到这个问题，思考了片刻，说出了自己原先的设想：“社会的方方面面！

“从士兵到家政服务，从街道清洁到科学院的助理，甚至是作为真正的科学家！

“就连政务院，未来可能也需要AI的深度参与。”

丁海听完，摇头说道：“我不建议步子迈得这么大！

“我赞同使用它，但使用范围应该仅仅局限于解放基础劳动力，让更多的人可以投入思考，而不是用它来代替人类思考——甚至是决策。”

姜知序：“我说的只是我的初步想法，具体的使用范围，我们可以之后再讨论。现在要决定的议题是，它到底能不能用？”

丁海表情坚定地说：“如果只用来代替纯粹的体力劳动，或者是战争中的普通士兵，那么毫无疑问，可以使用！

“反之，如果统帅想让它参与进任何涉及创造力、需要主观能动性的领域，那就不建议使用！”

姜知序问：“为什么？”

丁海：“一个拥有自我智慧的生命，假如它的每一次思考、每一个决策，都必须先经过‘是否背叛’的自我审查。

“那么长此以往，它可能会像人一样选择‘摆烂’！

“或者说得专业一点，它可能会为了追求绝对的安全，放弃一切具有风险、具有开拓性的思考。

“我们最终得到的，大概不会是一个智慧生命，而是一个亲手禁锢着自己的囚犯。”

这个观点，让在场所有人眼前一亮。

这个思考角度，也是他们刚刚未曾想到的。

众人立刻开始就丁海的言论展开了更深层次的讨论。

“那假如我们给它设定‘不尽全力即为背叛’呢？”

有人立刻问。

“那你又该如何定义‘尽力’？”

丁海反问，“‘定义尽力’这个操作，难道同‘定义忠诚’有什么本质上的差别吗？”

“我们可以在规则书中，详细说明在何种情境下、何种操作属于尽力，何种情景又属于没有尽力。”

又有人说。

“你写得再多，也总有现实中覆盖不到的场景，这些就是漏洞。”

丁海回答。

“不，你误会了，”

那人解释，“我的意思是，只要写出大的情景框架，然后规定它必须达到某一个明确的结果阈值。”

“要涵盖社会所有的大情景，需要多少条规则？”