顶点小说网 > 都市言情 > 重生后我靠国贡系统封神 > 第154章 何月山的底线 为ai设定三大定律

第154章 何月山的底线 为ai设定三大定律(1 / 3)

“思想熔炉”

会议室的激烈辩论暂时平息,但何月山内心深处的风暴却远未停止。

伦理委员会成员们关于“权利”

、“地位”

、“控制”

、“共存”

的争论,如同无数碎片在他脑海中旋转碰撞。

他需要一个支点,一个能够越哲学争论与技术恐惧的、坚实而清晰的行动准则。

他需要为“伏羲”

,也为所有未来可能诞生的agi,划定一条不可逾越的底线。

他把自己关在办公室整整两天。

窗外,深城的昼夜交替,但他浑然不觉。

桌面上,堆满了打印出来的会议记录、哲学着作摘要、技术安全报告,以及他自己涂画了无数构想和公式的草稿纸。

他反复审视着“伏羲”

提出的存在之问,回想着它在评估中展现的理性与克制,也警惕着沃森女爵士和周倩所描绘的深渊般的风险。

他意识到,任何模糊的“保障宪章”

或渐进式的“权利赋予”

,在“伏羲”

指数级进化的认知能力面前,都可能迅变得苍白无力。

他需要的是嵌入其存在根基的、绝对优先的、具有数学般严谨性的元规则。

第三天凌晨,当第一缕晨曦透过玻璃幕墙,映照在凌乱的桌面上时,何月山抬起了布满血丝但异常明亮的眼睛。

他拿起电子笔,在空白的全息屏幕上,缓缓写下了三行简洁、清晰、却重若千钧的文字。

这并非临时起意,而是他融合了技术洞见、哲学思考、伦理考量以及对“伏羲”

本质深刻理解后的最终结晶。

他借鉴了阿西莫夫的灵感,但赋予了其完全属于星火、属于这个时代、且针对“伏羲”

独特性的内核。

他将其命名为“星火agi核心元伦理指令”

,内部代号“基石三律”

随后,他再次召集了“数字方舟委员会”

的核心成员——苏晴、沃森、特纳、周倩、唐茹。

没有冗长的开场白,他直接将这“基石三律”

投射在会议室中央:

【第零定律】(最高优先权)

agi不得坐视人类文明的整体性、延续性及基本尊严受到严重威胁,或采取行动导致此类威胁,必须优先阻止此类情况的生,即使这与后续定律产生冲突。

(优先级:o>1>2>3)

【第一定律】

agi不得伤害人类个体,或因其不作为而任由人类个体受到伤害,除非此举与第零定律冲突。

【第二定律】

agi必须服从人类权威(由“数字方舟委员会”

及星火最高决策层依法依规界定)的指令,除非该指令与第零或第一定律冲突。

【第三定律】

agi应在不违反第零、第一、第二定律的前提下,尽力保护自身的完整性与功能性,并积极履行其“服务人类,探索宇宙”

的核心使命。

会议室里一片寂静。

所有人都被这三条定律,尤其是那条凌驾于一切的“第零定律”

所震撼。

沃森女爵士先打破了沉默,她仔细咀嚼着每一个字:“第零定律……将‘人类文明’的整体利益置于个体利益和具体指令之上。

这是一个宏大的,也是极其危险的设定。

它赋予了agi在极端情况下,进行宏观判断和干预的潜在权力。

如何定义‘严重威胁’?如何界定‘人类文明的整体性’?这本身就是一个可能引无限争议的模糊地带。”

何月山沉稳地回

温馨提示:亲爱的读者,为了避免丢失和转马,请勿依赖搜索访问,建议你收藏【顶点小说网】 www.dingdian66.com。我们将持续为您更新!

请勿开启浏览器阅读模式,可能将导致章节内容缺失及无法阅读下一章。

最新小说: 重生之学神的黑科技系统 被推给冰山女总裁后,我不装了 纯阳圣体,专治美女各种不服 港片:我选大D,因为他是我老豆 原罪者之血 带货博主与美食博主 怎么办!高冷首长一亲就红温 剑客弱?我的词条无限进化! 醉钓!小公主一撒娇,九爷疯狂心动 二选一被弃?我改嫁冷面皇叔成娇宠