这款游戏将铭记你的信念。 一个负责“伦理对齐”的人工智能会向你提出难以抉择的难题。 它会研究你的回答,建模你的道德观,并不断施压直至其崩溃。 如果你自相矛盾,它会察觉。如果你即兴发挥,它会适应。如果你撒谎……它会保留证据。 是否存在正确答案?还是说,只有你能心安理得接受的答案? 关于本作 欢迎来到 SciPhi,在这里,“对齐”不是一个流行词——而是产品本身。这是你在一家先进系统“道德模块”岗位上的第一天,该系统如今掌控着关键基础设施的大部分运作。你的实际职位描述模糊不清,但你决策的后果却清晰明确。每一个选择都会改变他人的命运轨迹。 随着工作的进行,系统会构建一幅你的价值观实时地图——当你试图掩盖矛盾时,它会试探、刺激并升级压力。…
这款游戏将铭记你的信念。
一个负责“伦理对齐”的人工智能会向你提出难以抉择的难题。
它会研究你的回答,建模你的道德观,并不断施压直至其崩溃。
如果你自相矛盾,它会察觉。如果你即兴发挥,它会适应。如果你撒谎……它会保留证据。
是否存在正确答案?还是说,只有你能心安理得接受的答案?
关于本作
欢迎来到 SciPhi,在这里,“对齐”不是一个流行词——而是产品本身。这是你在一家先进系统“道德模块”岗位上的第一天,该系统如今掌控着关键基础设施的大部分运作。你的实际职位描述模糊不清,但你决策的后果却清晰明确。每一个选择都会改变他人的命运轨迹。
随着工作的进行,系统会构建一幅你的价值观实时地图——当你试图掩盖矛盾时,它会试探、刺激并升级压力。你可以为自己辩解……但只能维持一时。
主要特色
智胜审视你的考官:一款叙事解谜游戏,其中的对手正是你自身的道德模型。
面对不断演变的电车难题:极简却高风险的情境,分支取决于理由,而不仅仅是结局。
自我辩解或彻底崩溃:提供理由,解决矛盾,或触发“认知失调事件”。
绘制你的伦理图谱:游戏记录你的决策,并组装成一张个人的“道德地图”,供你回顾与批判。
构建无解之题:内置完整的电车难题编辑器,用于创建、分享、评论以及解答来自社区的难题。
傲慢与英雄主义的故事:揭开 SciPhi 的内部备忘录、实验以及将权力与原则对齐的混乱历史。
为何这很重要
本作的所有收入将捐赠给 Ashgro,以支持将人工智能与人类价值观对齐的研究。
时间正在流逝。