一个人希望自己过得更好,希望家人安全,希望企业发展,希望国家不被伤害。这些都没有错。

如果一种文明理论必须先把人的利己本能消灭,它很可能从一开始就走错了。

真正的问题在另一个地方。

我们通常先问什么?

很多目标形成时,第一个问题是:“怎样对我最有利?”

企业先问怎样增长,国家先问怎样获得优势,个人先问怎样得到更多。然后,在目标已经形成以后,再问会不会伤害别人、需要什么规则、怎样补偿后果。

所以问题不是利己,而是顺序。

利己不是问题。利己成为目标、目的生成的默认逻辑,才是问题。

为什么顺序重要?

因为一个目标一旦成为“必须完成的目标”,后面的伦理和规则就很容易变成刹车:目标不断往前冲,规则不断负责阻止它冲得太远。

能力越强,这种结构越危险。AGI会让局部目标获得前所未有的执行能力。

如果生成目标的逻辑没有改变,我们得到的可能只是一个更强、更快、更可靠的旧逻辑执行者。

“利他为先”不是要求牺牲

它改变的不是“谁永远排第一”,而是目标成立以前的检验顺序。

在决定一个对自己有利的目标之前,先让他者、共同生存的基础和未来重新选择的可能进入判断。通过这一步之后,主体仍然可以充分追求自己的正当利益。

不是让别人永远比自己重要,而是不让“只对我有利”本身成为一个目标足以成立的理由。

核心判断
文明跃迁不是从利己走向无私,而是让利己不再自动决定什么值得追求。

继续追问

这为什么会直接影响AGI最终追求什么?

进入M4:文明跃迁真正要改变什么

如果想看“谁来检验、谁能质疑”,进入学术入口

CONTINUE READING · 1/8

继续沿这条路径走下去