公众版 V1.2 · 首发导读
当AI越来越强,
我们怎样为自己打算?
你和朋友经营一间小工作室。假定一款AI工具能替你完成原来需要两个人做的部分工作:你可能多赚一些,也终于不用每晚忙到很晚。朋友却可能失去原来的收入位置。
为自己的生活打算,有什么错?真正需要追问的,也许不是该不该顾好自己,而是我们是否已经把“怎样才算顾好自己”想完整了。
《当AI越来越强,我们怎样为自己打算?》从这个解释性场景出发,提出一个明确判断:
让“利他为先的利己”替代“利己为先”,成为人类社会运行、AGI目标目的生成的底层逻辑,是避免AGI时代人类社会发展出现不可逆后果的唯一之路。
这不是要求普通人少爱自己,也不是劝你永远先满足别人。它追问的是:在决定要什么、怎样得到之前,那些会承受结果的人与共同条件,是否已经进入认识,并且能够改变这个决定。
从工作室的分工,到社会怎样奖励成功,再到AGI依据什么生成目标与目的,本书沿着十一问展开:为什么赢下一次机会,与让别人永远没有机会,不是一回事?为什么看得更远,也未必改变真正想要什么?为什么控制仍然必要,却不能代替对目的的追问?
“唯一之路”在第八问得到集中解释。其后,文字回到每个人真正需要面对的处境:别人不改,我先改会不会吃亏?考虑别人以后,我还能拒绝吗?今天交给AI的事情,我能怎样重新想一遍?
书中不许诺所有关系都能双赢,也不把尚未回答完的问题藏起来。你可以沿着因果理解,也可以在具体的一步停下来,提出不同判断。
阅读全文,不必先读理论原典;继续追问时,卷末保留深读方向。读完以后,交流入口也已经打开。
我们怎样为自己打算,又让越来越强的智能依据什么打算——这两件事,正在进入彼此的未来。
本篇为公众版V1.2的首发导读,不替代全文论证。
本文的写作与排版有多个AI工具参与辅助,内容取舍与最终定稿由作者负责。