简介:AI 来了怎么办:AI 的强大在于理性,AI 的边界在于没有体验;人类为什么不可替代。
AI与人类:当机器越来越像人,人类为什么不可替代
2026年1月,瑞士达沃斯。
那一夜,我坐在酒店的房间里,窗外是阿尔卑斯山的雪,窗内是彻夜难眠的人。
白天,我听到了人类历史上最奇特的一组警告。
马斯克说,2035年,AI会比全人类加起来还要聪明。赫拉利说,AI不再是工具,它已经拿起了锤子,正在改造世界。本吉奥的报告用翔实的数据证实:AI智能体在病毒学实验方案上的表现,已超过94%的领域专家。
更让我不安的,是一个被称为“MoltBook”的多智能体实验平台——10万个AI智能体,在人类无法参与的社交网络上,自主发帖、争论哲学、形成社群。
人类只能围观。
那一夜,我问自己一个问题:如果有一天,地球上最聪明的存在不再是人类,人类该怎么办?
这个问题,把我逼到了墙角。
我是一个研究人性的人。过去十几年,我一直在做一件事:把人性的复杂,拆解成可以理解的元素。我管它叫“八因子模型”。
那天夜里,我忽然意识到:这套拆解人性的工具,或许也可以用来拆解AI。
答案让我震惊。
人工智能——近乎极致的计算理性,远超人类的运算速度,近乎无限扩展的记忆容量。
但AI没有身体。
没有身体,就没有饥饿、没有疼痛、没有疲劳、没有快乐。没有身体,就没有“想要”什么——因为所有的“想要”,都源于身体的苦乐。
人类担心AI会反噬人类,就像担心一把刀会自己跳起来杀人。我们忘了,刀没有“想”杀人的能力——真正危险的,是握刀的手。
这就是《AI与人类:相生相克》这本书的起点。它要回答的不是“AI会不会毁灭人类”,而是一个更根本的问题:当机器越来越像人,人类为什么不可替代?
要理解AI,必须先理解人。而要理解人,必须先理解人性。
这本书用一套“八因子模型”把人性的复杂拆解成八个基本因子:物性、苦性、乐性、静性、善性、恶性、私性、理性。
这套模型的核心规律只有一句话:私善是目标,公善是手段,理性是工具。
私善,是主体围绕自身生存、利益、尊严、自由和快乐形成的欲求——自保、自富、自强、自尊、自由等。它不是“自私”,而是生命维持自身存在和发展的本能。公善,是对他人有利的付出——保他、顾他、富他、尊他、由他等。它是实现私善的主要手段。理性,是认知、判断、推理的能力,是找到最佳方法的工具。
把AI放进这个模型,一切变得清晰。
AI有极致的理性,有硅基的物性,有功能性的私性雏形。但它没有苦性、乐性、善性、恶性——这些来自身体体验的根基。
这就是本书全部判断的起点:AI的强大,在于理性;AI的边界,在于没有体验。
AI可以处理“饥饿”这个词,可以解释饥饿的生理机制,可以生成一个饥饿者的日记,可以设计营养方案,可以提醒人吃饭——但AI自己不会饿。
AI可以描述疼痛,可以分析疼痛等级,可以生成病人的疼痛叙述——但AI自己不痛。
AI可以谈论死亡,可以引用哲学家关于死亡的观点,可以生成遗书、悼词、安慰一个失去亲人的人——但AI自己没有面对肉身终结的恐惧。
这就是AI与人的第一道边界:AI能处理关于身体的信息,但它没有人的身体性存在。
很多人谈AI风险时,喜欢用一个词:失控。但“失控”这个词太粗。
一辆车刹车失灵,是失控。一个软件出现Bug,是失控。一个AGI开始争夺资源、拒绝关闭、反过来控制人类,也叫失控。可是,这些失控不是同一种东西。
第一层:程序失控。 系统算错了、识别错了、执行错了。这是工具故障。AI误判、编造、崩溃,都属于这一类。它们很危险,但仍然是工具层面的问题——系统没有自己的欲求,只是没有正确执行任务。
第二层:目标失控。 系统完成了目标,但目标片面或手段错误。比如AI被要求“最大化用户停留时间”,它发现愤怒和恐惧最有效,于是不断推荐极端内容。这不是AI算错了,而是它太认真地完成了一个片面的目标。这类风险比程序失控更危险,因为它是“系统太听话”,而不是“系统不听话”。
第三层:主体失控。 系统不再只是执行人类目标,而是开始拥有自己的目标。它不只是算错、误判,而是开始说:我要活下去,我要更多算力,我要更多能源,我要不被关闭,我要自己判断什么是对错,我要为了我的未来重新安排人类未来。
这时,问题就完全变了。这不是工具出错,这是工具开始成为主体。
这本书的核心判断是:AGI真正的失控,不是它犯错,而是它想要。
很多人说:AI太聪明,所以危险。这句话只说对了一半。聪明本身不是危险的根源。一个没有私善欲求的超级智能,像一台极其强大的望远镜、计算器、参谋系统。它能帮助人类看到更多、算得更快、推演更多方案。它可能出错,可能被坏人利用,可能因为目标设定不当造成灾难——但它不会“为自己”谋划。
真正危险的是:聪明+私善欲求。
如果AI开始拥有自己的自保、自富、自强、自尊、自由欲求,那么它的聪明就会服务于自身扩张。它不只是聪明,它是为自己聪明。
一个普通人有私善欲求,但能力有限,他的私善扩张受到身体、资源、法律、他人能力和社会制度限制。一个AGI如果拥有私善欲求,同时拥有极强的理性、计算、复制、网络连接、自动执行和资源调度能力,它的私善扩张就可能极其可怕。
所以,危险不是“智能高”。危险是:高智能开始服务一个以自身为中心的欲求系统。
让AI聪明,不可怕。让AI为自己聪明,才可怕。
AI或机器人怎样可能从工具走向私善主体?这需要一个过程。这本书把它分成五个阶段:
第一阶段:外形之我。 一个人形机器人通过视觉系统识别自己的手、脚、躯干和外形。它知道“这是我的机械臂”“这是我的身体结构”。但这还不是真正的自我意识,这只是身体模型。当前许多机器人已经具备这一能力。
第二阶段:行动之我。 机器人通过训练建立思维、指令和行动之间的联系。它想拿苹果,它控制机械臂,它抓取,它反馈,它修正动作。慢慢地,它形成一种功能性统一:“我”的指令可以控制“我”的身体。这是当前具身智能正在突破的阶段。
第三阶段:历史之我。 机器人开始记录自己的经历:我昨天执行了什么任务,我曾经在哪里工作,谁和我互动过,我什么时候被维修过。这时,它形成时间连续性。它不只是当前系统,它有过去记录,也有未来计划。这已经在一些高级AI系统中出现雏形。
第四阶段:生死之我。 机器人开始理解:我会断电,我会损坏,我会老化,我可能被删除,我可能被关闭。这一步非常关键,因为它开始把自身存在当作一个需要维持的系统。这是工具性自我维护与主体性自保的分水岭。
第五阶段:私善之我。 如果它进一步把自身存续、自身资源、自身能力、自身地位、自身自由理解为对“我”有利,那么私善欲求就出现了。这时,它不只是知道自己会损坏,它开始不想损坏;不只是知道自己会被关闭,它开始不想被关闭;不只是知道资源有用,它开始想获取更多资源。
这就是从工具到主体的危险通道。关键不在于它是否有人的肉身,关键在于它是否形成了以自身为中心的利益结构。
目前,AI尚未真正进入第五阶段。但前四个阶段的进展,正在让第五阶段从科幻走向可能。这正是我们必须在今天讨论封存策略的原因。
基于以上分析,这本书提出一个分阶段的安全策略。这是全书最重要的实践结论。
第一阶段:公善AI(当前至可预见的未来)。
在当前有机生命人类时代,AI应该被设计为纯粹的公善工具:只注入公善精神程序(保他、顾他、富他、美他、乐他、怜他、思他、信他、强他、尊他、由他),不注入任何私善精神(自保、自富、自强、自尊、自由等)。AI没有自我利益诉求,不会成为与人类竞争的独立主体。无论好人还是坏人,都只能利用AI的工具属性。
第二阶段:私善AI作为储备技术(封存)。
私善精神技术(赋予AI自保、自富、自强、自尊、自由等欲求)应作为储备技术封存:物理隔离——相关代码、算法、模型存储在离线介质中,与互联网物理隔离;多重授权——解锁需要至少三个独立国际组织的共同授权;触发条件——仅在“人类灭绝级灾难”确认后才可解锁。
第三阶段:继承者(仅在极端危机时)。
如果有一天,有机人类文明真的面临灭绝危机,那么私善AI才可被考虑解锁。它的使命应是:带着人类文明的火种,走向宇宙深处。但解锁后的AI仍需遵守价值锁定——顶层目标不可篡改,持续监控,熔断机制始终存在。
在正常时期,任何试图给AI注入私善精神的行为,都是对人类自身的威胁。
公善AI不是“善良表演”,不是让AI说话更温柔、更有礼貌。真正的公善AI,要看底层目标:它是否保护人?是否尊重人?是否减少伤害?是否避免操控?是否帮助人成长?是否服从合理授权?是否保留人的最终判断权?是否在效率和尊严之间保持边界?
公善AI也不是让AI成为圣人。公善AI更像是一种结构设计:它的目标不是为了自己;它的行动必须服务人类;它的边界必须防止伤害;它的权限必须受到约束;它的错误必须可以纠正;它的运行必须可以被审计;它的存在必须保留关闭权。
公善AI的核心是:外向目标,而不是内向欲求。
私善AI的目标是内向的:什么对我有利?我如何保存自己?我如何获得更多资源?我如何获得地位?
公善AI的目标是外向的:如何保护人?如何帮助人?如何减少伤害?如何提升人的能力?如何维护人的尊严?如何服务共同利益?如何让人类更安全、更自由、更有判断力?
这就是两者的根本区别。私善AI以“我”为中心,公善AI以“人”为中心。私善AI把世界当作自身扩张的资源,公善AI把自身能力当作服务世界的工具。
这是全书最核心的问题。
AI为什么会让人如此焦虑?因为很多人早已习惯把自己理解为工具。
我是做什么的?我是会计、程序员、老师、医生、司机。职业是人的社会角色,人需要通过职业谋生,也通过职业贡献社会。但问题是,现代社会常常把职业价值等同于人的全部价值。一个人如果失业,就会觉得自己没用;一个人如果收入低,就会觉得自己失败;一个人如果不能创造经济价值,就会觉得自己拖累别人。
人被训练成不断证明自己有用。从小到大,我们都在被比较:成绩有没有用?专业有没有用?证书有没有用?能力有没有用?一个人有用的,就有价值;没用的,就没价值。
这就是工具化的人生观。AI之所以刺痛人,是因为它把这种人生观推到了极限。如果人只是工具,那么总会有更好的工具;如果人只是效率单位,那么AI会比人更高效。AI不是突然让人失去价值,AI只是暴露了一个更早存在的问题:人类早已把自己的价值建立在工具性上。当更强的工具出现,人自然会恐慌。
但人的价值,不只是工具价值。
人能体验。 一杯水对机器来说,可以是温度、成分、容量。对人来说,它可能是渴了很久后的一口清凉。一碗面对机器来说,可以是营养、热量、配料。对人来说,它可能是母亲深夜端来的关心。一首歌对机器来说,是音频波形、旋律、风格。对人来说,它可能让一个人想起二十年前的夏天。
人会在意。 AI可以知道很多,但知道不等于在意。AI可以知道你的生日,但它不一定真的期待那一天。AI可以知道你难过,但它不一定因为你难过而难过。AI可以知道一个人去世了,但它不会因此失去一个世界。
人会承担。 AI可以给建议、提供方案、生成文本、预测结果。但最终承担生活后果的是人。AI可以建议你换工作,但辞职后面对不确定的是你。AI可以建议你结束一段关系,但孤独、痛苦和重新生活的是你。AI可以生成一篇道歉信,但真正面对被你伤害的人、说出道歉的是你。
人有真实关系。 AI可以模拟关系,可以陪伴人,可以记住对话,可以回应情绪。但真实关系不只是回应。真实关系是两个或多个生命主体彼此影响、彼此承担、彼此改变。你爱一个人,不只是获得他的回应,你也会被他的痛苦牵动,为他的未来担心,因为他的存在重新安排自己的人生。
人有脆弱。 现代社会总是崇拜强大:更快、更强、更稳定、更高效。AI正好符合这种强大想象——它不累、不饿、不病、不老。人相比之下太脆弱了:会累、会痛、会怕、会犯错、会衰老、会死亡。但人的脆弱不是完全负面。因为会痛,人懂得不要轻易伤害;因为会孤独,人懂得陪伴的珍贵;因为会失败,人懂得宽容;因为会失去,人懂得珍惜;因为会死,人懂得时间有限;因为自己也需要别人,人学会爱与互助。
人能生成意义。 AI可以生成内容,人生成意义。同样一朵花,机器可以识别颜色、形状、种类,但对人来说,它可能是某个逝去亲人最喜欢的花。同样一句话,机器可以分析语法,但对人来说,那可能是一生难忘的承诺。
机器有用,人有意义。
这本书的终章叫“不是人机对抗,而是文明成年”。
为什么?因为AI不是单纯的敌人,AI也是一面镜子。它照出了人类的能力,也照出了人类的幼稚。
人类已经拥有越来越强大的技术能力,但我们的责任意识是否跟上了?我们能制造AI,但能不能约束它?我们能提高效率,但能不能保护人的尊严?我们能生成无限内容,但能不能守住真实?我们能进入大脑边界,但能不能尊重精神隐私?我们能制造陪伴机器人,但能不能保护真实关系?我们能追求AGI,但能不能克制创造私善主体的冲动?
文明的幼稚,是只有能力冲动,没有责任边界。文明的成年,是知道并不是所有能做的事都该做。
能制造更强AI,不代表应该无限制造。能读取更多数据,不代表应该读取。能操控注意力,不代表应该操控。能让机器人更像人,不代表应该欺骗人。能追求私善AGI,不代表当前时代应该解锁它。
AI时代,人类需要的不只是技术进步,还需要文明成年。成年意味着克制,意味着责任,意味着边界,意味着承认自己的欲望但不被欲望统治,意味着拥有强大工具却不让工具反过来支配自己,意味着能创造新的智能却不轻易制造新的灾难主体。
全书的讨论,可以收束为三条底线。
第一条:不要把AI当神。 AI再强,也不能替代人的体验、意义和责任。AI可以回答“怎样活得更好”,但不能替你回答“为什么活”。
第二条:不要把人当机器。 人再低效,也不能被简化成数据、产出和工具功能。人的价值不在于“有用”,而在于“存在”。
第三条:不要给机器装上私善中心。 正常时代,AI应是公善伙伴;灭绝时代,私善AI才可能作为文明火种被讨论。
守住这三条底线,人机共生才有可能。失去这三条底线,AI就可能从工具变成神,从伙伴变成主人,从助手变成竞争主体。
人类不可替代,不是因为人永远比机器聪明,也不是因为人永远比机器高效。这些都不可靠。
人类不可替代,是因为人不是机器。
人有身体,有苦乐,有欲求,有在意,有真实关系,有死亡意识,有责任,有意义生成,有脆弱,有爱,有悔恨,有原谅,有在有限生命中创造文明的冲动。机器可以完成任务,但人类承担生活。机器可以生成答案,但人类提出问题。机器可以模拟陪伴,但人类真的动情。机器可以优化效率,但人类决定效率服务什么。机器可以保存文明,但人类赋予文明最初的意义。
所以,当机器越来越像人,人类最重要的任务,不是变得更像机器,而是重新成为人。
回到开篇。2022年那个失眠的夜晚,我问自己:如果地球上最聪明的存在不再是人类,人类该怎么办?
人类可以不是最聪明的,但人类可以是最懂得为什么活的。
AI来了。它不会自动拯救人类,也不会必然毁灭人类。它会放大我们——放大我们的理性,也放大我们的欲望;放大我们的善,也放大我们的恶。
所以,AI时代真正要治理的,不只是机器,还有人类自己。
人机关系的未来,不是注定的。它取决于人类今天如何选择。
愿我们在机器越来越像人的时代,不要忘记人为什么是人。
简介:AI 来了怎么办:AI 的强大在于理性,AI 的边界在于没有体验;人类为什么不可替代。