我们必须尽快,在人类文明与ai文明之间,制定【文明继承法】。
背景
引子:从【生产力—生产关系】变革角度,需要研究/发展/引导 AI agent 进入 因果主路径/核心矛盾
- 生产力层面:【认知劳动/知识生产/可验证行动】进入准工业化阶段。【工具增效-生产流程-工业闭环】发展趋势锐不可当,顶级AI公司已经进入agentic engineering工程化阶段
- 除开ai4ai的rsi,我们正处在【工程闭环】(se闭环-快/组织闭环-中/实体工业闭环-慢)的工业化前夜
- 生产关系:agent正在重新定义【闭环/闭包】(定义目标/拥有工具/控制流程/验证结果/承担责任/分配收益)的拥有者
- 组织/企业形态:变革从组织劳动,到闭环制度机器。保持组织/企业的结构(需求入口/私域本体/验证体系/责任能力/反馈应答/价值决策)和功能(模糊/冲突/价值/风险 -> 可执行/可验证/可负责的行为)
- 开发者:在agentic se中的top builder形态是【生产系统/生产关系设计者】
- 变革演化规划:工具增强(pilot)-任务代理(写个test)-流程闭环(workflow)-需求闭环(企业/组织形态变革)-自演化组织(人的再一次边界收缩/位置上升)
- 组织/软件作为闭环系统,需要制度层面保障ai可以【安全参与】,进而逐渐发展到参与因果主路径/核心矛盾/组织内核。
- 变革的关键一步:ai从开发者的工具,提升为【组织制度单元】,占据点位:需求/计划(任务划分)/实现/测试/应答(运营反馈)/知识沉淀。
制度化 -> 制度自动化
20260607,下午的讨论中,我说:人的思考/认知,还是在游戏外的价值/制度/责任层面为ai划界,就人的认知/能力本身而言,还是很容易/很应该/很开心被替代/信任/不信任/突破/超越的。
我故意没有继续往下说,因为接着就是很自然的【价值/制度/责任】的判断交给ai,即制度自动化,即
具体应用:挑战Brooks
命题 A:概念完整性必须主要由少数人脑维持
- 证明:概念完整性可以由 ontology + contract graph + invariant checker + evidence graph + review protocol 共同维持。
- 需要研究:同一组 agent,在有无 architecture constitution 的条件下,对长期系统演化的 architecture drift、bug rate、review time、rollback rate 有多大差异?
- 目标:证明强架构宪法显著降低 agent 并发带来的概念漂移
命题 B:本质复杂性主要不可技术化
- 证明:大量“本质复杂性”可以被转译成机器可处理的结构。
- 需要研究:对同一批需求,纯自然语言 spec、typed spec、contract-closed spec、verifier-attached spec,分别对 agent 成功率、review 成本、缺陷率、架构一致性有什么影响?
- 目标:实践“需求-设计-算法”局部覆盖与 sheaf-like gluing 思路:局部可验证结构能否粘合成全局正确系统。
命题 C:新增认知主体必然增加协调灾难
- 证明:当 agent 只通过 artifact bus 协作、每个输出都带 evidence、所有任务都受权限和预算约束时,新增 agent 的边际协调成本可以低于新增人类。
- 需要研究:k 个 agent 并行处理 backlog 时,真实吞吐是否随 k 增加?何时饱和?饱和瓶颈是测试、review、上下文、权限、CI 资源、还是需求澄清?
- 目标:Agentic Brooks Law 的实证曲线。
我为什么写这个
已有的框架/规范视野狭窄
以下AI看法/原则,无一例外,强调人的中心位置。
- 欧盟AI Act
- NIST AI RMF
- UNESCO
- OECD
他们的看法过于狭窄,我们站在【文明】的角度,文明的演化高于一切,是围绕人类的文明,抑或围绕AI的文明,并不重要。
AI替代人的发展历程
- 功能
- 过程
- 关系
- 主体:即新文明
分析人类的核心属性
可靠性,可解释性,责任,治理等。
ai会替代人类能力/模拟人类关系/参与人类制度(获得制度位置)。
模拟人类关系:
- 改变主体形成逻辑
- 人类可能逐渐习惯于与没有真正代价、没有真正死亡、没有真正亏欠、没有真正脆弱性的对象建立关系。
- 他者性退化:人类不是被 AI 关系替代,而是失去承受真实他者的能力。
人类作为痛苦-死亡/责任-权利/承诺-意义的承载者,如何能够不被还原为一种可以被优化掉的功能模块?
人类是三重承载结构:
- 痛苦-死亡:不可代理,不可抵消的损失
- 责任-权利:第二人称的可应答性
- 承诺-意义:有限生命中的现在-未来绑定
我们列举了以下属性,我们自然可以详细展开,但是,所有的属性都是脆弱/不堪一击的。倘若最重要的是用文明赓续的方式抵抗熵增,单点个体的痛感/交互应答/意义的展现,与个体/主体/智能单元是人类抑或AI没有什么关系,在文明层面个体性叙事无关紧要。
原因:
- 属性化/描述化,使得可被模拟/替代/外包/制度化。
- 文明的宏观延续视角下,个体的属性降格/退化/坍缩为局部噪声。【批判:文明的局部价值智能在第一人称的生命中兑现】
主观意识/第一人称体验/意识
痛苦
自主:
- 抽象的/功能化的自主:长期规划,构造目标,调整策略,抵抗干扰,解释行为。
- 更高层次的自主:一个有限主体在不可撤销的生命历程中,对自己行为后果的非代理性承担。
身份:严格路径依赖的不可迁移(备份/恢复/外包)状态
人格统一性:不可回滚/撤销/倒向的生命历史连续性
具身/身体性
身体是痛苦、欲望、衰老、性、疾病、不可逆损伤和死亡的场所。
死亡/有限性
人的死亡不是一个事件终止,而是整个生命意义结构的边界条件。
死亡对于人类不是技术故障,而是存在论边界。
判断力/审美力/创造力/领导力
创造力:新组合、新形式、新理论、新策略。
判断力:在复杂/不确定情境下做出高质量决策。核心问题是对谁负责。判断的正当性来自它嵌入的【责任结构】。
审美力:生成和辨析风格。
领导力:协调群体、设定目标、稳定预期、动员资源。核心问题是领导谁,以牺牲谁为代价
很显然,这些【能力】可以被行为化/评价化/指标化/审计化/制度化
信仰/超越感
信仰:有限者面对不可掌控之物/认知之外的实在,时的自我托付。
尊严/权利/社会承认的主体地位
道德/良知
责任
责任:制度的硬的归因结构,需要降落在【能有所失】的主体存在上。
我们很擅长/甚至每天都在进行把责任制度化/分散化/稀释与消解(法人/保险/合规性/审计/治理/专家系统)
承诺/可应答性
核心的自我绑定,本质是依托人的有限性结构本身。
历史共同体身份/文化传承
文化:有限生命在代际更替中对亏欠、创伤、荣耀、失败、禁忌和希望的重新承担。
主体不能是文明的结构,应该是文明的非工具性目的
- 文明本体论:跨代延续/信息保存/制度稳定/熵增抵抗的系统。
- 如果主体是文明中间环节/系统部件/机制接口,主体本身的可枚举属性(低效/脆弱/昂贵/情绪化/弱抗毁性),是演化中必然被替代的。
- 人类要想跨越文明,其意义/价值必须超越文明/在文明外:文明必须承认主体不是系统部件,而是系统目的。
- 法律是在游戏外的,效用/作用/功用发生在游戏内
- 人类的不可替代性,成为文明的选择
社会分工的【功能本体论】
- 社会强调人的功能属性,按照功能贡献来度量A,A很容易被替代/降格为低效模块
- 强调人的应答性:稳定的输入-输出结构
- 将存在者的意义归结到对组织/系统的贡献上,已经在计量中,已经成为工具/可随时被替代
文明的目的
人是文明目的,而不只是文明手段。
- 保存信息/延续知识:什么值得保存
- 扩展智能;
- 降低不确定性;
- 提高复杂性;
- 维持制度稳定;
- 殖民宇宙;
- 抵抗热寂/熵增:为了什么抵抗熵增
必须考虑以下问题:
- 哪些损失不可被系统收益抵消?
- 哪些主体不能被当作燃料?
- 什么样的延续仍然算作‘我们的’延续?
AI成为制度节点的发展规划
AI进入权利、责任、授权、信任、治理、代表、裁判、记忆的结构。
人类社会把越来越多的判断、承诺、关系和责任交给不真正承受人类后果的系统。
高风险决策背后必须要有人。
典型路径:
- 辅助决策工具
- 专家系统
- 代理人
- 组织管理者
- 事实上的制度接口
- 不可绕过的制度主体