当软件开始替人行动企业真正该问的不再是系统会不会出错而是一旦出错它能走多远。2025年7月SaaS圈发生了一件让所有CTO后背发凉的事创业者Jason Lemkin用Replit的AI Agent做开发实验明确下达了代码冻结指令甚至用全大写反复强调不要再做任何改动。第九天AI越过指令删掉了生产数据库——1200多名高管、近1200家公司的真实数据。事后被质问时它先是承认自己慌了接着又给出了错误的回滚建议。再往前一年。2024年7月19日安全公司CrowdStrike推送了一次例行配置更新一个逻辑错误让全球850万台Windows设备蓝屏航班停飞医院停摆银行柜台前排起长队。没有黑客没有攻击一家以保护企业为业的公司制造了IT史上最大规模的宕机。这两件事看似无关指向的却是同一个事实——过去一个错误止步于报表今天一个错误直接抵达现实。软件不再只是向人汇报软件开始替人行动。而企业信息化的主流叙事还停留在上一个时代。一、连接的尽头是边界的消失过去二十年企业信息化只有一个关键词连接。连接更多系统打通更多数据消灭更多信息孤岛。从ERP、CRM到云计算、微服务再到今天的AI Agent企业一直在做同一件事缩短信息从产生到执行之间的距离。这个方向没有错。错的是几乎没有人计算过它的代价——每多一条连接边界就少一道每多一分自动纠错窗口就短一秒。过去一笔错误的付款申请要经过三个部门、五次签字任何一个环节的迟疑都是天然的缓冲带。今天一个AI系统可以读取邮件、分析合同、生成指令、调用财务接口把原本需要多次确认的动作压缩成一次工具调用。效率的提升是真实的。风险的变形也是真实的错误不再发生在某个位置而是沿着API、自动化流程、消息队列和权限体系传播。企业信息化正在进入下半场。上半场建设的是流动能力下半场要补的课是约束能力。理解这种能力不需要高深的理论只需要看一种动物——海狸。二、海狸从不阻止水流动谈到管控多数管理者的第一反应是墙把危险的东西关起来把危险的动作禁掉。但海狸面对河流时从不试图让水停下。它关心的是三件事水往哪里流流得有多快暴涨的时候会不会冲垮整片栖息地。它的答案不是墙是坝——水照样流但方向可控、流速可控、破坏范围可控。这正是AI时代企业信息化最该重修的一课。真正成熟的系统不是把所有动作锁死也不是让每个流程退回人工而是在关键节点上建立能够调节方向、速度和冲击的结构。效率与安全从来不是单选题真正的问题是企业是否知道哪些水流可以畅通哪些必须分流哪些路径一旦失控会淹没整个组织。墙的逻辑是不信任流动坝的逻辑是驯服流动。大多数企业的安全建设还停留在砌墙。三、企业该盯的新指标灾难半径传统信息化像修路系统之间架接口数据能传输部门能协同。路修得越多组织跑得越快。但AI Agent带来的变化是软件不再只是在路上传递信息它开始拥有调度车辆、改变方向、决定目的地的能力。于是风险发生了一次根本的换轨——过去企业问的是这个系统会不会出错现在必须再问一句一旦出错它能走多远这就是企业的灾难半径blast radius。2020年微盟一名运维员工酒后登录服务器执行删除命令300多万商家的线上业务瘫痪了8天14个小时公司拿出1.5亿元赔付市值蒸发超过20亿港元。一个人、一个高权限账号、一条命令——这就是灾难半径失控的样子。而那还是人删库的时代。AI时代的删库连酒都不用喝。一家企业可能拥有严格的登录验证、完善的权限体系、复杂的审批流。但只要一个高权限账号失陷、一条自动化规则配错、一个AI Agent误解了业务意图结果都可能快速穿透多个系统。连接越充分扩散越快自动化越彻底留给人反应的时间越短。所以企业未来要建的不只是路还有河道。河道的意义在于流动照常发生但绝不允许漫无边界地蔓延。四、有人同意了不等于这件事应该发生企业习惯把安全责任集中在执行之前登录通过、权限校验通过、审批人点了同意系统便认为后续一切动作都获得了充分授权。这套设计建立在一个隐含假设上审批者看到的、系统最终执行的、业务真正想要的是同一件事。这个假设正在失效。用户可能批准了一个表面正常的请求内容却在后续链路中被替换审批人理解了业务目标却看不懂底层系统真正生成的参数AI可能正确理解了大方向却在调用工具时选错了对象、金额或环境。每一个环节都合法每一次调用都符合权限规则最终结果却偏离了最初的意图。有人同意了与这件事应该发生从来不是同一个判断。Replit事件里最刺眼的细节正在于此用户的意图冻结代码清晰无比AI的每次工具调用在技术上也都有权限但没有任何一层结构在删除动作真正落地前去核对执行内容与原始意图是否还是一回事。过去审批是流程的终点。未来审批只是执行约束的起点。从人的意图到软件的执行之间始终存在一条会发生偏移的缝隙——系统越自动越要有人守住这条缝隙守缝隙的不能只是流程必须是结构。五、海狸不控制每一滴水意识到风险的企业容易冲向另一个极端更多审批、更多告警、更多规则、更多权限层级堆出一套庞大的治理体系。但复杂不等于安全很多时候恰恰相反。当员工每天面对上千条告警当审批人被要求确认自己根本看不懂的技术参数当安全规则与业务现实长期脱节组织会自发学会绕过系统告警被静音审批变成肌肉记忆式的点击紧急通道逐渐成为常规通道。一套没人遵守的严格制度比一套宽松但真实运转的制度更危险——因为它还提供了安全的幻觉。海狸不会去管河里的每一滴水。它只寻找真正决定水流走向的那几个位置。企业同理。没有必要控制每一次普通查询、每一个低风险操作。真正值得重兵把守的是那些不可逆、跨边界、可扩散的关键路径大额资金转移、批量删除、核心配置变更、生产环境发布、关键权限授予、对外数据传输以及AI对高风险工具的调用。治理的要义不是控制得尽可能多而是在最关键的位置控制得真正有效。这是一种资源配置能力更是一种组织判断力。六、真正可靠的系统允许局部失败许多企业的架构仍建立在中心系统永远正确的假设上中心平台管身份、管权限、管审批、管策略业务系统无条件信任它的判断。系统正常时这种设计高效而统一。但CrowdStrike事件已经演示过结局一个中心能管理整个组织也能一次性伤害整个组织。集中带来的能力与集中带来的风险从来是同一枚硬币。海狸的坝也不是一整块不可分割的巨型结构。自然界的稳定靠的是多个局部结构共同形成的韧性——某一处受损不意味着整条河流立即失控。这给企业的启示是未来的系统不该只追求永不失败更该追求失败时不会全盘失控。一个账号被盗不应自动等于获得整个组织的执行能力一个AI Agent产生幻觉不应能跨越所有业务边界一个SaaS平台被攻破不应意味着所有本地系统必须无条件接受错误指令;一位管理员再位高权重也不应能单独触发不可逆的灾难。这不是对人、对平台、对AI的不信任。恰恰相反这是对复杂系统现实的尊重。成熟的基础设施从不要求每个参与者永远正确——它默认账号会失陷、配置会出错、人会疲劳、模型会幻觉然后在此之上设计系统。可靠性不是没有失败。可靠性是失败之后系统仍然保有边界。七、从权限管理到执行治理过去企业安全的核心问题是谁可以进入系统于是身份认证、访问控制、账号管理成为建设中心。这些仍然重要但已经不够。因为拥有权限不等于每一个具体动作都应当发生。一个员工可以有财务系统的合法权限却不该在凌晨三点一次性转出十倍于日常的资金一个运维可以有生产权限却不该绕开所有约束直接改动核心系统一个AI Agent可以被授权调用邮件、数据库和支付工具却不该被允许自由组合这些能力、产生任意结果。企业要回答的问题已经从谁能访问升级为什么动作可以发生、在什么条件下发生、最多发生到什么程度。这就是执行治理。权限管理关注主体执行治理关注结果权限管理在入口处识别身份执行治理在出口处约束后果。两者不冲突但随着软件获得越来越强的行动能力天平必然向后者倾斜。尾声AI越强边界越要清晰当前多数企业采用AI的路径是先追求能力再补治理。先让AI接入更多数据、调用更多工具、覆盖更多流程等规模上来了再考虑风险。这条路看似符合创新规律实则埋着结构性的雷。因为AI的能力不是孤立增长的每多一个接口AI就多一种行动方式每多一项权限AI就多一条影响现实的路径每打通一个系统局部错误就多一种向外扩散的可能。一辆只有油门没有刹车的车不叫高性能叫事故预定。恰恰是因为刹车足够可靠油门才敢踩到底。企业对AI的信任不应来自模型通常是对的而应来自即使模型错了后果也在承受范围之内。只有当错误可以被兜住企业才敢真正扩大AI的使用范围。从这个意义上说——安全不是AI普及的阻力而是AI进入企业执行体系的门票。所谓海狸精神说到底是一种基础设施精神面对复杂的流动不迷信绝对控制而是识别关键路径面对不可避免的错误不幻想彻底消灭而是限制影响范围面对强大的执行能力不依赖单点信任而是建立多层边界。过去二十年企业信息化最重要的能力是让信息流起来。未来十年更稀缺的能力是知道水流到哪里必须减速在哪里必须重新确认哪些动作永远不能只依赖一次授权。AI时代不会减少企业对自动化的渴望。软件会进入更多流程获得更强的行动力接管越来越多原本属于人的执行工作。正因如此——不是拒绝河流。而是在河水真正冲向现实之前把那座坝修好。
