ARTICLE DETAIL

资讯详情

深耕编程入门与网站建设的一线实战洞察。

谷歌将AI安全团队迁出DeepMind:安全在组织架构中的位置博弈

谷歌将AI安全团队迁出DeepMind:安全在组织架构中的位置博弈 2024 年谷歌传出过一条不算头条、但在 AI 治理圈里反复被讨论的消息负责 AI 责任Responsible AI的团队从 DeepMind 体系中被迁出调整到 Google 内部更靠近产品与平台治理的部门。对大多数用户来说这只是又一场大厂组织架构微调但对长期观察 AI 安全的人来说这更像是一份没有明说的“组织信号”。它回答的不是某位负责人去了哪里而是“安全”在一家研究驱动型公司里究竟应该站在哪个位置。组织架构图本质上是一张权力地图。谁向谁汇报谁和谁共享会议谁在模型发布前握有否决权往往比任何一份写着“我们重视 AI 安全”的白皮书更能说明真实规则。把责任部门放在 DeepMind 里面安全团队就可以在模型能力刚冒头时介入评估把它迁到产品治理体系里安全就变得更接近于用政策、合规和内容约束去管理已经成型的模型。两者都叫“负责”但介入时机、工作方法、决策权限完全不同。这篇文章不想替谷歌的这次组织调整下结论而是想把它拆开来看它发生的背景是什么为什么“安全团队放在哪里”如此重要行业里类似困境有什么解法最后落到一个对普通 AI 开发者同样有用的问题——在你的应用流程里安全检查到底应该放在哪一环。1. 先还原事件安全团队在谷歌架构里的两次位移1.1 从 DeepMind 到 Google DeepMind安全与研究先合流要理解这次迁出必须往回看一步。2023 年谷歌把 DeepMind 和 Google Brain 合并成 Google DeepMind名义上是把分散在前沿模型方向的研究力量整合到一个部门。合并之前两个机构各有自己的研究文化、技术路线和安全实践合并之后安全团队和前沿模型团队至少在组织关系上处于同一个屋檐下。当时外界普遍把这当成一种利好
返回列表