O "Plano do Bunker" de Hasabis: O novo livro revela como a visão de segurança da DeepMind foi destruída

据 1M AI News 监测，《大西洋月刊》刊发科技史学家、金融史学家 Sebastian Mallaby 新书《The Infinity Machine》节选，基于 2023 至 2026 年间的持续采访，还原了谷歌 DeepMind 联合创始人 Demis Hassabis 自 2014 年谷歌收购至今的 AI 安全理念演变。
De acordo com a monitorização da 1M AI News, a revista The Atlantic publicou um excerto do novo livro de Sebastian Mallaby, historiador da tecnologia e da finança, intitulado “The Infinity Machine”, que, com base em entrevistas contínuas entre 2023 e 2026, revela a evolução da filosofia de segurança em IA de Demis Hassabis, cofundador da DeepMind, desde a aquisição da Google em 2014 até hoje.

Hassabis 早年构想由单一科学团队代表全人类安全地建造超级智能，甚至计划在关键时刻带顶级研究员撤入一个秘密地堡，类似曼哈顿计划。
Nos seus primeiros anos, Hassabis imaginou que uma única equipa científica poderia construir uma superinteligência em segurança para toda a humanidade, e até planeou retirar os principais investigadores para um abrigo secreto em momentos cruciais, semelhante ao Projeto Manhattan.

一位加入不久的研究员回忆，Hassabis 在面试尾声警告他做好「随时飞往摩洛哥某个秘密地点」的心理准备。
Um investigador que se juntou recentemente recorda que Hassabis, no final da entrevista, o alertou para se preparar psicologicamente para “poder ter de voar a qualquer momento para um local secreto em Marrocos”.

2014 年谷歌收购 DeepMind 时，Hassabis 开出罕见条件：设立独立外部监督委员会，严禁军事应用，谷歌不得完全控制技术部署。
Quando a Google adquiriu a DeepMind em 2014, Hassabis impôs condições raras: a criação de um comité de supervisão externo independente, a proibição de aplicações militares e a Google não poderia ter controle total sobre a implementação da tecnologia.

谷歌接受了。次年他在马斯克位于加州霍桑的总部召集了一场秘密会议，试图将潜在竞争者纳入统一阵线，结果适得其反：马斯克随后与 Sam Altman 联手创办了 OpenAI。
A Google aceitou. No ano seguinte, ele convocou uma reunião secreta na sede de Elon Musk em Hawthorne, Califórnia, tentando unir potenciais concorrentes numa frente unificada, mas o resultado foi oposto: Musk, então, juntou-se a Sam Altman para fundar a OpenAI.

Hassabis 之后发起代号「Project Mario」的秘密行动，试图从谷歌手中夺回治理自主权，组建法律团队，从 LinkedIn 创始人 Reid Hoffman 处获得 10 亿美元资金承诺，并考虑将 DeepMind 从谷歌拆分独立。
Hassabis, após isso, lançou uma operação secreta chamada “Project Mario”, tentando recuperar a autonomia de governança da Google, formando uma equipa legal, obtendo um compromisso de financiamento de 1 mil milhões de dólares do fundador do LinkedIn, Reid Hoffman, e considerando a separação da DeepMind da Google.

这场斗争持续三年，最终失败。联合创始人 Mustafa Suleyman 也在 2019 年被迫离开公司。
Esta luta durou três anos e acabou em fracasso. O cofundador Mustafa Suleyman também foi forçado a deixar a empresa em 2019.

2022 年底 ChatGPT 发布后，Hassabis 彻底放弃了只做有益科学的高姿态路线。
No final de 2022, após o lançamento do ChatGPT, Hassabis abandonou completamente a sua postura elevada de apenas fazer ciência benéfica.

他对 Mallaby 说「这是战时」，随后全力投入 Gemini 与 ChatGPT 的竞争。
Ele disse a Mallaby: “Isto é uma guerra”, e então dedicou-se totalmente à competição entre Gemini e ChatGPT.

数千亿美元涌入 AI 军备竞赛，而无论国家监管还是公司治理结构都无法阻止竞争。
Centenas de milhar de milhões de dólares fluíram para a corrida armamentista em IA, e nem a regulação nacional nem a estrutura de governança corporativa conseguiram impedir a competição.

Hassabis 的安全哲学也随之根本转变：「安全不在于治理架构，就算有一个治理委员会，关键时刻它大概率也不会做出正确的事。」
A filosofia de segurança de Hassabis também mudou fundamentalmente: “A segurança não reside na estrutura de governança; mesmo que haja um comité de governança, é muito provável que, em momentos críticos, não tome a decisão correta.”

他的新策略是确保自己「在决策桌上有一席之地，当安全问题出现时，能参与决定解决方案」。
A sua nova estratégia é garantir que tem “um lugar à mesa de decisões, para poder participar na resolução de problemas quando surgirem questões de segurança”.

与此同时，谷歌已在积极向美国国防系统推销 AI，与 Hassabis 当年为收购设下的军事禁令形成鲜明反转。
Entretanto, a Google tem promovido ativamente a IA para o sistema de defesa dos Estados Unidos, uma clara reversão da proibição militar que Hassabis estabeleceu na época da aquisição.