9月18日消息，据TechCrunch报道，谷歌与谷歌 DeepMind 的研究人员于周三成立 DeepMind 研究院，旨在推动围绕通用人工智能（AGI）议题的多方探讨。
研究院董事名单包括 DeepMind 联合创始人谢恩・莱格（Shane Legg）、谷歌高管詹姆斯・马尼卡（James Manyika）以及谷歌 DeepMind 董事长德米斯・哈萨比斯（Demis Hassabis），由莱格担任常务主编。
这家新设研究院致力于呈现谷歌、谷歌 DeepMind 以及全球更广泛研究社群对于通用人工智能的不同观点。公告写道：“各方观点未必始终统一；在瞬息万变的前沿领域，随着更多数据与信息浮出水面，他们的看法也很可能发生转变。”
研究院首发文集包含四篇文章，议题覆盖面广泛：应对通用人工智能潜在冲击的经济政策、保留人类可读懂的模型推理过程、人类繁荣发展的基本原则，以及一套前沿 AI 模型评估框架。
其中一篇由 DeepMind 安全研究员罗欣・沙（Rohin Shah）与安卡・德拉甘（Anca Dragan）撰写的文章提出，AI 可透明度不断收窄 —— 也就是查看并核验模型一步步推理过程的能力持续弱化，并非不可逆转的宿命。文章指出，新架构让最强 AI 模型变得更难监控，开发者与监管机构应当直面其中的安全取舍。可行手段包括限制 “不透明串行深度”，即模型在不输出可读推理轨迹前提下能够执行的顺序计算量；或是要求开发者证明，透明度更低的系统依然具备可监控性。
在另一篇文章中，哈萨 abis 提议建立一个由美国主导的前沿 AI 标准机构，专门评估最先进人工智能模型。按照他设想的框架，模型开发者初期可自愿提交产品，在发布前最多提前 30 天接受审查。一旦这套评估体系被验证行之有效，在美国部署前沿 AI 模型就或将强制要求通过该机构测试。
该机构初期会和各家 AI 企业磋商设计评估方案，但后续将开发独立、不对外公开的评测机制，文中称之为“隔离测试集（held‑out tests）”，避免实验室针对已知测试标准刻意调优模型。哈萨比斯提到，如果形势的严峻程度需要，这套框架还可以逐步收紧，甚至推动前沿 AI 开发者实施协同放缓研发节奏。
这批文集面世之际，行业关于 AI 安全的讨论正从泛泛的表态担忧，转向围绕信息披露、外部独立审查，以及防护措施跟不上风险时采取协同减速的具体方案。本周，多位行业巨头表态支持 Anthropic 首席执行官达里奥・阿莫代提出的对前沿 AI 发展进行 “节奏管控” 的主张，进一步加速了这一转变。
