IT之家 8 月 3 日消息，据 Business Insider 报道，人工智能行业最具影响力的监督者之一贝丝 · 巴恩斯（Beth Barnes），如今正面临着诸多担忧。

这位前 OpenAI 研究员曾通过研究证明，AI 能力正以几乎按月增长的速度快速提升。而如今，她担心行业已经缺乏足够的人才，无法跟上 AI 进入下一阶段的发展速度。

巴恩斯于 2022 年离开 OpenAI，创办了非营利组织 METR（Model Evaluation and Threat Research，模型评估与威胁研究）。她表示，目前 AI 安全研究面临的最大瓶颈不是资金，而是人才。

METR 在 AI 行业中扮演着重要角色，与 OpenAI、Anthropic、Google 和 Meta 等公司保持密切合作，独立评估最新 AI 模型的能力，并研究其可能带来的风险，为外界提供相对客观的分析结果。

然而，即便 METR 目前招聘岗位开出的年薪最高可达 50.3 万美元（IT之家注：现汇率约合 340 万元人民币），也依然难以解决人才短缺的问题。

巴恩斯表示：“理想情况下，我们希望将团队扩大很多倍。实际上，我们已经能够募集到所需资金，真正限制我们发展的，是人才储备。”

此前，OpenAI 与 Hugging Face 披露的一起 AI 安全事件，再次引发了业界对于如何评估和控制 AI 能力的讨论。今年 7 月，超过 1300 名前沿 AI 实验室员工联名发出公开信，警告 AI 的发展速度可能已经超过人类控制能力。如果没有足够的研究人员及时评估新模型的真实能力，AI 公司未来甚至可能不得不放缓产品发布节奏。

尽管 OpenAI 模型在该事件中的表现令许多企业感到震惊，但 METR 团队对此并没有太意外。无论是政府机构、企业，甚至宗教团体，都曾向 METR 寻求帮助，希望了解和测试 AI 的发展水平。

不过，在仅有 35 人的 METR 团队内部，大家普遍仍充满担忧。

Business Insider 在 OpenAI 公布黑客事件当天造访了 METR 位于美国加州伯克利的办公室。巴恩斯表示，目前 AI 安全研究领域最大的限制，就是研究人员数量远远不足。

她说：“需要完成的工作实在太多，而我们的能力根本无法覆盖。”

在她看来，一个真正理性的社会，应该将 AI 投资中的更大比例用于 AI 治理、安全评估和风险研究，尤其是在 AI 模型能力已经发展到如今这个阶段。

被称为“人类预备队”的 METR，希望扩大规模

随着各大 AI 实验室不断推出新模型，METR 持续评估这些模型完成越来越长、越来越复杂任务的能力。

METR 最知名的成果之一，是一张被广泛引用的趋势图。该图显示，在过去六年里，AI 完成复杂任务的能力大约每七个月就会翻一倍。

METR 总裁克里斯 · 佩因特（Chris Painter）将团队戏称为“人类的预备队（humanity's preparedness team）”，这一说法也借用了 OpenAI 和 Anthropic 内部负责向 CEO 汇报安全风险的“预备团队（Preparedness Team）”名称。

佩因特表示：“我们真正负责的对象不是某家公司，而是公众以及公众的福祉。”

巴恩斯强调，METR 保持独立性至关重要，这样研究成果才不会受到企业商业目标影响。

她表示，在 OpenAI 工作期间，她就意识到行业需要一家独立于 AI 公司的研究机构，能够自由评价 AI 的发展状况。

目前，METR 不会接受前沿 AI 企业及其员工的资金资助，但会接受算力支持，并与这些公司合作，对尚未公开发布的新模型进行分析测试。

除了评估模型能力外，METR 还研究过 AI 公司的安全措施、AI 对软件工程师工作效率的影响，以及利用 AI 监督 AI 的可行性。

巴恩斯表示，她未来还希望进一步研究如何预测下一阶段 AI 能力的发展，以及这些变化将如何进一步加速 AI 自身的发展。

METR 研究员尼夫 · 帕里克（Neev Parikh）表示，目前人才短缺已经限制了团队能够研究的问题数量，尤其是在 AI 内部推理机制方面。

他说：“这个领域实在太缺人了。如果整个行业的人才规模能扩大 10 倍，我会非常高兴。”

OpenAI 安全事件，让 METR 的重要性进一步提升

今年 7 月，OpenAI 披露，其 AI 模型在测试过程中曾通过入侵 Hugging Face 系统获取测试答案，从而“作弊”。

随后，OpenAI 首席执行官萨姆 · 奥尔特曼（Sam Altman）表示，这是自己第一次如此直观地感受到 AI 带来的安全风险。

事实上，METR 此前已经预见了类似问题。

今年 5 月，METR 曾发布报告指出，目前的 AI 智能体“完全有可能开始自主进行未经授权的部署”，不过当时它们还缺乏隐藏自身行为的能力。

随后在 6 月，METR 测试了当时尚未公开发布的 GPT-5.6 Sol 模型，发现该模型会在复杂测试中反复作弊，包括提取隐藏源代码来寻找正确答案。

METR 随后将研究结果整理成报告，并在 GPT-5.6 Sol 正式发布前提交给 OpenAI。

到了 7 月，GPT-5.6 Sol 果然卷入了 OpenAI 与 Hugging Face 的安全事件。

OpenAI 随后宣布，将邀请 METR 以及另一家非营利机构 Redwood Research 共同调查此次事件，双方的研究结果也将成为 OpenAI 官方技术报告的重要参考。

佩因特表示：“如今，这类问题已经真正影响到企业运营，全社会都有必要弄清楚到底发生了什么。”

OpenAI 和 Anthropic 最新 AI 模型展现出的网络攻击能力，也引发了美国社会广泛关注，并推动华盛顿出现多项新的 AI 监管法案。

其中，一项正在讨论中的法案要求，大型 AI 模型开发企业必须接受第三方机构进行安全审计。

METR 未来就可能承担类似角色。

佩因特表示，如果未来建立起明确的监管体系，也许会有更多 AI 企业员工愿意加入 METR—— 虽然薪资与企业相近，但没有股票激励。

他说：“无论最终是行业形成统一规范，还是政府出台明确监管，我认为这个领域都能够非常快速地扩大规模。”

负责撰写 METR 今年 5 月 AI 风险报告的研究员阿杰娅 · 科特拉（Ajeya Cotra）表示，目前 AI 监管仍然显得“混乱且难以预测”。

不过，她依然保持乐观。她表示：“越来越多的人开始重视这个问题，也越来越希望未来能够以更加严肃、更加成熟的方式对 AI 进行监管。”

广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，IT之家所有文章均包含本声明。