NeFut Logo NeFut
EN 管理员登录

[AI学术] 多层次 AI 可及性模型 (MAIAM):比例化访问与能力限制以实现前沿 AI 安全

发布于:2026-10-16 22:00 最后更新:2026-10-18 08:05
#AI #Machine Learning #Artificial Intelligence

本文讨论 AI 发布决策的两层含义:系统能力上限与谁可以获得该能力。提出多层次 AI 可及性模型(MAIAM),依据用途、安全性和能力将访问分为三层。

第一层“学习型 AI”面向大众,故意限制能力。第二层“探索型 AI”面向研发,要求注册、身份验证并随能力提升收紧使用限制。第三层“前沿全尺度 AI”仅通过结构化、可记录且负责任的渠道获取。模型背后的原则是可及性应与能力、风险成比例。

文中指出公开前沿模型权重会失去所有后续安全手段,并举例说明仅几百美元即可剥离安全微调,使得基模型评估对其衍生品意义有限。作者给出将系统划入相应层级的标准,涉及能力、自治程度、领域后果以及使用/安全维度,并将 MAIAM 与 SAFE AI Operating Point 结合,形成两部分框架:能力边界限定不可逾越的安全上限,可及性边界限定在该上限以下的获取者。仅有能力限制不足以保证安全,还需监管机构执行分层访问制度。

点评:该模型提供了从技术到治理的系统化路径,为前沿 AI 的安全部署提供了可操作的框架。

原文链接: https://arxiv.org/abs/2610.20921

[h] 返回首页