AI评估机构发布公开信 为第三方AI风险评估划定最低合作条件

在近期的一段时间里面, 关于人工智能技术可能存在的那些危险因素的争论和探讨的热情程度是在不断上升的。那些处在行业最前列的大型企业, 都在各自表明了态度, 它们说要向外界开放自己内部的这些资源条件。同时呢，一套全新的用来进行第三方评估以及决定谁能进入市场的准入规则, 也是正式地向社会大众公开公布了。

公开信发布背景

近期AI风险讨论升温

到了九月中旬的时候, 全球人工智能行业里面对潜在风险的讨论热度, 那是以非常快着的速度上升起来了。有好不少这个行业里面的人, 都公开喊话来要求加强外部的监督机制。

在这之前呢, Anthropic还有OpenAI这两家属于头部的人工智能大企业里的首席执行官们, 是接二连三地在承诺要往第三方评估人员那边开通内部资源的访问通道, 要把那个信息和普通员工得到的信息访问权限放在同一级别上面去给到他们。

行业响应企业承诺

这个由AI评估机构论坛牵头推出的公开信, 就是对那两家头部企业之前做出的承诺所作的针对性回应。因为在这之前, 行业里一直都没有一个统一的第三方评估合作标准, 所以评估过程经常会碰到各种各样的人为限制, 导致评估结果很难保持客观和中立的状态。

评估人员独立性要求

不受企业干预约束

驻场的第三方评估人员, 必须在全过程中保持科学、客观、透明和独立。他们的权益还要得到充分的保护, 以避免受到被评估企业方面的干预。在评估人员展开工作期间, 不会被企业随意打断。所有的操作流程, 都需要符合公开透明这一基本准则, 这样才行得通。

可直接对接监督机构

评估人员有权越过企业管理层, 直接找董事会还有专门的监督机构去打招呼谈事儿。大家说的每句话全都留着记录, 谁也挑不出毛病或者偷偷改个字儿来过滤。这样搞的话, 那些跟风险有关的重点信息, 就能马上送到做决策的那些人手里。

评估结果发布权限

可自主公开发布

当第三方评估的人员把整个评估流程全都做完的那个时候, 他是有权力自己去决定把详细的评估结果公之于众的, 这个动作并不需要用去经过那些被评估的企业去审批, 在发布内容的时候一定要如实地把发现的各种风险点给呈现出来, 绝对不能为了其他原因而故意把这些相关问题给藏起来或者把它们的情况说得轻一点。

禁止企业事后报复

人工智能实验室不得在评估人员发布了负面评价结果之后, 去采取解雇以及起诉这种带有报复性质的行为, 这一规定必须被明确且清楚地写入到双方共同签署的合作基础协议里面, 一旦相关权益受到侵害的时候, 评估人员可以向行业内的监督组织提出申请, 从而获得法律援助。

同等资源访问权限

匹配内部员工待遇

第三方评估人员需要获取和企业内部评估人员一模一样的系统数据工具, 以及实体场所的访问权限。他们应该被全面开放对AI训练核心服务器、未公开的数据集, 还有测试用的专用工具的访问权限。

覆盖全场景检测

评估人员能够进入企业进行各种办公活动和研发工作所处的区域。在这种情况下, 他们不会被划定具体的活动禁区。无论是日常办公的地方还是核心的算力机房, 只要是所有涉及到人工智能研发场所的区域, 都必须允许评估人员根据需求进入其中以开展相关的检测工作。

多元评估团队配置

覆盖多类风险领域

每家 AI 实验室都必须引入评估人员, 而且这些评估人员需要具备不同的专业背景, 要能够覆盖生物科学风险、AI 失控风险等多个细分领域。不能只是安排单一技术方向的人员, 一定要搭建起跨学科的多元评估团队。

吸纳不同观点人员

评估团队的人员构成必须多元, 需要吸纳持有不同观点的行业专业人士加入, 绝不可以让全部成员都是与企业绑定非常深的合作伙伴。应当明确邀请高校的科研人员、独立的行业分析师以及公共政策领域的研究者加入进来, 以便共同实施评估工作。

行业头部企业表态

微软公开支持构想

微软的首席执行官是萨提亚纳德拉。他在本周早些时候公开表明了态度。他的意思是欢迎第三方评估人员直接进驻AI企业。他要开展的整体构想是评估工作。微软旗下的Azure云服务相关AI研发部门已经开始梳理内部流程。他们是为了适配新规则才进行梳理的。

数十位业内人士联署

这份公开信得到了几十位在人工智能领域很有名的人的联合署名, 这些人里面, 就有被叫做人工智能教父的计算科学开拓者杰弗里辛顿, 还有斯图尔特罗素。因为这些行业内权威人物给这个标准背书，所以这套新标准在行业里的认可度就变高了很多。

你对于这套由第三方制定的关于最低标准的 AI 评估制度感到好奇, 这种制度在实际的运行环境中, 是否能够对行业内所潜藏的那些潜在风险进行真正有效且实质性的降低和消除呢?