OpenAI联合Anthropic谷歌DeepMind 合作开展AI安全相关研究

三大AI巨头联手罕见查安全, 连对手都成“战友”, 这反常操作背后藏着多大地恐慌?

三家巨头秘密接触数周

9月15日, OpenAI全球政策主管克里斯·莱恩证实, 他们、与Anthropic、谷歌DeepMind已、进行数、周安全合作。这、不是公开声明, 而是、实打实的、协调行动。在AI算力竞赛、白热化、阶段, 头部公司、放下身段、互通情报,直接说明当前、模型、能力让、资本和监管、都、坐不住了。

合作内容聚焦于最先进模型, 这类模型的潜在灾难性风险比如自主失控或者被恶意利用的场景, 正是合作内容聚焦处。莱恩强调, 这类技术交流不需要反垄断豁免, 逻辑很简单: 共同防范系统性崩溃, 比独占技术更有价值。航空业长期共享一些事故数据, 现在AI圈也开始学这门大家之前可能没怎么重视的“救命课”。

阿莫迪长文引爆行业焦虑

上周六, Anthropic CEO达里奥·阿莫迪以3800词作为内容, 以檄文被抛出的动作, 发出放缓前沿AI研发速度的要求。他的警告内容涉及两类关键点: 第一点是当前模型迭代速度过快, 第二点是该速度之下研究人员无法有充裕时间完成生存风险相关评估。 这类被评估的风险, 已然不是科幻领域的概念, 而是迫近程度极强的工程类型的挑战。此文的发酵范围集中在硅谷内部内部区域, 发酵发酵迅速推进, 行业领域内的情绪转向的指向成为最终形式, 且其成为行业情绪的转向指向标。

OpenAI掌门人萨姆·奥尔特曼与马斯克眨眼功夫转发支持, 这万万绝非一般社交式客套。两位最直接的业内竞争者公开呼吁“让技术踩一脚刹车”, 就等于认下现有人工智能安全护栏早已追不上神经网络模型智商非理性地飞速膨胀的速率。 公众讨论的节奏被强行拽入全球聚光灯之下讨论场, 舆论压力丝毫未漏传递直接传导至核心核心董事会和持有着资金注资的投资者。

华盛顿政商新接触

此次莱恩华盛顿之行的目标非常明确: 闭门与美国国会议员进行联络沟通。他代表OpenAI进行态度表达说, 公司愿与配合实施任何两党推出台法案举动, 只要是用于目的为防范AI灾难性后果。这种“无条件性配合”的姿态, , 在商业史上极为罕见稀有, 经常一般都意味着企业预嗅察到了监管寒冷冬天的味道兆头。

眼下正陷于两难的政界, 不立法就会遭到媒体问责, 立得太严苛的话又怕有损于美国科技优势；议员们从莱恩的表态里获得了台阶——有巨头主动送来了相关弹药。未来几周, 关于AI审查权限的国会山相关讨论大概率上会加快进程, 科技股的估值逻辑兴许会因此改写。

航空业模式能否复刻

莱恩拿着航空业做类比: 飞机厂商长时间互相交换设计漏洞和事故资料, 由于空难的成本大大超过技术保密的收益。AI圈子此刻也在模仿这个逻辑, 共同使用安全评测结果和对抗样本。不过区别在于, 空中航行的规范是上百年积累, 而通用人工智能的安全标准依旧处于原稿未到定稿的层面。

这合作能走多长远存疑? 模型架构、训练方法、对齐数据全都是核心商业机密, 共享界限在哪块? 目前还只停留于“最致命危险场景”层级层面, 一旦涉及到具体优化, 竞争本能就立马压倒安全共识。行业联盟的韧性还没经受住利益冲突的考验。

监管豁免的微妙边界

莱恩特地着重强调, 安全合作“不需反垄断豁免”。此语乃是给华盛顿送去了政治层面的交底, 也是在对国内竞争对手先期打了预防针。美国管控市场排斥行为的是反垄断法, 安全数据共享一般被看作公共品生产。该定性将来能保护巨头之间的合作空间。

律师们会紧盯每一个细节, 若共享内容涉及特定模型的性能参数, 就可能触碰商业秘密的红线, 眼下三方都保持着沉默, 并无回应置评的请求, 此种静默本身就是一种策略: 任由公众讨论的情绪先行, 给政策制定留出缓冲时间, 避免被舆论绑住自身的手脚。

普通人的生存风险

AI生存风险不止仅是哲学问题。阿莫迪所言道的“迅速进入公众讨论”表名, 未来你的工作、金融账户、甚至言论自由, 都可能被自主AI系统造成不可逆的巨大之深刻影响。关乎于未来三年AI工具进化之速率的, 是行业巨头们正在谈论着的那“放缓研发”之事态进程。

常人能做的寥寥无多, 却可以紧盯立法动向。未来推出的安全审查机制, 将会决定AI在医务、司法、金融等行当的准入资质。认可本文且分享给在意科技的友人, 一同促进更明朗的行业安全准则, 风险勿让少量人独自承担。