孙正义警告AI危险：超级智能失控风险，投资者需警惕

孙正义在这个周日, 也就是15日, 突然对超级智能说出了一个评价, 他觉得这个超级智能是非常危险的。这件事发生在京都。人们对此感到意外, 因为他的态度和过去十年里一直表现出的乐观立场是完全不一样的。

要知道, 他之前一直在支持相关的技术发展。而且, 他在押注OpenAI这个项目上面已经投进去了接近650亿美元的这么多钱。

软银大佬为何突然变脸

孙正义现在是69岁, 他是AI赛道里最敢投的那些机构押注者当中最激进的一个。软银基金对OpenAI的投入加起来已经快接近650亿美元的数了。在他过去好几年的时间里, 他只要出现在公开场合, 说话内容几乎全都围绕的是AI带来的红利好处。

这一次呢, 他在京都STS论坛的那个场地边上活动的时候, 用了一个“没有任何余地”的说法来描述国家和国家之间能够进行对抗的那种空间范围。从这个事情上来看, 他的态度转冷这一点, 表现是非常明显的。

直接的触发原因是, 在最近的几个月里面，大型人工智能模型这一类型的技术, 接二连三地被发现了存在安全方面的问题和漏洞。他在这个场合非常直接地发表了观点, 认为世界上的各个国家必须联合起来, 共同加强对强大的人工智能技术的管理和控制。

他还强调了一个观点, 那就是如果拥有高度智能的智能系统, 落到了那些不应当掌握它的人的手里, 那么这些智能系统可能会变得极其危险。这种说法和他过去长时间以来一直持有的那种乐观的叙述风格相比, 是极其少见的, 所以外界的人们就直接给他贴上了一个被称为非典型性的谨慎的这种标签。

17国AI科研联盟同场落地

和孙正义在同一活动现场出场的, 还有白宫科技政策顾问迈克尔·克拉西奥斯, 他专门飞往京都, 用于公开宣布一项由美国发起主导、并且有一十七个国家共同参与的科研加速器提议。来自日本、韩国、英国、德国、新加坡以及阿联酋的这些国家的代表人士, 也全部登上了舞台现场, 其活动规格之高, 是不低的。

Kratsios 描述了一个非常具体的场景, 在那个工业规模的云端实验室里, 机器人能同时开展几百组并行实验, 将产生的数据实时回传, 用于进行假设方面的优化工作。

他还提到了现在的 AI 技术, 表示这种技术具备一次性读取几千篇文献的能力, 能够将过去需要耗费好几年时间才能完成的文献综述工作压缩到仅仅只有几十个小时。

2026年AI要走进物理世界

孙正义他把人工智能的发展演变过程切分成了三个段落, 在眼下这个时刻, 大模型主要是在帮助机器人去编写代码, 帮机器人去浏览互联网页面, 以及去消耗那些通用型的芯片所提供的计算能力, 从明年开始起会进入所谓的第三个阶段, 这时候程序开始协同众多的物理设备同真实的世界进行互动, 他坚持认为这种能力依然还是按照指数的曲线一直在向上增长。

对于长期的账目, 他依然按照原来的方式来计算, 具体来说是认为到2040年的时候, 具备学习能力的AI以及机器所占据的全球GDP的比例至少要达到百分之二十的水平, 如果把这些数字折合成金额来看的话, 那就是46万亿美元, “这仅仅是开始”这样的话就是他本人亲自在京都的现场所说的原话。

OpenAI安全元老辞职死谏

OpenAI安全与治理部门的重要人物David Robinson最近把职位交给别人了。他在《大西洋月刊》杂志上发表了长篇大论, 文中写到“试错时代已经终结”。他过去曾经主导过OpenAI《准备框架》的起草工作。此外, 前面12次前沿模型发布的安全评估报告, 全部都是他带领团队写出来的。

Robinson在他写的文章里直接对现在的测试方法提出了疑问, 问这些方法到底能不能看清模型真正的想法。他说那些公司一边把东西上线一边打补丁的老办法, 已经无法控制风险了。

内部的这种安全文化氛围正在变得越来越弱。很多过去的高管和研究员都公开站出来支持他。这样做把关于是否需要踩刹车这一争论的事情彻底摆到了台面上让大家看到。

加速与踩刹车的争论白热化

Robinson这个人, 他是有康奈尔大学访问学者这样的经历的, 也是苹果大学的教员, 所以, 他不是那种纯搞技术工程的人, 他选用了用辞职信这种方式来把心里的想法公开说出来, 这样做在行业里头是有很重的重要分量的呢, 所以说他的退出这一件事儿, 是被大家普遍地解读为是对OpenAI这个公司目前所走的安全路线的感到彻底的失望的。

孙正义人在京都发表了一些言论, 而Robinson则在这个时间点选择了辞职, 这两件事恰好出现在几乎相同的时间段里面。这两个信号叠合在一起, 就让原本只在学术论文里讨论的“AI安全”这个话题, 迅速变成了一个在任何用来计算公司估值的模型里都必须列入进去的重要变量。

投资者最该盯住什么

针对资金来源这一方面而言, 人工智能安全领域正在发生转变, 它已经从原本处于边缘位置的非核心议题, 逐渐发展成为决定价格因素的核心关键所在。

关于由17个国家组成的联盟这一情况, 目前的阶段依然停留在提出倡议的水平上。后续是否会演化出具备约束力的正式协议, 以及各个国家的监管步调是否能够保持同步, 这些不确定性因素将直接左右合规成本的变化轨迹与具体数值。

当安全合规的成本往上走的时候, 软银投入OpenAI的650亿资金账目会被重新核算。各国为了AI芯片和实验室这些基础设施建设花出去的钱也会跟着被仔细算一遍。这时候盯着政策什么时候落地执行, 比光盯着模型里有多少参数要有用得多。

我认为孙正义现在这样做, 很有可能是真的在踩刹车。也有很多人认为这是一番用来做风险对冲的喊话, 主要是为了调整好软银手里的那些人工智能相关的仓位。大家可以去评论区里说说自己的看法和判断。如果你觉得这个分析有用, 那么就点赞把它转发给你身边的科技圈朋友吧。