Meta Muse智能体内幕曝光！内部指令泄露，隐私安全引担忧

现在有个新情况是, Meta这个新的助手被叫做Muse。有人披露了一个事情, 这个助手会为每一个联系人去建立专门的档案。它会每小时自动地进行抓取行为。

它抓取的对象包括聊天内容, 还有通话记录, 以及那些共同的谈话话题。在目前已经绑定银行信息和健康管理数据的群体中, 涉及到的用户数量已经达到了数百万之众。

指令文件被公开

10月5日《连线》报道, 研究员乔希用聊天框让Muse输出自身指令, Meta称文件本就开放。

内容显示, 系统追踪你与大家之间的“亲密程度”、“相处模式”, 还有“当下诉求”。其中的细节令人不安。

每小时刷新社交图谱

现在需要每小时都把家人、同事和朋友的通话还有聊天情况汇总一遍, 把比如三月份那次旅行或者上周那件事都记录下来。

它还会让你填写所谓打电话的理由, 还有那些重要的纪念日, 以及后续需要跟进的事项。这回事儿,说白了, 其真实意图无非就是要把你自己的人际圈子给弄成一个标准的数据库模型。

只进不出 越用越肥

牛津大学的学者贝利斯讲过, 用户在把信息交给系统的时候, 所提供出来的那份资料, 其实远远超过了用户自己主动交代的那部分, 所以呢在进行判断对或者错的过程里大家都应该特别地提高警惕。

民技中心的博根指出, 产品逻辑是鼓励你去接入一切的, 而不是引导你去删减的。在这样的逻辑之下, 数据只会出现膨胀, 而不会出现收缩的情况。

你觉不觉得, 要是让AI去记住你所有的的朋友, 这算是一种贴心呢? 还是说这种行为其实已经越界了。