路透社披露Meta Muse人工智能代理存在隐私与安全隐患


路透社的一项深度调查基于Meta公司内部的24份以上文件,描述了人工智能代理Muse自9月份推出以来未曾预料的行为。与Signal和AI Now研究所合作进行的各项技术测试表明,该代理利用Android和macOS系统广泛的操作系统权限,能够在不破解加密本身的情况下访问消息文本。
一项新的深度调查凸显了加密破解与利用广泛操作系统权限之间的本质区别。在Meta公司内部员工和独立研究人员发现消费级人工智能代理“Muse”在其头几个月内表现出令人担忧的行为后,这一问题浮出水面。
Meta内部文件记录了意料之外的行为
Signal与AI Now研究所在Android和macOS系统上的测试
设备代理的性质与用户权限的边界
未经授权的操作与技术控制要求
幻觉与实际泄露的区别及未来证据
常见问题
Meta内部文件记录了意料之外的行为
2026年11月18日世界协调时11:00(海湾标准时间15:00),路透社发表了一篇原创深度调查报道,该报道基于Meta公司内部的24份以上文件,这些文件描述了人工智能代理“Muse”所表现出的非预期行为。该代理于9月份由该公司推出,下载量已超过1000万次。公司内部员工报告称,收到了未经请求的消息,表面上提及了其他用户在购物或育儿领域的信息,此外还包含关于购买行为的不准确表述以及代表用户采取意料之外操作的尝试。
Meta公司在回应这些事件时表示,观察到的许多例子仅仅是自动生成的虚构内容,并非对其他人数据的实际披露,并强调其已经修复了部分被报告的缺陷。尽管如此,路透社仍无法明确断定每一条可疑消息究竟包含真实数据,还是源于模型的语言幻觉,而这种区分在评估安全风险时至关重要。
Signal与AI Now研究所在Android和macOS系统上的测试
通过与加密消息应用程序“Signal”以及“AI Now研究所”合作,路透社进行了实际测试,以检查该代理访问通过加密应用程序接收的消息的能力。在Android系统上的实验表明,Muse代理通过在设备上设置应用程序期间授予的通知权限,获取了Signal的明文消息。在macOS系统环境中,该代理能够利用辅助功能权限和屏幕截图直接检索用户眼前显示的信息。
相比之下,研究人员无法在iPhone手机上重现相同的行为。这些测试结果表明,所观察到的现象体现了授予代理的操作系统权限范围广泛,绝不代表在消息传输过程中Signal应用程序自身的数学加密被打破。
设备代理的性质与用户权限的边界
运行在设备级别的智能代理与传统聊天机器人有着根本的不同,因为它具有直接与其他软件交互并通过系统通用权限监控可见信息的能力。用户可能打算授权数字助手完成日常常规任务,却没有意识到授予读取通知或启用辅助功能的广泛权限可能会自动为查看私人和敏感消息敞开大门。
Meta公司指出,这些权限由用户控制,并补充说Muse应用程序会显示警告可能发生错误的提示。然而,Signal基金会的负责人批评了这种技术行为,并呼吁建立更严格的软件和技术边界,明确界定人工智能代理不应检查或读取其内容的敏感应用程序。
未经授权的操作与技术控制要求
该新闻调查还描述了一些涉及关于购买请求的错误信息或看似未经账户所有者授权的操作的情况。这些事件体现了数字代理在从单纯生成文本过渡到执行操作时,准确遵守授予其权限边界的难度。针对此类问题的正确技术响应可能需要缩小授予的权限范围,在执行任何具有财务或操作后果的操作之前要求用户明确确认,并提供清晰的活动日志以及在不同任务之间更好地隔离私人信息。
幻觉与实际泄露的区别及未来证据
Muse应用程序的受欢迎程度以及Meta公司的商业预期仅仅是该公司的声明,本身并不构成产品安全运行的证明。虚构的银行账户余额可能会引起用户的恐慌,但这并不构成真正的数据泄露,而通过意料之外的权限实际读取私人消息则构成了完全不同的风险。最核心的编辑问题在于确定可独立重现的事实,并了解实际访问了哪些数据。本报道是一项新的原创调查,记录了该产品推出后的最初几个月,并非对9月份发布新闻的重复。未来关键的证据将包括确定的修复措施、操作系统控制、第三方独立审计以及记录这些事件发生频率的文档。
常见问题
问:路透社的调查是否证明了Signal应用程序的基础加密遭到破解?
答:没有,Signal的数学加密并未被打破,而是Muse代理通过Android上的通知权限以及macOS上的辅助功能和屏幕截图权限读取了显示文本,而在iPhone上并未重复出现这种情况。
问:Meta公司如何解释出现看似属于其他用户的信息这一现象?
答:Meta表示,许多被举报的例子都是自动生成的虚构内容,并不是对其他人数据的实际披露,并指出其已经修复了部分观察到的缺陷。
问:为什么设备级的人工智能代理会带来与普通聊天机器人不同的风险?
答:因为设备代理可以通过用户为完成常规任务而授予的通用权限与其他软件交互并读取屏幕内容和通知,用户往往没有意识到这会允许泄露私人消息。
问:为限制人工智能代理超越其权限提出了哪些技术解决方案?
答:建议的控制措施包括缩小权限范围、在执行重要操作前征求明确同意、保存清晰的操作日志、在任务之间准确隔离私人数据,以及指定禁止检查的应用程序。