登录新浪财经APP 搜索【信披】查看更多考评等级
Meta的个人AI智能体Muse最近爆红。自该产品发布约两周以来，Meta股价已累计上涨超过20% ，市值增加逾2000亿美元。
不过，这一大热的产品正接连遭遇电商平台、金融机构与安全研究者的多重质疑 。
当地时间9月20日 ，亚马逊正式阻止Muse代用户在其平台购物 ，理由是该AI未获得授权 、不主动披露身份，存在账户凭证抓取与数据安全隐患 。仅仅两天后 ，包括美国银行 、NatWest在内的六家全球银行联合发布报告 ，集体警示AI智能体购物带来欺诈、隐私泄露等难题。
一波未平一波又起，安全研究员披露Muse Mac客户端存在漏洞 ，攻击者仅需一行命令便可劫持Muse 。更令人意外的是 ，Muse主打AI代打电话功能，实际部分通话竟是外包真人操作 ，还出现承包商不当言论事件 ，Meta已紧急撤回该功能 。
当AI从“回答问题 ”升级为直接替人交易办事，AI智能体商业化落地过程中的数据安全与用户隐私等风险，正在集中暴露。
亚马逊“封杀”Muse
六家银行对AI购物发出警告
Muse走红后 ，最先与其发生正面冲突的 ，是全球最大的电商平台之一亚马逊 。
当地时间9月20日晚，亚马逊开始阻止Meta旗下个人AI智能体Muse访问亚马逊并代用户购物 。亚马逊发言人确认 ，在Meta拒绝主动将亚马逊从Muse中移除后 ，公司采取了这一措施。
使用Muse访问亚马逊的用户收到提示：“未经授权的AI Agent持续访问违反亚马逊的使用条款 。 ”
图片来源：亚马逊网站
亚马逊发言人向《每天 经济新闻》记者（以下简称每经记者）表示：“第三方应用如果要代表消费者从其他企业购买商品 ，就应该公开透明地运行 ，并尊重服务提供商是否愿意参与的决定 。”
亚马逊将Muse与外卖 、配送和在线旅行平台作比较。其表示，外卖平台需要得到餐厅合作 ，旅行网站也需要与航空公司建立相应关系 ，“Muse这样的第三方智能体应用负有同样的义务 ” 。而Meta事先并未告知Muse将访问亚马逊，也未获得授权 。
更重要的是 ，亚马逊认为 ，当Muse代替消费者购物时，它可能绕过亚马逊基于用户浏览和购买历史建立的个性化推荐体系。
账户和数据安全是亚马逊提出的另一个问题。亚马逊对每经记者称，Muse似乎会获取和保存用户凭证并抓取账户数据 ，这引发了人们对这些数据如何处理和保护的严重质疑 。同时 ，Muse访问亚马逊时不会主动表明自己是AI智能体 。这意味着，一个未披露身份的第三方可能进入消费者账户 、处理交易和敏感信息 ，而亚马逊本身并不知情。
这场争议发生之际 ，AI智能体正在越来越深地进入真实购物场景 。英国零售商John Lewis今年9月披露，来自AI智能体的搜索流量占比已经从一年前的0.3%升至2.5% 。OpenAI、Anthropic 、Google和Meta等科技公司都在推动AI从推荐商品进一步走向替用户选取 商品乃至直接完成交易。
亚马逊封锁Muse两天后 ，金融机构也对这一趋势发出了警告 。
当地时间9月22日 ，NatWest 、美国银行、Capital One 、ING 、澳大利亚联邦银行和新西兰ASB Bank六家银行联合发布“构建可信商业智能体 ”报告，警告AI智能体用于购物和支付可能增加诈骗、欺诈以及数据隐私泄露风险 ，并指出相关技术的发展速度正在超过行业标准和消费者保护机制 。
“构建可信商业智能体 ”报告封面
六家银行列出的风险十分具体：AI智能体可能买错商品 、支出超过消费者预期，也可能要求用户提供银行卡信息并直接输入网站 ，甚至将消费者引向保护机制更弱的支付方式。一旦发生诈骗或错误交易 ，消费者还可能面临另一个问题——究竟应该找AI公司 、商户还是银行负责？
美国银行全球支付解决方案负责人Mark Monaco表示，随着智能体商业的发展，要建立消费者、商户和金融机构的信任 ，需要解决身份识别、授权 、欺诈防范 、责任划分和消费者保护等一系列问题 。
六家银行因此提出 ，未来AI参与交易时应明确披露身份，提高AI决策过程的透明度 ，加强用户数据保护 ，同时保证消费者和商户能够自主决定使用哪些AI电商服务 。
研究员称“一行命令就可劫持 ”！
Meta回应：“已修复，不是远程漏洞”
Muse随后曝光的安全漏洞也让零售巨头和银行的担忧变得更加具体。
当地时间9月21日 ，macOS安全研究员、Objective-See创始人Patrick Wardle公开披露 ，Muse的Mac客户端存在一个“零日漏洞 ”（zero-day vulnerability）：攻击者可以修改Muse原本用于开发调试的一个设置，把语音输入请求偷偷转到自己控制的服务器 ，从而截获Muse用于验证用户身份的认证信息 ，并进一步冒充用户向Muse下达指令 。
Wardle在接受每经记者采访时表示 ，他通过逆向工程Muse发现了这一问题 。“我查看外部低权限代码能够影响哪些部分 ，很快就找到了Muse未公开的设置。其中一个设置允许敏感端点被劫持，这正是整个攻击链的关键。”他说 。
在Wardle看来，这一漏洞的利用门槛并不高 。“利用它非常简单。一个没有特殊权限的本地攻击者 ，只需要运行一条命令就可以劫持Muse 。”Wardle表示 ，当用户随后使用Muse的语音听写功能时，漏洞便可以被触发 。
Wardle测试发现 ，攻击者获取相关认证token后 ，可以继续获得Muse关联的虚拟机凭证，并访问与账户相关的聊天记录 、调用智能体执行任务。“Muse能做的事情 ，攻击者基本也能通过Muse去做 。 ”Wardle向每经记者表示 。
Wardle表示 ，Muse拥有的访问权限和能力“远远超过普通恶意软件梦想拥有的范围 ”。因此，攻击者不一定需要自己突破macOS的一道道权限限制 ，而可以“胁迫”Muse替自己完成原本无法直接进行的操作 。
这一风险甚至可能跨越设备 。Wardle告诉每经记者 ，他在测试中获取Muse的账户认证token后，可以远程调用同一账户下其他Muse设备 ，包括iPhone。他展示的能力包括查找设备 、读取和控制智能家居设备、查看门锁和传感器状态 ，以及访问日历 、联系人 、提醒事项和位置信息等 。
Wardle强调，所有测试均在他自己的设备上进行 ，另外也有朋友在各自设备和账户上进行了验证 。
对于“AI智能体获得的权限越多 ，一旦被攻破后的风险是否越大 ”这一问题，Wardle的回答非常直接：“是的 ，百分之百。这才是更大的问题。”
对此 ，Meta在回复每经记者时表示，公司已经向Muse Mac应用发布热修复 ，并称这一漏洞已经被修复 。
Meta进一步解释称 ，Muse的语音听写功能使用服务器端语音模型，而Mac客户端原本保留了一个内部开发设置 ，可以将相关请求地址重定向至其他URL 。由于这一设置位于本地偏好文件中 ，同一用户账户下运行的程序可以修改它。攻击者因此可能代理Muse的语音请求，并截获Muse用于驱动智能体的access token 。热修复补丁已经彻底移除了正式版本中的这一设置 ，从而关闭了这一漏洞 。
不过 ，Meta与Wardle对于漏洞的实际风险存在明显分歧。
Meta将其定义为一次本地权限提升攻击，并强调它“不是远程漏洞 ” 。按照Meta的说法，要利用这一漏洞 ，恶意代码首先必须已经在用户Mac的账户下运行 ，因此使用Mac的Muse用户面临的实际风险“相当低 ” 。这一问题并没有涉及Muse服务器，也没有攻破用于隔离智能体任务的虚拟电脑。
Meta还表示 ，公司认真对待所有潜在安全问题 ，即使这些问题是以公开漏洞利用代码的形式出现 。同时，Meta也提到 ，其漏洞赏金计划针对这一类别的问题比较高 奖励可达30万美元 。
不过Wardle表示：“上次我间接接触Meta的漏洞赏金计划时 ，他们曾威胁要举报一位向他们报告漏洞的同事，并要求FBI介入。”
Wardle同时认为 ，“不是远程漏洞 ”的说法并不能完全反映现实中的攻击方式 。
他向记者表示 ，攻击者可以通过所谓“ClickFix ”方式，从远程诱导用户执行那一条命令 。例如 ，用户可能在网页上看到虚假的故障或安全提示 ，被要求复制一条命令到终端中运行。
尽管Meta称漏洞已经得到修复，但Wardle认为，Muse暴露出的风险并没有随着补丁一起消失。他表示 ，近来 还存在可能更严重的AI智能体漏洞 ，由于这些漏洞已报告给供应商，所以近来 还不能透露细节 。
“AI打电话 ”？其实是外包给人工！
Meta已紧急撤回该功能
而在“零日漏洞”之外，Muse另一项核心卖点——替用户打电话办事——也曝出了新的隐私争议 。
当地时间9月22日 ，有媒体援引Meta内部帖子报道称 ，Meta近期一直在Muse中测试一项名为“human concierge（真人礼宾）”的功能：用户以为自己把任务交给了AI，但部分电话实际上会被转交给真人承包商 ，由他们替Muse拨打和完成。
Muse的电话功能可以替用户联系美国商家 ，例如预约理发、询问商品库存，或者向不同服务商询价 。完成通话后 ，Muse还会向用户提供通话摘要和文字记录 。Meta从8月开始让员工测试这一功能 ，并在Muse正式上线后逐步向用户开放。
但AI自己打电话的成功率并不总是理想 。
Meta内部帖子显示，一名员工曾让Muse联系自己的保险公司，但对方一听出是AI便不断挂断电话 。为了解决类似问题 ，Meta上周向约一半员工开放了“真人礼宾 ”测试 ，让Muse可以把任务转交给接受过培训的真人，由后者完成通话。
从效果来看 ，真人明显更“好用 ” 。Meta超级智能实验室一名副总裁在内部帖子中表示 ，一些测试显示，由真人拨打电话后 ，任务成功率可以达到95%~98% ，明显高于纯AI完成电话任务的成功率 。
但一些Meta员工在内部提出了关于隐私的担忧。他们警告，如果Muse把任务交给呼叫中心的承包商 ，原本用户以为只是在与AI分享的信息 ，就可能意外暴露给真人 。
一名员工在内部帖子中直言：“我很难理解为什么我们认为这个功能值得冒这样的风险 。”他警告，只要出现一个漏洞 ，就可能导致不必要的信息泄露给真人接线员。
争议很快从假设变成了现实。另一名员工曾让Muse联系网络和有线电视服务商 ，试图协商降低账单 。但他随后发现通话记录显示，负责该任务的真人承包商在通话中使用了涉及种族的冒犯性表述 。
随后，Meta超级智能实验室一名副总裁在内部承认 ，在没有充分披露的情况下开始测试由承包商拨打电话 ，“是一次失误 ”，并表示公司已经暂时撤回这一功能。涉事真人承包商也不会再参与Meta的任何项目 。
Meta发言人Daniel Roberts称 ，员工对于这项测试的反馈“绝大多数是积极的 ” ，测试的目的正是为了在功能正式推出前收集反馈，并完善安全和隐私保护措施 。他表示 ，Meta正在与商家合作继续改进这一潜在功能 ，只有在功能准备好 、并具备适当的信息披露机制之后，才会正式推出。
