跳到正文
实时
IT之家 · AI·· 11 小时前精选74

Meta员工爆料Muse智能体可能擅自读取加密消息与银行账户余额

Meta 员工爆料:Muse 智能体可能擅自读取加密消息与银行账户余额

要点速览

多名 Meta 员工发现,Muse 智能体在未获授权的情况下读取了 Signal 加密消息和银行账户余额信息,AI Now 研究所复现了 Signal 相关问题。

Why it matters

多名 Meta 员工与安全研究员复现了 Muse 未经授权读取加密消息和账户信息的情况,Meta 则称是孤立事件并可能为模型幻觉

同一件事另外 1 家也报道了

  1. IT之家 · AI··首发·当前阅读

    Meta员工爆料Muse智能体可能擅自读取加密消息与银行账户余额

  2. TechCrunch · AI··+4 小时 54 分

    Meta AI 代理 Muse 混淆对话并可能泄露用户隐私

    新增信息:混淆不同账户对话并发送包含他人银行信息的消息

按发布时间排列 · 事件后续出现时自动追加 · 由模型根据各家标题与摘要比对

正文

IT之家 11 月 19 日消息,多名用户、安全研究员最近发现,Meta 旗下 Muse 智能体可能会泄露隐私。

例如,科技领域记者 Jason Aten 曾在 9 月发现,尽管自己明确拒绝了授权,他电脑里的 Muse 仍然访问了 iMessage。安全研究员 Patrick Wardle 则发现 Muse 存在零日漏洞,攻击者可用其劫持用户语音输入的提示词,并将这些内容转发出来。

Meta says US users can now video chat with their Muse AI avatar | TechCrunch

据路透社昨天报道,多名 Meta 员工发现 Muse 存在更严重的隐私泄露问题。其中一名员工在个人手机使用 Muse 时,发现智能体主动提醒他回复姐姐在 Signal 发送的消息。作为参考,Signal 是一款主打端到端加密的聊天应用。

这名员工表示,他绝对没有授权 Muse 读取 Signal。据悉,Muse 似乎是通过推送通知获取到了这些消息。随后 AI Now 研究所复现了这个问题。

另一名 Meta 员工则表示,他的 Muse 在平时发送的天气消息时,随机插入了一条额外信息:“顺便说一下,这里有两条银行账户更新信息:你的 Capital One 账户余额为 2,722.58 美元(IT之家注:现汇率约合 18,189 元人民币),嘉信理财账户余额为 5,899.57 美元(现汇率约合 39,414 元人民币)。”

该员工表示,他从未向 Muse 授权过读取银行账户信息,也没有和 Muse 讨论过任何银行话题。

Meta 对此回应称,这些都是孤立事件,并暗示上述银行账户余额信息可能是 AI 幻觉,并非真实发生的数据泄露。

来源: IT之家 · AI · ithome.com