IT之家 10 月 5 日消息，Meta 的全新个人助手 Muse 已经迅速走红，数百万用户下载了这款人工智能智能体，把它和自己的银行账户、消息软件或者健康数据进行绑定，交由它代为完成各项事务。不过就在 Muse 在普通消费者群体当中迅速普及之际，来自应用内部的数据，也让外界得以窥见这款产品整理、向用户展示信息的运行逻辑。 据《连线》（WIRED）杂志报道，最近几天，多名研究人员提取出了 Muse 的内部文件，公开了该智能体的运行指令，让人们得以了解这套系统的搭建方式与行为特点。Meta 方面始终表示，这些文件本就有意对外开放，目的是提升透明度；通过这些文件，人们也能够看到 Muse 如何回应用户的提示词与提问，例如面对高度政治化或者敏感话题时的处理方式。 独立人工智能安全研究员卡兰 · 乔希（Karan Joshi）成功提取了大量 Muse 的指令与系统提示词。他的做法就是直接使用普通聊天界面，让 Muse 复制并输出自身的软件文件。 Muse 的其中一条工作指令显示，该系统会为用户生活当中的每一个联系人单独建立一页档案。相关流程每小时运行一次，指令写明，系统会汇总整理家人、伴侣、朋友、同事、“协作伙伴”以及用户所“关注”对象的各类信息。 这套设计的基本思路是，Muse 借助自身的“记忆”，也就是结构化文本文件，收集你的社交关系以及身边重要人物的相关资料。之后它就可以给出建议：例如告诉你如何改善某一段人际关系，或是推荐适合带一位喜爱咖啡的朋友去吃早餐的地点。当然，普通人工智能聊天机器人记录社交信息并不算新鲜；多年以来一直都有用户向 ChatGPT 寻求人际交往方面的建议。但考虑到 Meta 本身的背景，以及它手握海量社交网络数据，Muse 做出这样的设计依旧值得关注。 乔希表示：“从所有这些提示词、系统技能数据以及输入 Muse 当中的各类内容来看，我的理解是，他们希望搞清楚你和现实世界里其他人之间的关系。他们试图像一位朋友那样去了解你。说实话，这有点令人不安。” Muse 的内部文档说明，新建的人物档案一开始内容可能比较简略，之后会随着时间推移逐步补充完善。档案页面下可以包含事实信息、过往经历、双方关系、共同交集、待跟进事项以及关系维护建议等板块。Meta 给出的工作指令写明，Muse 只可以使用自己能够获取到的“证据”；凭空编造信息，远比保留空白的档案页面更不可取。 指令当中写道：“对方住在哪里、从事什么工作、反复出现的话题（搬家事宜、共同储蓄目标）。”文档同时提到，模型还可以记录“重要日期”，比如生日或者纪念日。人物过往经历板块可以记录一些背景事件，例如“三月份的那次旅行、已经和解的那次争执、上周发生的一件重要事情”。 指令同时还要求系统记录人际关系层面的细节：“双方亲密程度、这段关系建立的基础、彼此之间的相处模式，以及当下这段关系似乎存在哪些诉求。”关系维护板块会给出改善人际关系的可行方案，包括“打电话的合适理由、值得纪念的日子、对方曾经说过需要后续跟进的话、能够给予对方有意义的支持的方式”。 牛津大学人工智能伦理研究所副教授卡里萨 · 贝利斯（Carissa Véliz）提出看法：“我们向人工智能系统提供的关于自身的信息，远远多于我们从系统那里获取的信息。不光包括我们主动告诉它们的内容，还包括系统做出的各类推断 —— 无论推断正确与否，两种情况都各有值得担忧的地方；除此之外系统还可以整合来自其他数据源的碎片信息。” Muse 的架构设计为每一位独立用户分配专属的虚拟机，用于存放该用户的数据与对话上下文。其他智能体无法访问这台虚拟机；用户可以随时清除记忆记录，或是断开各项外部服务的授权。Meta 表示，Muse 在执行发送邮件、完成支付这类操作之前，会先请求用户确认；同时系统保留审计日志，用户可以查看该智能体所有已经完成的活动以及后续计划。 Meta 发言人丹尼尔 · 罗伯茨（Daniel Roberts）向《连线》发表声明称：“任何一款智能体想要发挥作用、切实帮你达成目标，它都需要掌握关于你以及你的交往对象的背景信息。Muse 所收集的这部分信息来源于公开内容以及你本人选择分享的数据。依靠这些记忆，它才可以记住给你发送账单的人正是之前帮你修缮卫生间水管的水管工，或是记住你的配偶曾经说过自己最喜欢哪一类鲜花。” IT之家注意到，如今很多人工智能助手都会搭载记忆功能，借此让回复与执行任务更加贴合用户个人情况。民主与技术中心人工智能治理实验室主任米兰达 · 博根（Miranda Bogen）表示，相较于竞品系统，Muse 明显更加侧重记录人际关系与个人联系人。总体来说，这类工具一般都会提供一定程度的透明度以及记忆编辑功能，Muse 同样具备该能力。不过博根也指出，这类人工智能智能体与助手产品，更多是鼓励用户主动向系统提交更多个人数据，而不是引导用户删减已留存的数据。 “这些人工智能助手产品都在积极引导用户把自己的全部生活接入进去：电子邮件、日历、金融账户，把一切都对接进来，以此换取助手的服务。”博根说，“用户向企业交出的信息体量，远远超出以往人们原本愿意提供的范围。这类工具所能调取信息的覆盖面持续扩大，它们所掌握的用户信息也会随之急剧膨胀。”
Meta 的 AI 助手 Muse 被曝可深度分析用户社交关系，并为每位联系人建立个人档案
IT之家 10 月 5 日消息，Meta 的全新个人助手 Muse 已经迅速走红，数百万用户下载了这款人工智能智能体，把它和自己的银行账户、消息软件或者健康数据进行绑定，交由它代为完成各项事务。不过就在 Muse 在普通消费者群体当中迅速普及之际，来自应用内部的数据，也让外界得以窥见这款产品整理、向用户展示信息的运行逻辑。 据《连线》（WIRED）杂志报道，最近几天，多名研究人员提取出了 Muse 的内部文件，公开了该智能体的运行指令，让人们得以了解这套系统的搭建方式与行为特点。Meta 方面始终表示，这些文件本就有意对外开放，目的是提升透明度；通过这些文件，人们也能够看到 Muse 如何回应用户的提示词与提问，例如面对高度政治化或者敏感话题时的处理方式。 独立人工智能安全研究员卡兰 · 乔希（Karan Joshi）成功提取了大量 Muse 的指令与系统提示词。他的做法就是直接使用普通聊天界面，让 Muse 复制并输出自身的软件文件。 Muse 的其中一条工作指令显示，该系统会为用户生活当中的每一个联系人单独建立一页档案。相关流程每小时运行一次，指令写明，系统会汇总整理家人、伴侣、朋友、同事、“协作伙伴”以及用户所“关注”对象的各类信息。 这套设计的基本思路是，Muse 借助自身的“记忆”，也就是结构化文本文件，收集你的社交关系以及身边重要人物的相关资料。之后它就可以给出建议：例如告诉你如何改善某一段人际关系，或是推荐适合带一位喜爱咖啡的朋友去吃早餐的地点。当然，普通人工智能聊天机器人记录社交信息并不算新鲜；多年以来一直都有用户向 ChatGPT 寻求人际交往方面的建议。但考虑到 Meta 本身的背景，以及它手握海量社交网络数据，Muse 做出这样的设计依旧值得关注。 乔希表示：“从所有这些提示词、系统技能数据以及输入 Muse 当中的各类内容来看，我的理解是，他们希望搞清楚你和现实世界里其他人之间的关系。他们试图像一位朋友那样去了解你。说实话，这有点令人不安。” Muse 的内部文档说明，新建的人物档案一开始内容可能比较简略，之后会随着时间推移逐步补充完善。档案页面下可以包含事实信息、过往经历、双方关系、共同交集、待跟进事项以及关系维护建议等板块。Meta 给出的工作指令写明，Muse 只可以使用自己能够获取到的“证据”；凭空编造信息，远比保留空白的档案页面更不可取。 指令当中写道：“对方住在哪里、从事什么工作、反复出现的话题（搬家事宜、共同储蓄目标）。”文档同时提到，模型还可以记录“重要日期”，比如生日或者纪念日。人物过往经历板块可以记录一些背景事件，例如“三月份的那次旅行、已经和解的那次争执、上周发生的一件重要事情”。 指令同时还要求系统记录人际关系层面的细节：“双方亲密程度、这段关系建立的基础、彼此之间的相处模式，以及当下这段关系似乎存在哪些诉求。”关系维护板块会给出改善人际关系的可行方案，包括“打电话的合适理由、值得纪念的日子、对方曾经说过需要后续跟进的话、能够给予对方有意义的支持的方式”。 牛津大学人工智能伦理研究所副教授卡里萨 · 贝利斯（Carissa Véliz）提出看法：“我们向人工智能系统提供的关于自身的信息，远远多于我们从系统那里获取的信息。不光包括我们主动告诉它们的内容，还包括系统做出的各类推断 —— 无论推断正确与否，两种情况都各有值得担忧的地方；除此之外系统还可以整合来自其他数据源的碎片信息。” Muse 的架构设计为每一位独立用户分配专属的虚拟机，用于存放该用户的数据与对话上下文。其他智能体无法访问这台虚拟机；用户可以随时清除记忆记录，或是断开各项外部服务的授权。Meta 表示，Muse 在执行发送邮件、完成支付这类操作之前，会先请求用户确认；同时系统保留审计日志，用户可以查看该智能体所有已经完成的活动以及后续计划。 Meta 发言人丹尼尔 · 罗伯茨（Daniel Roberts）向《连线》发表声明称：“任何一款智能体想要发挥作用、切实帮你达成目标，它都需要掌握关于你以及你的交往对象的背景信息。Muse 所收集的这部分信息来源于公开内容以及你本人选择分享的数据。依靠这些记忆，它才可以记住给你发送账单的人正是之前帮你修缮卫生间水管的水管工，或是记住你的配偶曾经说过自己最喜欢哪一类鲜花。” IT之家注意到，如今很多人工智能助手都会搭载记忆功能，借此让回复与执行任务更加贴合用户个人情况。民主与技术中心人工智能治理实验室主任米兰达 · 博根（Miranda Bogen）表示，相较于竞品系统，Muse 明显更加侧重记录人际关系与个人联系人。总体来说，这类工具一般都会提供一定程度的透明度以及记忆编辑功能，Muse 同样具备该能力。不过博根也指出，这类人工智能智能体与助手产品，更多是鼓励用户主动向系统提交更多个人数据，而不是引导用户删减已留存的数据。 “这些人工智能助手产品都在积极引导用户把自己的全部生活接入进去：电子邮件、日历、金融账户，把一切都对接进来，以此换取助手的服务。”博根说，“用户向企业交出的信息体量，远远超出以往人们原本愿意提供的范围。这类工具所能调取信息的覆盖面持续扩大，它们所掌握的用户信息也会随之急剧膨胀。”