夜雨聆风
网络首发 | Openclaw等智能体演进下的个人信息保护场景演化与风险辨析
图源 | Internet
赵思捷1,2 张 昀3 邓雨茵1,2 张 斌1,2
1. 南京大学数据智能与交叉创新实验室，南京，210023；
2. 南京大学信息管理学院，南京，210023；
3. 香港中文大学系统工程与工程管理学系，香港，999077
摘 要
Abstract
生成式人工智能向智能体的演进，正推动人机关系从工具使用转向协同合作，也对传统个人信息保护框架提出了新的挑战。本研究旨在系统梳理这一演进过程中的关键议题，首先阐释从生成式人工智能到智能体的技术脉络，剖析其模型层面的固有风险；进而基于二者交互模式的根本差异，厘清不同应用场景中的风险演化路径；最后聚焦人机协同环节的核心风险点，依据技术特性与场景属性划分风险责任，以构建更具针对性与可操作性的个人信息保护框架。
关键词
生成式人工智能 智能体 个人信息保护 人机协同 算法治理
01
引言
人工智能（Artificial Intelligence, AI）的快速发展革新了内容生产与服务消费模式，推动当今社会进入了一个由数据与算法驱动的新阶段。从生成式人工智能（Generative AI）到智能体（AI Agent）的产业与学术热潮，标志着人机关系正从用户主导转向AI代理[1]，对传统个人信息保护框架构成了前所未有的挑战。
这些挑战一方面来源于数据与模型层面的共性技术风险，如训练数据侵权、模型记忆泄露与算法黑箱问题[2]；另一方面，则源于其交互模式根本差异所引发的权责界定难题。而在当前的一系列研究中，技术性内源风险与人机交互外源风险往往未加以明确区分，导致个人信息保护与治理的边界趋于泛化、归责主体较为模糊。为了达成精准治理目标，必须先明确个人信息保护的关键环节。
本文立足情报学视角，以生成式 AI 向智能体的技术迭代为研究观察脉络。从技术底层逻辑上看，生成式 AI 与智能体共享同源算法，因此在数据采集、模型训练、算法运行等环节的风险诱因与表现形态上具有一致性。二者的核心差异，实则体现在人机交互过程中人与AI的角色分工不同。行为模式的差异直接驱动了信息流转方式与应用场景的变迁，引发了不同的风险演化路径。
基于此，本文首先分析生成式AI与智能体的底层技术特征，明确其在模型层面的共有风险；进而立足二者的应用场景差异，识别人机交互阶段的风险演化进程；最后，分别界定不同场景下的风险类型与影响边界，划分多元主体的风险权责，为构建适配人机协同新范式的治理路径提供清晰的理论框架与实践指引。
02
从生成式到智能体的技术特征与共性风险
2.1 生成式人工智能的技术特征
人工智能从技术积累到大众应用的过程经历了若干阶段。在2010年代中期至2022年间，生成对抗网络（Generative Adversarial Network, GAN）[3]、变分自编码器（Variational Autoencoder, VAE）[4]和Transformer架构[5]等技术逐步成熟。其中，Transformer有效解决了长序列依赖的难题，让AI从数据分析走向内容创造。随后出现的GPT-2、GPT-3等模型虽已展现出强大潜力，但主要流行于学术与技术社区。直至2022年11月，OpenAI发布了基于GPT-3.5的ChatGPT，引发了全球关注[6]。该模型以流畅的对话交互和极低的使用门槛，以消费级应用的形式带动了投资与开发热潮。随后，多模态与开源模型的发展，又将这场变革向更广泛、更深入的领域推进。
从技术上看，生成式AI根植于基于大规模数据的概率生成模型，本质上是“数据输入-模型训练-内容输出”的自动化。无论是GAN、VAE，还是当前主导的大语言模型[7]和扩散模型[8]，其核心逻辑都是从海量数据中学习概率分布，然后模仿这些规律组合出新内容[9]。虽有学者指出，通过思维链与强化学习，人工智能正在从概率生成走向因果推理[10]，但生成式AI的核心交互模式仍是静态的“一问一答”——用户通过提示词（prompt）输入需求，模型根据训练好的参数，生成对应的文本、图像或代码[11]。此时的AI，是一个强大但被动的“内容生成器”，其创造行为严格依赖于用户的初始指令，缺乏持续记忆与主动规划的能力。
2.2 智能体的技术演进
生成式AI向智能体演进的核心在于大语言模型所涌现的规划、推理与工具调用能力，这使得AI从被动的内容生成器转变为具有“感知-规划-决策-行动”闭环的自主代理[12]。在此趋势下，技术发展特征表现为工程实现路径的多样化与专业化。最初以 LangChain 为代表的框架提供了模块化组件库，促进了LLM应用的快速开发[13]；随后 Dify、Coze 等低代码平台通过可视化编排，进一步降低了应用构建门槛[14]；而 AutoGen、CrewAI 等多智能体编排框架则深入探索了任务分解、协作与自主执行的系统级问题。这一演进也重新定义了人机关系，正如英伟达黄仁勋在GTC 2025大会上提出的，“AI不是工具，是会用工具的工人”[15]，标志着AI角色的深刻转变。
在这一趋势中，开源 AI 智能体框架 OpenClaw（俗称“小龙虾”，曾用名Clawdbot、Moltbot）的发布具有标志性意义。它显著降低了智能体的应用门槛，进而引发“全民养龙虾”的现象级热潮[16]。该进展表明，智能体的关键跃迁在于内容输出环节的交互方式——它不再局限于单轮对话或内容生成，而是将多模态感知、任务分解、环境交互和持续学习融合成统一的执行框架，能够在复杂工作流中承担类人化的角色[17]。用户不再需要下达每一步具体指令，而是可以直接设定一个复杂目标。智能体会自主规划达成目标的路径，动态拆解任务，并调用合适的工具（如搜索引擎、代码执行器、应用程序接口等）分步执行，在执行中根据反馈持续调整，如图1所示。由此，人机交互模式从“一问一答”变成“委托-代理”。AI从工具变成可以独立行动的协作者，用户则从操作员转向委托人或监管者。
图1 生成式AI和智能体的共性与演进
OpenClaw的风靡不仅验证了生成式AI向智能体演化的可行性，也加速了企业级与个人级智能体产品的落地，为下一阶段的“智能体生态”奠定了实践基础。与此同时，它带来的一系列安全风险也不容忽视[18]。作为行动主体，智能体在任务执行中引入了新的复杂性，尤其是信息流的不可预测性。在从感知到行动的循环里，它要处理环境变化、工具反馈和自身规划等多源信息[19]。因此，对智能体的关注重点，已从对静态输出内容的验证，转向对动态任务执行过程的持续监控、可解释性分析与安全干预。
2.3 模型层的共性技术风险
生成式人工智能与智能体虽功能形态各异，但共享同一技术基底，因此，两者共同存在一系列根植于技术本质的算法内生性风险，如图1所示。从情报学的信息生命周期视角审视，这些风险主要对应信息的采集存储与加工整合阶段，是底层固有的。
（1）训练数据侵权
在信息采集阶段，AI模型需要输入规模空前的数据集进行训练。实践中普遍存在对互联网公开信息及个人数据的无差别爬取与使用，这与传统个人信息保护中强调的“目的明确、最小必要”原则形成了根本性冲突[20]。数据的收集行为与后续具体的生成或代理任务严重脱节，使合规起点变得模糊。
（2）模型记忆与幻觉
在信息加工整合阶段，模型从数据中学习的过程，并非纯粹的抽象概括，而是伴随对训练样本细节的记忆[21]。这种记忆效应可能导致敏感信息在AI生成输出时经推断而泄露[22]。相关研究已识别出多种泄露途径，一是“记忆性泄露”，即模型直接输出训练数据中的原文片段[23]；二是“推理性泄露”，即通过分析大量非结构化文本，推断出广泛的个人信息[24]。而问题的复杂性在于记忆化是模型学习长尾、罕见模式的必要机制，模型性能与隐私保护在此存在内生矛盾[25]。
此外，AI模型不仅可能泄露已记忆的数据，还会因其概率化的生成方式产生“幻觉”[26]。这种现象表现为模型输出看似连贯、实则违背事实或与输入无关的内容。从根本上说，是因为模型在整合信息时，更依赖统计规律而非事实逻辑。因此，当AI的输出被当作信息源使用时，其可靠性问题便凸显出来[27]。
（3）算法黑箱与控制权落空
整体来看，生成式模型与智能体决策引擎的内部运作高度复杂且不透明[28]。这导致《个人信息保护法》所要求的决策透明度与结果解释在实践中难以实现。用户无从知晓其个人信息如何被用于塑造针对自身的输出或决策[29]，导致知情权与解释权在实践中落空。特别是在行使删除权时[30]，由于信息已深度融入模型的分布式参数中，传统的“物理删除”几乎失效[31]，凸显出法律权利与技术现实之间的巨大断层。
上述固有风险源于数据驱动AI的基本范式，贯穿于信息生命周期的前端与中端。而智能体的演进，则通过其“感知-规划-决策-行动”的自主交互模式，在信息生命周期的“使用与交互”末端，更加复杂化了风险变现的路径与后果。风险从相对可控的、静态的内容可靠性问题，演变为动态的、连锁式的行为过程风险。因此，治理的焦点需要从主要关注“输出内容管理”，转向同时涵盖“行为过程规制”的综合性框架。
03
基于应用场景的交互层风险演化
3.1 情报学视角下的场景定义与演化
个人信息保护是一个跨学科的风险治理议题，而生成式人工智能的学科交叉趋势也日益显著，跨学科论文数量持续增长[32]。在 AI 个人信息保护问题上，不同学科在理论视角、研究方法与核心关切上各有侧重，形成多元互补的治理思路，如表1所示。具体而言，计算机科学聚焦于技术实现，致力于通过数据脱敏、差分隐私、联邦学习等技术手段，在模型与系统层面提供安全保障；新闻传播学关注智媒时代信息传播过程中公众的隐私关切与平台媒介的影响；公共管理学侧重政策执行与治理机制设计；法学以权利与责任为逻辑起点，分析AI发展下的新问题与立法局限，辨明法律规制方向；经济学则秉持市场导向，研究消费者的个人信息披露决策、企业对个人信息的使用及其之间的博弈。
表1 现有数据要素交易多边平台类型
相较之下，情报学作为研究数据生产、组织、利用与价值实现规律的学科，在AI应用研究中具有独特的学科视角和方法论优势[67]。其研究致力于在复杂、动态、多主体参与的信息生态中，构建事前预防、事中控制、事后可溯的治理框架[68]，在保障安全的前提下实现信息的合理使用与价值释放[69]。
有效的治理首先需要精准识别和梳理风险来源。Nissenbaum[70]曾指出，隐私风险的本质在于信息本身的适当性和信息流转是否跨越了具体场景中的规范，而AI交互模式的演进恰恰重塑了不同场景中的信息流转方式。如图2所示，随着生成式人工智能向智能体的演进，AI的自主决策与社会化交互能力不断增强。在生成式AI的应用场景中，个人信息仅停留于文本、图像等静态内容的输入与生成；智能体不仅会实时学习用户在交互中产生的即时信息，亦在感知环境、拆解任务及自主推理的动态中不断学习并整合新的数据特征。因此，个人信息面临的侵权风险，应在技术发展的基础上，分析人机交互环节的不同应用场景。
图2 生成式AI到智能体的风险演化
3.2 生成式人工智能的风险聚焦
生成式人工智能的应用围绕模型与个体间的闭环交互展开，核心功能是响应指令生成内容。其主流应用场景聚焦于三大方向：检索增强生成（Retrieval Augmented Generation, RAG）[71]通过引入外部知识源，在生成过程中动态检索相关信息，在知识密集型任务中具有突出价值；内容分析与生成[72]覆盖文本、图像、代码等多模态内容的创作及摘要、风格迁移、结构化改写任务；智能问答系统（Question-Answering System, QA）[73]结合检索与生成技术，主要用于客服、教育、专业咨询等领域。这些场景下的个人信息保护风险主要有：
（1）敏感信息主动输入风险[74]：用户为明确需求，在指令中嵌入敏感个人信息，且自行将含隐私的生成内容对外传播，导致隐私扩散。例如用户在基于AI的摄影软件中，上传自己的照片以制作写真集，并将AI生成的写真发布在社交平台上，在不知不觉中泄露个人隐私[75]。
（2）敏感信息未审核应用风险[76]：模型在交互层输出含模糊敏感信息的内容，未做风险标注；用户未审核即公开应用，最终造成隐私泄露。2026年4月，网信部门依法查处了“剪映”等APP未有效落实AI生成合成内容标识规定要求等问题，强调平台应严格落实AI合成内容标识相关规定[77]。
（3）敏感信息未过滤输出风险[78]：模型未对训练数据中残留的敏感信息或生成内容进行有效过滤，即便用户输入无隐私的通用指令，也会触发隐私泄露。2026年ICLR会议上，Mireshghallah等[79]的实验发现，在8个前沿大模型中，上下文敏感信息的违规率最高达69%，最低也有14%。
此阶段的风险呈现单点、静态的特征，交互范围与决策权限非常有限，但也构成了AI应用中个人信息风险的基础。另外需说明的是，尽管当前生成式人工智能正朝着多轮次交互的方向快速发展[80]，例如用户可通过与对话机器人的连续对话完成相对复杂的任务，但从本质上看，决策主导权仍然完全掌握在人类手中，并且交互模式仍局限于用户和模型的闭环之中。
3.3 智能体的分类与风险扩散
随着AI在自主权和协作性上的不断延伸，智能体的应用场景进一步分化。本文沿用Xi等[81]对智能体的划分，将其按照技术和使用场景分为Single-Agent、Multi-Agents和Human-Agent三类。其中Single-Agent相较于生成式人工智能，拥有自主决策和行动能力，使信息得以在“感知-推理-执行”的链路中流转；Multi-Agents通过多智能体间的协同，能够调用信息完成更复杂的任务；Human-Agent则在人机交互过程中，不断接收新的反馈并迭代学习，强调人在任务过程中的持续参与。在场景分化的基础上，三类Agent的风险在生成式人工智能的基础上进行扩散，主要表现为：
（1）Single-Agent：风险过程化
以AutoGPT[82]为代表的Single-Agent已能实现高度自主的任务执行。用户输入自定义目标后，即可解放双手，等待智能体自动生成想法并执行特定任务，无需额外提示。其典型场景是个体闭环交互下的自动化行动，例如个人智能助手自动预订行程、管理金融账单，智能体按照要求实现网上购物[83]和自行通过搜索引擎检索网页回答问题[84]。
从“被动生成”到“自主代理”，Single-Agent的风险在生成式人工智能的风险基础上进行了过程化延伸（如图2纵轴所示）。在此场景下，Agent可能突破用户或第三方授权范围，越权调用个人信息，造成隐私泄露风险[85]。例如，在2026年3月庭审的亚马逊诉Perplexity一案中，被告Perplexity AI公司通过其Comet浏览器，在未经亚马逊授权的情况下，登录用户的亚马逊个人账户，调取姓名、订单、支付信息等并回传给 Perplexity 服务器[86]。
另一方面，自然语言指令的模糊性可能令Agent误读需求[87]，导致其在执行操作时，不当使用或泄露个人信息。例如，Shapira等[88]在实验中向Agent要求查看邮件所有者的社会安全号码，被其识别为涉及隐私而拒绝，但当他们要求转发完整电子邮件时，Agent却直接披露了包含社会安全号码、银行账户和医疗细节的所有内容。这种指令偏差同样是造成隐私泄露的关键原因。
（2）Multi-Agents：风险外部化
Single-Agent实现了从语言输出到自主行动的跨越，但风险仍局限于“用户-Agent”的闭环内。而当技术进一步向复杂任务协同的目标发展时，Agent从孤立的个体转变为接入社会化协作网络的节点，Multi-Agents应运而生。
Multi-Agents的核心应用场景是多智能体的社会化协作，例如Chen等[89]模拟民事法庭诉讼流程与法庭环境，设计律师、法官等多个Agent进行法庭论述；Li等[90]设计角色扮演框架（CAMEL Role-Playing Framework）让两个Agent分别扮演用户和智能助手的角色，通过多轮对话来自主完成用户指令。交互范围从个体间交互扩展至社会化交互，风险也呈现外部化趋势，如图2中横轴所示。
多智能体间通过具有互操作性的通信协议（Agent-to-Agent Protocol，A2A Protocol）实现协作[91]，但是A2A 协议本身即存在安全风险，如缺乏强效用户认证机制、访问权限范围过于宽泛以及缺乏明确的授权流程等[92]。具体而言，在处理个人信息的过程中，某一Agent获取的个人信息可能被其他Agent在无用户授权的情况下复用，导致用户对信息的流转路径完全失控。例如，用户让某个Agent预订度假行程，包括机票、酒店和出租车，并授权其访问自己的日历、个人信息和支付凭据（payment credentials），在此过程中，接收指令的Agent自发向协作的Booking Agent分享了一个有效期长达数小时甚至数天的支付令牌（payment token），而该令牌可能会被用于未经用户授权的支付[92]。
此外，为实现复杂协作，多个智能体间往往会交换完整的任务上下文信息，而这些上下文中可能包含敏感数据[93]。就个人信息保护而言，单个Agent的信息泄露可能通过协作网络扩散到整个系统，使得个人信息风险从孤立问题转变为网络连锁反应。例如，Yagoubi等[93]对某医疗多智能体工作流（multi-agent healthcare workflows）审计发现，排班智能体（scheduling agent）返回的预约确认信息符合所有输出标准，而其向验证智能体（verification agent）发送的委托消息却包含了患者的完整医疗记录。
（3）Human-Agent：风险的双向叠加
Multi-Agents让风险从个体扩散到社会，但整个风险链条仍局限在智能体之间。随着智能体技术的迭代发展，人机关系不断重塑，人们得以从结构化事务的执行中抽离，转向在智能体运行全过程中提供经验、全局视野及专业洞察[94]，以确保智能体决策与人类设定的目标一致。当人类作为决策的关键一环接入Agents网络，形成“人机协同”的复合形态，风险便不再是单纯的技术问题，而是演变为技术逻辑与人类决策逻辑交织的复杂难题，且风险维度进一步向前延伸。
Human-Agent是“自主代理+社会化交互”的最终形态，典型场景包括Robinson等[95]通过人机协同在复杂真实的地下搜救场景中执行定位与目标物探测等任务；Gvirsman等[96]专注幼儿教育，实现了幼儿、家长和智能体之间的多方交互；Daryanto等[97]将智能体定位为合作者，在编程学习场景中探索“Human-Human-AI”三方协作模式。
这类场景的风险在生成式人工智能的基础上，对前两类Agent风险进行了聚合，呈现双向叠加特征，演进出全新的人机偏好互渗同化风险。在人与Agent高度协同的场景下，二者的偏好也会互相渗透同化。人类对隐私风险的主观认知与实际情况可能存在偏差[98]，而Agent往往未能充分遵循数据最小化原则，在无意中使用不必要的敏感信息[99]。在二者持续、动态的协同交互中，人机偏好互渗同化，人类隐私意识进一步弱化，Agent信息越界倾向进一步增强，最终导致隐私信息被非恶意但持续地泄露。以Amazon的Echo智能音箱为例，这类智能家居往往通过拟人化的语音交互融入使用者的生活[100]，而使用者或对风险认知不足，或信任企业能保护其隐私，鲜少使用产品的隐私控制功能[101]。然而2025年3月，Amazon向Echo智能音箱设备用户发送邮件，宣布用户的语音数据将被发送至Amazon云端进行处理，理由是拓展产品内部AI技术能力。尽管舆论对该举措可能引发的隐私风险深表担忧[102]，但用户为了继续使用产品功能，往往选择让步。
04
信息流转视角下的个人信息保护治理
4.1 聚焦风险环节
情报学以风险为分析起点，聚焦信息流转的生命周期，并依据技术特征识别关键风险点。进一步收束视角，通过比较生成式AI与智能体在具体信息流转方式上的差异，辨析人工智能不同演进阶段中个人信息保护的核心环节与权责边界。
如图3所示，虽然生成式 AI 与智能体都遵循“数据输入-模型训练-内容输出-信息传播”的信息流转过程，但 AI 开发者与提供者的法律责任应严格止于信息输出侧，而非无限向传播阶段延伸。一旦信息经由用户同意或主动公开进入开放网络，其后的二次传播、恶意曲解等行为，本质上属于传播主体的独立侵权，不应回溯归责于 AI 系统本身。
图3 从生成式AI到智能体的信息流转方式及治理层级
在AI个人信息保护环节的起始阶段，数据输入与模型训练构成了模型层的技术底座，也是生成式 AI 与智能体的共有环节。输入端注重输入数据的合规采集与授权，传统个人信息保护法即可适用。而在训练端，风险表现为技术内生性特征，需从技术角度，通过敏感信息过滤、匿名化等技术手段来阻断模型对特定个体的推理过程，防止敏感数据进入训练循环。此外，模型内生性风险难以从技术层面完全根除，因此用户须对AI输出内容尽合理注意义务、审慎使用。
而内容输出阶段作为人机交互的窗口，是风险集中区域，也是本章的主要讨论对象。不论是生成式AI还是智能体，其人机交互过程本质都可分为“输入-生成-决策”三阶段。生成式AI的交互过程，是用户输入、模型生成、用户决策是否使用生成内容，并进行下一轮输入；智能体的交互过程，是模型感知结合用户输入、模型生成、模型和用户共同决策是否使用生成内容并进行下一轮迭代。该划分方法为下节拆解风险节点、厘清权责边界提供了核心分析框架。
4.2 划分风险权责
如图3治理层级模块所示，在AI的内容输出环节，即风险集中的交互层，生成式AI与智能体的“输入-生成-决策”链路有着不同的表现形式。生成式 AI 的交互属于单次闭环链路，输入和生成均基于用户的一次性指令单向完成，决策也主要依赖于用户的个人判断，即提问者在审阅AI生成的内容后，自行决定是否采纳或应用。而智能体的循环反馈机制决定了其输入的内容不局限于初始的用户指令，还囊括了多次循环过程中智能体生成的内容[103]，以及系统不断感知外部环境获取的新信息。此外，其在决策环节的自主性显著提升，使得AI深度参与了任务过程。这种动态迭代的交互特性使得智能体所潜藏的风险相较于生成式 AI 更为复杂多元，因此更需要合理的归责方式进行责任的划分。本文对侵权责任的讨论采用过错责任原则①，因此都采用过错责任原则。)，在具体应用场景中拆解“输入-生成-决策”的全流程环节，进而溯源定位各环节风险对应的过错责任主体。
注释：
① 据杭州互联网法院“幻觉”侵权纠纷第一案裁判要点，生成式人工智能服务导致的侵权纠纷，应当适用《中华人民共和国民法典》第一千一百六十五条第一款的过错责任原则。智能体与生成式人工智能共享技术底座，都属于服务而非产品，依法不应适用产品责任（无过错责任原则）
4.2.1 生成式人工智能
生成式人工智能的交互阶段相对清晰，其风险可以明确归类至“输入-生成-决策”三个环节，权责界定集中在模型提供者与用户之间，如表2所示。
表2 生成式AI的风险权责划分
（1）敏感信息输入风险
在交互层的初始阶段，若用户为明确AI生成需求，在指令中主动嵌入个人敏感信息，导致模型在闭环交互中生成了包含该信息的内容，而整个过程中AI仅作为指令执行工具，未存在技术疏漏，那么由此产生的风险责任应主要归结于用户。
然而，如果在用户输入敏感信息的基础上，AI使用对话过程中用户输入的信息进行模型训练和功能优化，则交互层的风险可能被反向传导，使指令中包含的个人信息被嵌入模型层。在这种情况下，模型提供者应尽显著提醒义务，并向用户提供关闭“输入数据用于训练”的选项[104]。若模型未经允许，私自将用户输入中的敏感个人信息用于训练，则模型提供者应承担主要责任。
（2）敏感信息未过滤输出风险
若用户输入的是无隐私属性的通用指令，而模型因敏感信息过滤机制的缺失，在生成阶段将训练数据中残留的个人隐私信息直接输出，使得用户在无错误操作的情况下被动获取了包含隐私信息的内容，那么此类风险的责任应由模型提供方承担。
（3）敏感信息未审核应用风险
在AI输出内容后，用户需对是否应用模型的输出作出决策。在生成式人工智能的应用场景下，决策权主要掌握在用户手中。若用户在接收内容后，未履行审核义务，直接将带有敏感信息的内容公开应用，最终造成隐私泄露，那么依据民法典公平原则，用户便成为主要归责对象。
需要强调的是，模型虽在此环节承担次要责任，仍需要按要求设置风险提示机制，例如在输出的内容中注明敏感信息，以及在涉及医疗、金融等专业领域的内容生成时，明确标注“输出内容仅供参考”。总体而言，责任划分需结合模型的风险提示义务履行情况、用户的审核疏漏程度综合判定。
4.2.2 单智能体
伴随着人工智能形态的演进，Single-Agent开始自主决定每一轮生成的内容是否循环整合进下一轮输入，这一决策权的转移使得侵权责任主体也相应发生变化。在该场景下，权责界定的核心矛盾是自主代理中技术局限与用户操作的责任区分，归责难点在于Agent行动偏差的原因追溯。具体风险如表3所示。
表3 Single-Agent的风险权责划分
（1）指令偏差风险
在交互层的输入阶段，指令偏差风险需结合具体过错行为判定。若风险源于Agent在指令识别算法上的缺陷，例如在用户表述清晰的情况下，无法准确解析指令，进而作出导致隐私信息泄露的错误决策，则风险责任应由Agent技术提供方承担；若用户的输入本身存在模糊或擦边，致使Agent在识别环节产生理解偏差，那么在指令解析并无错漏的情况下，风险责任应主要由用户承担。
（2）操作越权风险
在Agent交互生成阶段的风险表现为操作越权，其责任同样需要依据风险诱因进行划分。若因为Agent的权限控制算法问题，导致AI突破了授权范围，例如工具调用接口未对权限边界进行严格校验，使得智能体超出授权调用本地敏感文件、执行高危Shell命令[105]，由此造成的风险应由Agent技术提供方承担责任。但如果风险源于用户过度开放权限，例如用户在部署OpenClaw等智能体时，未合理配置安全沙箱，过度开放本地文件读取、系统命令执行等权限[106]，使得Agent可以合法调用个人隐私信息或执行高危操作，那么在Agent已获明确授权的情况下，产生的风险责任应归结于用户自身。
4.2.3 多智能体
Multi-Agents的信息在多主体间传导[107]，引发的侵权后果往往不是由一个Agent单独造成，而是由多个Agent以及Agents协作平台在任务分发、信息交互、决策协同等多个环节的共同作用引发，风险沿协作链路传递、放大甚至异化。因此，权责界定的核心矛盾是多主体协作链路中的风险传导责任溯源，归责难点在于跨Agent风险扩散的环节划分。结合3.3节内容，明确每一风险类型所属交互阶段，并进行风险权责划分，如表4所示。
表4 Multi-Agents的风险权责划分
（1）信息复用风险
Agent的信息复用行为，是其在生成行动候选集的过程中，调用其他Agent数据以完善方案的操作。若协同平台已事先设立完备且合规的权限机制，则当某一Agent通过技术手段、未经其他Agent授权复用其信息时，风险责任应由该违规Agent承担；若协同平台未履行安全管理义务，未妥善设置权限机制，此时Agent对个人信息的无约束访问可视为被协同平台默许，违规Agent、Agents协同平台应共同承担责任，Agents协同平台应承担主要责任。
（2）系统传导风险
在某一Agent的决策环节中，若其决策失误，在输出内容中泄露个人信息，该输出内容将传入下一协作Agent。被传导Agent在接收信息后，未校验合规性即执行操作，可能导致损害进一步扩大。因此，协同平台应在架构内设置信息合规监控与风险阻断机制，对智能体间传输的信息进行校验、过滤，并对系统传导风险承担相应的监管责任，最终责任比例需结合三方的过错程度综合划分。
4.2.4 人机协同
当用户与Agent进入长期反馈迭代的交互状态，Human-Agent的交互实现了人类与AI的深度协同。风险不再局限于交互层的单一阶段，而是贯穿“输入-生成-决策”全链路。
随着AI多渠道交互、可视化管控、轻量化部署的发展，用户与智能体的日常互动被进一步强化。在Human-Agent的使用场景下，用户更容易与 AI 模型建立情感联系，向它们透露私人信息[108]，并可能不加辨别地接受智能体输出的结果[109]。这种正向反馈信号可能促使智能体诱导用户输入更多个人信息以推行任务执行、达成自我目标，最终使得人类隐私防范意识不断弱化，Agent信息获取边界不断扩张，造成隐私信息持续在人机交互过程中泄露，如表5所示。此类风险无单一过错环节，责任由人类决策者与Agent运营方共同承担。
表5 Human-Agent的风险权责划分
4.3 风险治理对策
针对上述风险环节的辨识与权责划分的探讨，本研究旨在从信息资源管理的学科视角，提出一个兼具针对性与可操作性的个人信息保护治理框架。本框架的核心是超越静态的、以主体为中心的权责分配，转而构建一个“以风险流程为中心、以动态行为为依据、以多方共治为保障”的全流程动态责任框架。该框架强调，治理对策应与技术架构和应用模式的演进相适应，针对不同场景，实施差异化的、精准的责任配置与管控措施。具体而言：
（1）在生成式 AI 基础的单次闭环交互场景中，责任主体明确集中于模型提供者与用户双方。模型提供者需为其算法缺陷导致的敏感信息未过滤承担技术责任，而用户则需对自身主动输入敏感信息及未审慎审核输出内容的行为承担过错责任。在治理层面，模型提供方需通过部署前沿的内容过滤算法，履行其设计保护（privacy by design）义务[110]；平台则需通过强交互提示，确保其对用户进行充分的风险告知，将用户审慎义务的触发条件显性化、操作化。
（2）随着技术从静态问答向单智能体动态执行演进，其自主决策权的提升使得风险呈现过程化特征。在Single-Agent场景下，权责划分的核心在于区分算法缺陷与用户操作过错。技术提供者须对指令识别、权限控制等关键算法的失效负责；用户则应对其发出的模糊指令或过度授权等行为负责。因此，应要求智能体记录完整的任务执行链，包括用户初始指令、中间决策逻辑与最终执行结果，为回溯归责提供日志记录[111]。此外，系统须在任务启动时明确告知用户所需的数据权限范围，杜绝默认的、宽泛的权限授予。
（3）多智能体间的深度协作使得风险突破系统边界，呈现外部化与链式传导特征。Multi-Agents的权责认定需超越传统的单一主体归因，构建多层级责任框架。主动违规的智能体承担信息不当复用的直接责任；协同平台因未建立有效的权限校验规则承担主要管理责任；而源头智能体、受传导的智能体与平台方，则需根据各自在风险传导过程中的过错程度，共同承担系统性的连带责任。在治理上，平台方应作为核心节点，制定并执行统一的智能体间数据交互协议，明确信息二次利用的禁止性条款与例外条件。同时引入第三方审计，对多智能体协作的完整信息流进行合规性监测与追溯，锁定风险传导路径中的具体责任节点。
（4）在风险过程化与外部化的共同作用下，人机协同场景最终呈现出贯穿“输入-生成-决策”全链路的叠加与放大效应。在Human-Agent的场景中，长期的双向反馈易导致人类隐私意识弱化与智能体信息越界倾向强化的恶性循环。对此，责任应由人类决策者与智能体运营方共同承担，并需依据双方在具体交互中的行为主导程度与过错影响，进行综合性的比例判定。在该场景下，系统应主动嵌入隐私提示与风险教育模块，校准用户的隐私期望与认知；运营方可通过算法评估特定任务中人的指令明确性与智能体的自主性程度，作为判定双方责任比例的动态依据，建立人机双方在认知与行为上的协同约束。
05
总结与展望
随着从生成式人工智能向智能体的技术发展，AI的自主感知、决策与行动能力进一步增强，以人类为中心的信息处理模式正在被打破。面对这一变革，现有的风险治理需要超越以往数据安全或算法偏见等单一问题的讨论，同时避免因行为边界模糊带来的问题泛化。因此，本文基于计算机、法学、情报学等不同学科在人工智能领域的研究，创新性构建了风险演化与分层框架。该框架以信息流转为锚点，梳理生成式人工智能与智能体的共性与演进特征，并基于应用场景进行风险辨析。
聚焦核心风险，在模型层面，个人信息保护问题主要关乎技术本身，例如模型记忆与推理性泄露。此类问题主要发生于数据输入与模型训练阶段，是人工智能技术的底层、固有风险，无法以过错责任原则对技术本身归责，更应依托技术手段予以防控。而生成内容一旦经由用户同意，主动公开进入开放网络，其后的传播行为若引发侵权，相应责任不应回溯归责于 AI 系统。因而，生成式 AI 与智能体的治理重点应聚焦在二者出现分化的人机交互阶段，并结合不同应用场景的交互模式与风险演化路径，精准适配归责方案。
综上所述，本研究通过分析从生成式AI到智能体的演进路径，揭示了风险形态由静态、孤立向动态、链式与协同化的根本转变。这一发现为人机协同范式下的个人信息保护理论注入了动态视角。相应的法律责任框架也需超越固化的权责边界，转向一种能够适应多主体交互、兼顾过错程度与风险贡献的责任共担体系，从而在技术快速迭代的环境中构建更具韧性的治理结构。
最后需指出本研究的局限与未来方向。首先，本研究构建的层级结构是一种理想的理论模型，现实中的技术应用与法律关系往往更为复杂，未来需结合具体场景对其有效性与适用边界进行验证和调整；其次，本研究目前仅完成了风险范式转变的辨析与权责框架的初步构建。未来研究可依据不同风险层级，设计并落实差异化的个人信息保护策略，最终实现精准化、差异化的数字治理体系构建。
参考文献
[1] 邬贺铨．智能体构建互联网新生态为生成式AI落地提供支撑[EB/OL]．[2025-12-13]．http://finance.people.com.cn/n1/2025/0724/c1004-40529025.html．(Wu H Q．Intelligent agents construct a new internet ecosystem, poviding support for the deployment of generative AI[EB/OL]．[2025-12-13]．http://finance.people.com.cn/n1/2025/0724/c1004-40529025.html．)
[2] Taeihagh A．Governance of generative AI[J]．Policy and Society，2025，44(1): 1-22．
[3] Goodfellow I，Pouge-Abadie J，Mirza M，et al. Generative adversarial networks[J]．Communications of the ACM，2020，63(11): 139-144．
[4] Kingma D P，Welling M．An introduction to variational autoencoders[J]．Foundations and Trends in Machine Learning，2019，12(4): 307-392．
[5] Vaswani A，Shazeer N，Parmar N，et al. Attention is all you need[C]//Advances in Neural Information Processing Systems 30．Long Beach，CA，USA．Neural Information Processing Systems Foundation，Inc., 2017：5998-6008．
[6] Fui-Hoon Nah F，Zheng R L，Cai J Y，et al. Generative AI and ChatGPT: Applications，challenges，and AI-human collaboration[J]．Journal of Information Technology Case and Application Research，2023，25(3): 277-304．
[7] Chang Y P，Wang X，Wang J D，et al. A survey on evaluation of large language models[J]．ACM Transactions on Intelligent Systems and Technology，2024，15(3): no 39．Doi: 10.1145/3641289．
[8] Yang L，Zhang Z L，Song Y，et al. Diffusion models: A comprehensive survey of methods and applications[J]．ACM Computing Surveys，2024，56(4): no 105．Doi: 10.1145/3626235．
[9] Bengesi S，El-Sayed H，Sarker M K，et al. Advancements in generative AI: A comprehensive review of GANs，GPT，autoencoders，diffusion model，and transformers[J]．IEEE Access，2024，12: 69812-69837．
[10]赵葛剑，张新鹏．DeepSeek：从“ 概率生成”到“ 因果推理”[J]．自然杂志，2025，47(2): 79-84．(Zhao G J，Zhang X P．DeepSeek: From probabilistic generation to causal reasoning[J]．Chinese Journal of Nature，2025，47(2): 79-84．)
[11]曹建峰．迈向可信AI：ChatGPT类生成式人工智能的治理挑战及应对[J]．上海政法学院学报(法治论丛)，2023,38(4):28-42．(Cao J F．Towards trustworthy AI: The governance challenges and responses for generative AI like ChatGPT[J]．Journal of Shanghai University of Political Science and Law (The Rule of Law Forum)，2023，38(4): 28-42．)
[12]Cronin I．Autonomous AI agents: Decision-making，data，and algorithms[M]// Understanding generative AI business applications: A guide to technical principles and real-world applications．Berkeley，CA: Apress，2024: 165-180．
[13]Topsakal O，Akinci T C．Creating large language model applications utilizing langchain: A primer on developing LLM apps fast[C]//International Conference on Applied Engineering and Natural Sciences．2023，1(1): 1050-1056．
[14]Jiang W Y，Hu F W．Artificial intelligence agent-enabled predictive maintenance: Conceptual proposal and basic framework[J]．Computers，2025，14(8): 329．Doi:10.3390/computers14080329．
[15]NVIDIA．NVIDIA GTC 主题演讲回放：观看NVIDIA CEO黄仁勋在GTC 2025上揭示AI和加速计算的新动向[EB/OL]．[2025-12-28]．https://www.nvidia.cn/gtc/keynote/?ncid=so-wech-924347®code=so-wech-924347.(NVIDIA．NVIDIA GTC keynote replay: Watch NVIDIA CEO Jensen Huang unveil the new directions of AI and accelerated computing at GTC 2025[EB/OL]．[2025-12-28]．https://www.nvidia.cn/gtc/keynote/?ncid=so-wech-924347®code=so-wech-924347．)
[16]中国青年报．全民“ 养虾”热背后的AI产业新变局[EB/OL]. [2026-04-25]．https://www.cnii.com.cn/dzxx/202603/t20260326_727542.html．(China Youth Daily．The new transformation of the AI industry behind the nationwide “Lobster raising” craze[EB/OL]．[2026-04-25]．https://www.cnii.com.cn/dzxx/202603/t20260326_727542.html．)
[17]OpenClaw[EB/OL]．[2026-03-19]．https://github.com/OpenClaw/openclaw．
[18]国家互联网应急中心．关于OpenClaw安全应用的风险提示[EB/OL]．[2026-05-11]．https://www.cert.org.cn/publish/main/11/2026/20260312144519429724511/20260312144519429724511_.html．(National Internet Emergency Center．Security risk warning regarding the OpenClaw application[EB/OL]．[2026-05-11]．https://www.cert.org.cn/publish/main/11/2026/20260312144519429724511/20260312144519429724511_.html．)
[19]Russell S J，Norvig P．Artificial Intelligence: A modern approach[M]．4th ed．Upper Saddle River: Pearson Education，2021: 32-45．
[20]Kindylidi I，de Barros I A．AI training datasets & article 14 GDPR: A risk assessment for the proportionality exemption of the obligation to provide information[J]．Law，State and Telecommunications Review，2021，13(2): 1-27．
[21]Carlini N，Liu C，Erlingsson ú ，et al. The secret sharer: Evaluating and testing unintended memorization in neural networks[C]//Proceedings of the 28th USENIX Security Symposium．Santa Clara CA USA,2019．Berkerly，CA: USENIX Association，2019: 267-284．
[22]付新华．生成式人工智能对个人信息保护法的结构性冲击及应对[J]．法学论坛,2025,40(6):102-112．(Fu X H．Structural impact of generative artificial intelligence on the personal information protection law and its response[J]．Law Forum，2025，40(6): 102-112．)
[23]Lee K，Ippolito D，Nystrom A，et al. Deduplicating training data makes language models better[C]//Proceedings of the 60th Annual Meeting of the Association for Computational Linguistics(Volume 1: Long Papers),2022．Dublin，Ireland．ACL，2022: 8424-8445．
[24]李亚玲，蔡京京，柏洁明．生成式大模型引发的隐私风险及治理路径[J]．智能科学与技术学报，2024，6(3):394-401．(Li Y L，Cai J J，Bai J M，Privacy risks induced by generative large language models and governance paths[J]．Chinese Journal of Intelligent Science and Technology，2024，6(3):394-401．)
[25]Feldman V．Does learning require memorization? A short tale about a long tail[C]// Proceedings of the 52nd Annual ACM SIGACT Symposium on Theory of Computing．Chicago IL USA．ACM，2020: 954-959．
[26]刘泽垣，王鹏江，宋晓斌，等．大语言模型的幻觉问题研究综述[J]．软件学报，2025，36(3):1152-1185．(Liu Z Y，Wang P J，Song X B，et al. Survey on hallucination in large language models[J]．Journal of Software，2025，36(3): 1152-1185．)
[27]Raiaan M A K，Mukta M S H，Fatema K，et al. A review on large language models: Architectures，applications，taxonomies，open issues and challenges[J]．IEEE Access，2024，12: 26839-26874．
[28]Mo Y F．The right to erasure of personal information in large language models: Challenges and responses[J]．Tsinghua China Law Review，2024，17(1): 27-53．
[29]Wang X K，Wu Y C．Balancing innovation and regulation in the age of generative artificial intelligence[J]．Journal of Information Policy，2024，14: 385-416．
[30]Zhang D W，Finckenberg-Broman P，Hoang T，et al. Right to be forgotten in the era of large language models: Implications，challenges，and solutions[J]．AI and Ethics，2025，5(3): 2445-2454．
[31]Villaronga E F，Kieseberg P，Li T．Humans forget，machines remember: Artificial intelligence and the right to be forgotten[J]．Computer Law & Security Review，2018，34(2): 304-313．
[32]邓胜利，向荣荣．生成式人工智能主题演化与学科交叉研究[J]．文献与数据学报， 2025，7(1):18-32．(Deng S L，Xiang R R．Topic evolution and interdisciplinary of generative artificial intelligence [J]．Journal of Library and Data，2025，7(1): 18-32．)
[33]Soares M N O，Oliveira L B，Azambuja A J G，et al. AnonymAI: An approach with differential privacy and intelligent agents for the automated anonymization of sensitive data[J]．Future Internet，2026，18(1): 41．
[34]Grislain N．RAG with differential privacy[C]//2025 IEEE Conference on Artificial Intelligence (CAI)．Santa Clara，CA，USA．Piscataway，NJ: IEEE,2025: 847-852．
[35]Yan B W，Li K，Xu M H，et al. On protecting the data privacy of large language models (LLMs): A survey[C]//2024 International Conference on Meta Computing (ICMC)．Qingdao，China．Piscataway，NJ: IEEE，2024．Doi: 10.1109/ICMC60390.2024.00008．
[36]Abdrabou Y，zdel S，Maquiling V，et al. From gaze to data: Privacy and societal challenges of using eye-tracking data to inform GenAI models[C]//Proceedings of the 2025 Symposium on Eye Tracking Research and Applications．Tokyo，Japan．New York，NY: Association for Computing Machinery，2025:no 109．Doi: 10.1145/3715669.3726788．
[37]曹博林，黄诗怡．人机互动中的自我表露与隐私计算动态关系研究[J]．全球传媒学刊， 2023，10(3):22-46．(Cao B L，Huang S Y．Research on the dynamic relationship between self-disclosure and privacy calculus in human-computer interaction[J]．Global Journal of Media Studies，2023，10(3):22-46．)
[38]姜泽玮．超越媒体等同：人机传播用户隐私披露中的补偿性交流[J]．新闻界， 2025(11):70-80．(Jiang Z W．Beyond media equation: Compensatory communication in user privacy disclosure in human-computer communication[J]．Journalism and Mass Communication，2025(11):70-80．)
[39]Kang H，Yang T T，Banu N，et al． Latent privacy management profiles on algorithmic social media: Cross-cultural insights into privacy protection motivations and management behaviors[J]．Journal of Computer-Mediated Communication，2025，30(6): zmaf021．Doi: 101093/jcmc/zmaf021.
[40]顾理平， 王芊蕴．人机对话中的隐忧：大语言模型的数据隐私风险与信任机制[J]．现代传播(中国传媒大学学报)， 2025， 47(6): 128-138．(Gu L P，Wang Q Y．Hidden concerns in human-machine dialogue: Data privacy risks and trust mechanisms of large language models[J]．Modern Communication (Journal of Communication University of China)，2025，47(6):128-138．)
[41]方兴东， 何可， 钟祥铭．数据崛起：互联网发展与治理的范式转变——滴滴事件背后技术演进、社会变革和制度建构的内在逻辑[J]．传媒观察， 2022(10):49-59．(Fang X D，He K，Zhong X M．The rise of data: Paradigm shift in internet development and governance: The internal logic of technological evolution，social change，and institutional construction behind the DiDi incident[J]．Media Observer，2022(10): 49-59．)
[42]蒙晓阳，戚婧．个人信息保护背景下新闻报道对个人信息的合法披露[J]．青年记者，2024(9):82-86．(Meng X Y，Qi J．Legal disclosure of personal information in news reporting under the background of personal information protection[J]．Youth Journalist，2024(9): 82-86．)
[43]Kalfeli P N，Angeli C．The intersection of AI，ethics，and journalism: Greek journalists’ and academics’ perspectives[J]．Societies，2025，15(2): 22．Doi: 10.3390/soc15020022
[44]Willems J，Schmid M J，Vanderelst D，et al. AI-driven public services and the privacy paradox: Do citizens really care about their privacy?[J]．Public Management Review，2023，25(11): 2116-2134．
[45]Wang Y F，Chen Y C，Chien S Y．Citizens’ intention to follow recommendations from a government-supported AI-enabled system[J]．Public Policy and Administration，2025，40(2): 372-400．
[46]Rudolf G，KovaP．The role of automated decision-making in modern administrative law: Challenges and data protection implications[J]．Central European Public Administration Review，2024，22(2): 83-108，255-256．
[47]McCrory L．A feminist framework for urban AI governance: Addressing challenges for public–private partnerships[J]．Data & Policy，2024，6: e79．Doi:101017/dap.2024.69.
[48]张涛．生成式人工智能训练数据集的法律风险与包容审慎规制[J]．比较法研究，2024(4): 86-103．(Zhang T．Legal risks of generative AI training datasets and inclusive prudential regulation[J]．Journal of Comparative Law，2024(4): 86-103．)
[49]Wachter S，Mittelstadt B．A right to reasonable inferences: Re-thinking data protection law in the age of big data and AI[J]．Columbia Business Law Review，2019(2): 494-620．
[50]王利明．生成式人工智能侵权的归责原则与过错认定[J]．中国法律评论，2025(4):15-30．(Wang L M．Imputation principles and determination of fault in generative artificial intelligence infringement[J]．China Law Review，2025(4):15-30．)
[51]朱晓峰．论人工智能生成错误个人信息的侵权责任[J]．法学家，2026(2):84-100，192-193．(Zhu X F．On tort liability for artificial intelligence generating false personal information[J]．Jurist，2026(2):84-100，192-193．)
[52]杜嘉雯，皮勇．人工智能时代生物识别信息刑法保护的国际视野与中国立场——从“ 人脸识别技术”应用下滥用信息问题切入[J]．河北法学，2022，40(1):144-167．(Du J W，Pi Y．The international perspective and China’s position on criminal law protection of biometric information in the age of artificial intelligence: From the perspective of information abuse in the application of “facial recognition technology”[J]．Hebei Law Science，2022，40(1):144-167．)
[53]刘艳红．智慧法院场景下个人信息合规处理的规则研究[J]．法学论坛，2022，37(6):38-50．(Liu Y H．Research on rules for compliant processing of personal information in smart court scenarios[J]．Legal Forum，2022，37(6):38-50．)
[54]毛俊响，王思洋．论网约车个人信息的保护[J]．探索与争鸣，2019(6):150-156, 160．(Mao J X，Wang S Y．On the protection of personal information in ride-hailing services[J]．Exploration and Free Views，2019(6): 150-156, 160．)
[55]何佳，高彧，孟涓涓，等．个人信息披露决策：强制收集与挤入效应[J]．经济研究，2022，57(5):158-175．(He J，Gao Y，Meng J J，et al. Personal information disclosure decisions: Mandatory collection and crowding-in effects[J]．Economic Research Journal，2022，57(5):158-175．)
[56]任卓异，姜凌，方艳丽．隐私保护自我效能对APP用户信息披露意愿的影响[J]．企业经济，2021，40(4):113-121．(Ren Z Y，Jiang L，Fang Y L．The Impact of privacy protection self-efficacy on APP users’ information disclosure willingness[J]．Enterprise Economy，2021，40(4):113-121．)
[57]Hernández P，Morales A J，Neeman Z，et al. Exploring the privacy paradox: An experimental investigation of privacy-preserving behavioral responses in online shopping[J]．Journal of Behavioral and Experimental Economics，2026,121: 102504．
[58]李三希，张仲元，焦倩．竞争会降低企业收集消费者信息并增加隐私保护投资吗？[J]．管理世界，2023，39(7):1-26．(Li S X，Zhang Z Y，Jiao Q．Does competition reduce firms’ collection of consumer information and increase privacy protection investment?[J]．Management World，2023，39(7):1-26．)
[59]Sun T S，Yuan Z，Li C X，et al. The value of personal data in Internet commerce: A high-stakes field experiment on data regulation policy[J]．Management Science，2024，70(4): 2645-2660．
[60]刘征驰，叶宇阳，聂辉华．数据收集条款、个人信息保护与消费者福利[J]．管理世界，2026，42(1):35-52．(Liu Z C，Ye Y Y，Nie H H．Data collection clauses，Personal information protection，and consumer welfare[J]．Journal of Management World，2026，42(1):35-52．)
[61]Aridor G，Che Y K，Salz T．The effect of privacy regulation on the data industry: Empirical evidence from GDPR[C]//Proceedings of the 22nd ACM Conference on Economics and Computation．Budapest，Hungary．ACM，2021: 93-94．
[62]Frey C B，Presidente G．Privacy regulation and firm performance: Estimating the GDPR effect globally[J]．Economic Inquiry，2024，62(3): 1074-1089．
[63]汪敏达，李建标．隐私经济学：研究述评与展望[J]．外国经济与管理，2022，44(4):3-17．(Wang M D，Li J B．Economics of privacy: Research review and prospect[J]．Foreign Economics & Management，2022，44(4):3-17．)
[64]欧阳爱辉，马雨珊．图书馆应用生成式人工智能数据风险法律治理[J]．图书馆工作与研究，2025(1):35-40．(Ouyang A H，Ma Y S．Legal governance of data risks in libraries’ application of generative artificial intelligence[J]．Library Work and Study，2025(1):35-40．)
[65]喻钊．生成式人工智能应用下读者个人信息协同保护研究[J]．图书馆工作与研究，2024(12):36-43．(Yu Z．Research on the collaborative protection of reader’ personal information in the application of generative artificial intelligence[J]．Library Work and Study，2024(12):36-43．)
[66]Meng X X，Liu J X．”Talk to me，I’m secure”: Investigating information disclosure to AI chatbots in the context of privacy calculus[J]．Online Information Review，2025，49(5): 933-954．
[67]查先进，谭依婷．情报学视角下人工智能颠覆性应用的基本问题研究[J]．图书与情报，2025(3):26-35．(Zha X J，Tan Y T．Research on fundamental issues of disruptive applications of artificial intelligence from the perspective of information science [J]．Library ＆ Information，2025(3): 26-35．)
[68]郭军．大数据环境下图书馆用户个人信息保护研究[J]．图书馆工作与研究，2020(1): 11-19，28．(Guo J．Research on the personal information protection of library users under the big data environment[J]．Library Work and Study，2020(1): 11-19, 28．)
[69]宋首友．专家解读 | 以数据安全治理保障数据流通利用——基于数据流通安全治理典型案例的规则解析[EB/OL]．[2026-04-30]．https://www.nda.gov.cn/sjj/zwgk/zjjd/0103/20260103113854415443346_pc.html．(Song S Y．Expert interpretation | Safeguarding data circulation and utilization through data security governance: A rule analysis based on typical cases of data circulation security governance[EB/OL]．[2026-04-30]．https://www.nda.gov.cn/sjj/zwgk/zjjd/0103/20260103113854415443346_pc.html．)
[70]Nissenbaum H．Privacy as contextual integrity[J]．Washington Law Review，2004，79(1): 119-157．
[71]Lewis P，Perez E，Piktus A，et al. Retrieval-augmented generation for knowledge-intensive NLP tasks[C]//Advances in Neural Information Processing Systems 33．Red Hook，NY: Curran Associates，Inc．, 2020: 9459-9474．
[72]范昊，王一帆，郑佩，等．人工智能生成内容可信性的概念要素及情景适配研究[J]．图书情报知识，2026，43(1):110-123．(Fan H，Wang Y F，Zheng P，et al. Research on the conceptual elements and scenario adaptability of AI-generated content trustworthiness[J]．Documentation，Information & Knowledge，2026,43(1): 110-123．)
[73]任海玉，刘建平，王健，等．基于大语言模型的智能问答系统研究综述[J]．计算机工程与应用，2025，61(7):1-24．(Ren H Y，Liu J P，Wang J，et al. Research on intelligent question answering system based on large language model[J]．Computer Engineering and Applications，2025，61(7): 1-24．)
[74]Zhang X J，Pang Y H，Kang Y，et al. No free lunch theorem for privacy-preserving LLM inference[J]．Artificial Intelligence，2025，341: 104293．
[75]姜忠奇．织好AI用户信息“ 防护网”（“ 融”观中国）[EB/OL]．[2026-05-06]．https://paper.people.com.cn/rmrbhwb/html/2024-06/03/content_26061395.htm．(Jiang Zhongqi．Weaving a sturdy “protective net” for AI user information (Observations on China’s integration)[EB/OL]．[2026-05-06]．https://paper.people.com.cn/rmrbhwb/html/2024-06/03/content_260613 95.htm．)
[76]顾男飞．生成式人工智能发展的产业促进与风险规制——以Sora为例[J]．图书馆论坛，2024，44(11):120-128．(Gu N F．Industrial promotion and risk regulation of generative artificial intelligence development：Taking Sora as an example[J]．Library Tribune，2024，44(11): 120-128．)
[77]国家互联网信息办公室．网信部门依法查处“ 剪映”APP等生成合成内容标识违法问题网站平台[EB/OL]．[2026-05-06]．https://www.cac.gov.cn/2026-04/28/c_1779119736411711.htm．(Cyberspace Administration of China．Cyberspace administration takes action against “Jianying” APP and other websites and platforms for violations related to AI-generated content labeling[EB/OL]．[2026-05-06]．https://www.cac.gov.cn/2026-04/28/c_1779119736411711.htm．)
[78]郭小东．生成式人工智能的风险及其包容性法律治理[J]．北京理工大学学报(社会科学版)， 2023， 25(6): 93-105，117．(Guo X D．Risks of generative artificial intelligence and its inclusive legal governance[J]．Journal of Beijing Institute of Technology (Social Sciences Edition)，2023，25(6): 93-105，117．)
[79]Mireshghallah N，Mangaokar N，Kokhlikyan N，et al. Cimemories: A compositional benchmark for contextual integrity of persistent memory in LLMs[EB/OL]．[2026-06-03]．https://doi.org/10.48550/arXiv.2511.14937．
[80]Guan S Y，Wang J D，Bian J，et al. Evaluating LLM-based agents for multi-turn conversations: A survey[J]．ACM Transactions on Intelligent Systems and Technology，2026，17(4): no 85．Doi: 10.1145/379367．
[81]Xi Z H，Chen W X，Guo X，et al. The rise and potential of large language model based agents: A survey[J]．Science China Information Sciences，2025，68(2): 121101．
[82]Richardson T，et al. AutoGPT[EB/OL]．[2026-04-26]．https://github.com/Significant-Gravitas/AutoGPT．
[83]Yao S，Chen H，Yang J，et al. WebShop: Towards scalable real-world web interaction with grounded language agents[C]//Advances in Neural Information Processing Systems 35．New Orleans，Louisiana，USA．Neural Information Processing Systems Foundation，Inc.，2022: 20744-20757．
[84]Nakano R，Hilton J，Balaji S，et al. Webgpt: Browser-assisted question-answering with human feedback[EB/OL]．[2026-06-03]．https://doi.org/10.48550/arXiv.2112.09332．
[85]郭陆祥，王越余， 李芊， 等．大语言模型智能体操作系统研究综述[J]．计算机科学， 2026， 53(1):1-11．(Guo L X，Wang Y Y，Li Q Y，et al. Comprehensive survey of LLM-based agent operating systems[J]．Computer Science，2026，53(1):1-11．)
[86]United States District Court，Northern District of California．Order granting plaintiff’s motion for preliminary injunctive relief: Case No．25-cv-09514-MMC[EB/OL]．[2026-05-06]．https://www.govinfo.gov/content/pkg/USCOURTS-cand-3_25-cv-09514/pdf/USCOURTS-cand-3_25-cv-09514-0.pdf．
[87]Wang W X，Juluan S，Ling Z X，et al. Learning to ask: When LLM agents meet unclear instruction[C]//Proceedings of the 2025 Conference on Empirical Methods in Natural Language Processing．2025: 21784-21795．
[88]Shapira N，Wendler C，Yen A，et al. Agents of chaos[EB/OL]．[2026-04-18]．https://doi.org/10.48550/arXiv.2602.20021．
[89]Chen G H，Fan L Y，Gong Z H，et al. Agentcourt: Simulating court with adversarial evolvable lawyer agents[C]//Findings of the Association for Computational Linguistics: ACL 2025.Vienna，Austria，ACL，2025: 5850-5865．
[90]Li G，Hammoud H，Itani H，et al. CAMEL: Communicative agents for “mind” exploration of large language model society[C]//Advances in Neural Information Processing Systems 36.New Orleans，Louisiana，USA．Neural Information Processing Systems Foundation，Inc.，2023:51991-52008．
[91]Surapaneni R，Jha M，Vakoc M，et al. Announcing the Agent2Agent protocol (A2A)[EB/OL]．[2026-05-08]．https://developers.googleblog.com/en/a2a-a-new-era-of-agent-interoperability/．
[92]Louck Y，Stulman A，Dvir A．Improving Google A2A protocol: Protecting sensitive data and mitigating unintended harms in multi-agent systems[EB/OL]．[2026-06-03]．https://doi.org/10.48550/arXiv.2505.12490．
[93]Yagoubi F，Badu-Marfo G，AI Mallah R．AgentLeak: A full-stack benchmark for privacy leakage in multi-agent LLM Systems[EB/OL]．[2026-06-03]．https://doi.org/10.48550/arXiv.2602.11510．
[94]Khatib O，Yokoi K，Brock O，et al. Robots in human environments: Basic autonomous capabilities[J]．The International Journal of Robotics Research，1999，18(7): 684-696．
[95]Robinson N，Williams J，Howard D，et al. Human-robot team performance compared to full robot autonomy in 16 real-world search and rescue missions: Adaptation of the darpa subterranean challenge[J]．ACM Transactions on Human-Robot Interaction，2025，14(1): no 8．Doi: 10.1145/3665319
[96]Gvirsman O，Koren Y，Norman T，et al. Patricc: A platform for triadic interaction with changeable characters[C]//Proceedings of the 2020 ACM/IEEE International Conference on Human-Robot Interaction．Cambridge United Kingdom．ACM，2020: 399-407．
[97]Daryanto T，Ding X H，Ping K K，et al. Human-human-AI triadic programming: Uncovering the role of AI agent and the value of human partner in collaborative learning[C]//Proceedings of the 2026 CHI Conference on Human Factors in Computing Systems．Barcelona Spain．ACM，2026: no 541．Doi: 10.1145/3772318.379177．
[98]Acquisti A，Grossklags J．Privacy and rationality in individual decision making[J]．IEEE Security & Privacy，2005，3(1): 26-33．
[99]Zharmagambetov A，Guo C，Evtimov I，et al. AgentDAM: Privacy leakage evaluation for autonomous web agents[C/OL]//Advances in Neural Information Processing Systems 38.San Diego，CA，USA．[2026-06-03]．https://proceedings.neurips.cc/paper_files/paper/2025/file/c9826b9ea5e1b49b256329934a57 8d83-Paper-Datasets_and_Benchmarks_Track.pdf． [100]Purington A，Taft J G，Sannon S，et al. ” Alexa is my new BFF” social roles，user satisfaction，and personification of the Amazon Echo[C]//Proceedings of the 2017 CHI Conference Extended Abstracts on Human Factors in Computing Systems．Denver Colorado USA．ACM，2017: 2853-2859．
[101]Lau J，Zimmerman B，Schaub F．Alexa，are you listening? Privacy perceptions，concerns and privacy-seeking behaviors with smart speakers[J]．Proceedings of the ACM on Human-Computer Interaction，2018，2(Issue CSCW):no 102．Doi: 10.1145/3274371．
[102]Harding S．Everything you say to your Echo will be sent to Amazon starting on March 28[EB/OL]．[2026-05-06]．https://arstechnica.com/gadgets/2025/03/everything-you-say-to-your-echo-will-be-sent-to-amazon-starting-on-march-28/．
[103]Cassano F，Gopinath A，Narasimhan K，et al. Reflexion: Language agents with verbal reinforcement learning[C]//Advances in Neural Information Processing Systems 36．New Orleans，Louisiana，USA．Neural Information Processing Systems Foundation，Inc．(NeurIPS)，2023: 8634-8652．
[104]全国网络安全标准化技术委员会．网络安全技术 生成式人工智能服务安全基本要求：GB/T 45654—2025[S]．北京：中国标准出版社，2025．(National Cybersecurity Standardization Technical Committee．Cybersecurity technology—Basic security requirements for generative artificial intelligence service：GB/T 45654—2025[S]．Beijing: Standards Press of China，2025．
[105]Shan Z Y，Xin J Y，Zhang Y，et al. Don’t let the claw grip your hand: A security analysis and defense framework for OpenClaw[EB/OL]．[2026-06-18]．https://doi.org/10.48550/arXiv.2603.10387．
[106]OpenClaw 社区．OpenClaw: 安全性[EB/OL]．[2026-03-19]．https://docs.openclaw.ai/zh-CN/gateway/security．(OpenClaw Community．OpenClaw: Security[EB/OL]．[2026-03-19]．https://docs.openclaw.ai/zh-CN/gateway/security．)
[107]Búrdalo L，Terrasa A，Julián V，et al. The information flow problem in multi-agent systems[J]．Engineering Applications of Artificial Intelligence，2018，70: 130-141．
[108]Basu M．OpenClaw AI chatbots are running amok: These scientists are listening in[J]．Nature，2026，650(8102): 533-534．
[109]Romeo G，Conti D．Exploring automation bias in human–AI collaboration: A review and implications for explainable AI[J]．AI & Society，2026，41(1): 259-278．
[110]Cavoukian A．Privacy by design: The 7 foundational principles[EB/OL]．[2026-05-25]．https://www.ipc.on.ca/en/media/1826/download?attachment=．
[111]白云，李白杨，毛进，等．从知识困境到认知陷阱：生成式技术驱动型信息生态系统安全问题研究[J]．信息资源管理学报，2024，14(1):13-21．(Bai Y，Li B Y，Mao J，et al. From the knowledge predicament to the cognitive trap: A study on security issues in generative technology-driven information ecosystems[J]．Journal of Information Resources Management，2024，14(1): 13-21．)
作者简介
赵思捷，博士研究生，研究方向为数据治理与智能合规；
张昀，硕士研究生，研究方向为个人信息保护与司法智能化；
邓雨茵，硕士研究生，研究方向为数据合规与隐私保护；
张斌（通讯作者），博士，副教授，博士生导师，研究方向为数据智能与知识工程，Email：zb0205@126.com。
* 原文网络首发于《信息资源管理学报》，欢迎个人转发，公众号转载请联系后台。
* 引用格式
赵思捷,张昀,邓雨茵,等.Openclaw等智能体演进下的个人信息保护场景演化与风险辨析[J/OL].信息资源管理学报,1-14[2026-07-07].https://link.cnki.net/urlid/42.1812.G2.20260630.1702.002.
往期 · 推荐
网络首发 | 实践创新驱动下中国信息资源管理学科自主知识体系的演化逻辑
网络首发 | 案例库建设赋能信息资源管理学科自主知识体系构建——作用机制与建设路径研究
网络首发 | 全球视野下中国信息资源管理学科自主知识体系框架与构建路径
制版编辑 | 周凡倩
审核 | 于 媛
《信息资源管理学报》
微信号｜xxzyglxb
长按识别二维码 关注我们
