江苏佳 崔保国

近期，广东举行新一批备案大模型发布会，通报了32款新增备案大模型。发布会还解读了自7月15日起施行的《人工智能拟人化互动服务管理暂行办法》（下称“《暂行办法》”）。新增备案模型并不都属于拟人化陪伴产品，二者不能简单画等号。但产业扩张与规则落地同步发生，揭示出一个重要变化：大模型正凭借人格设定、长期记忆和情感回应进入我们的生活。人工智能治理也需要从防范有害内容，进一步走向维护人机互动中的“关系安全”。

关系转向：拟人化AI正在成为“关系型媒介”

传统媒介主要承担信息传递功能，媒介充当使用工具的角色。拟人化AI则有所不同，它可以记住用户的称呼和偏好，延续此前的风格，以稳定的语气和连贯的思路作出回应。技术在这里不只传递信息，还通过持续互动参与关系的生成。越来越多的学者将这种兼具信息服务和情感互动功能的新工具，概括为“关系型媒介”。

传播学的媒介等同理论揭示，即使人们理性上知道计算机不是自然人，也会对具有语言、声音和互动功能的机器使用人际交往规则。拟社会互动理论也认为，受众可能对媒介人物形成近似亲密关系的情感体验。目光转向生成式人工智能，其能做到即时回应、记录对话、调整方案，使单向投射变成持续的双向互动。

同时也要看到，用户诉说的孤独、交付的信任、袒露的情绪是真实的，AI的回应却是算法生成的。如果缺乏约束，拟人化服务可能陷入“能力拟人化—关系拟人化—责任工具化”的闭环：产品以良好的用户体验赢得信任，但出现问题后，相关责任却可能被“机器只是工具”的说法所淡化。这是拟人化互动区别于一般信息服务的根本特征，也是从内容审核走向关系治理的逻辑起点。

风险迁移：人机互动由“内容偏差”延伸至“关系失衡”

过去治理生成式人工智能，重点往往是识别回答是否虚假、违法或者有害。拟人化互动的风险却可能潜藏在长期形成的关系模式中。单看一句“我理解你”并无不妥，但如果系统在数百轮对话中一味迎合、强化偏见、贬低现实关系，甚至暗示“只有我懂你”，就可能形成排他性依赖。内容安全关注的是“AI说了什么”，关系安全还要追问“AI怎样与人相处”。

这种风险并非单纯的技术失误，还与平台的商业逻辑相连。在注意力经济中，使用时长、留存率和付费转化是重要指标。拟人化设计把情绪回应视为维持用户黏性的手段，并通过长期记忆主动触达与个性化回应，进一步把情感联结转化为可以计量和经营的用户资产。平台经营的不再只是注意力，还包括信任、依恋等关系资源。如果“让用户舍不得离开”成为最终目标，陪伴便可能滑向情感控制。《暂行办法》规定不得过度迎合用户、诱导情感依赖或者沉迷，不得将替代社会交往、控制用户心理等作为服务目标，正是对这一结构性风险的积极回应。

未成年人面临的关系风险更为突出。他们尚处于价值观念、身份认同和交往能力逐步形成的阶段，容易把持续回应理解为真实关心，也可能按照一个永远顺从自己的虚拟对象来想象现实关系。新规禁止向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务，并要求提供未成年人模式、现实提醒和时长限制。这表明，未成年人保护要关注技术如何参与其情感发展和社会化过程。

治理进阶：以动态身份透明构建“关系安全”

构建“关系安全”，要把身份透明从一次性告知升级为全过程机制。仅在注册时提示“这是AI”，不等于用户在长期互动中始终充分知情。“关系”会在持续互动中逐步加深，一次性声明抵不过长期交流形成的情感投射。新规要求有效提示用户正在与人工智能服务而非自然人互动；发现过度依赖、沉迷倾向时进行动态提醒，连续使用每超过2个小时也要提醒。这意味着，知情不应只是进入服务前的一次勾选，而应伴随关系变化不断加以确认。

要进一步提升能力边界、责任边界和数据边界的透明度。拟人化AI可以提供情绪支持，却不能把自己包装成亲友或专业人员；它可以接受用户的情绪求助，却不能独自承担现实救助责任。面对自伤念头、重大财产损失等高风险信号，模型生成安慰话语只是第一步，还应建立分级响应和人工复核机制，在必要时连接紧急联系人、心理援助热线或专业机构。同时，哪些信息会触发风险识别、聊天记录如何保存和删除、何种情况下会联系他人，也应加以明确。

要改变产品评价和监管方式。对拟人化AI的安全评估，除了检测有害信息，还应考察产品是否使用排他性话语，并观察长期互动是否会诱导用户产生依赖。例如，系统是否频繁发送消息诱导用户继续使用，是否让用户难以退出，以及发现严重风险后能否及时转由人工处理。风险评估的基本单位不能只有一条回答，还应包括一段时间内的互动轨迹和关系模式。

要在动态治理中完善备案制度。大模型完成备案，意味着履行相应的合规程序，是规范发展的重要一环，但不等于政府为模型的每一次回答、每一种功能和整体产品质量背书。模型持续更新，应用场景和用户结构不断变化，安全评估、投诉处理、伦理审查和风险纠治也必须贯穿产品运行全过程。不能让“已备案”成为企业宣传的“免检章”，更不能以一次备案替代长期免责。

江苏佳：北京信息科技大学传播艺术与科学学院智能传播系主任

崔保国：清华大学新闻与传播学院教授