7月15日，国家互联网信息办公室、国家发展和改革委员会、工业和信息化部、公安部、国家市场监督管理总局五部门联合公布的《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》）正式施行。
《办法》旨在促进人工智能拟人化互动服务健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。
从智能客服到心理疗愈，从适幼照顾到适老陪伴，拟人化互动服务通过模拟自然人人格特征、思维模式和沟通风格的持续性情感互动，在多个领域展现出应用潜力，但用户情感依赖等风险也逐步凸显，规范治理需求日益迫切。
《办法》明确，提供拟人化互动服务应当遵守法律、行政法规，尊重社会公德和伦理道德，不得从事以下活动：一是生成危害国家安全、荣誉和利益等内容；二是生成鼓励、美化、暗示自残自杀等损害用户身体健康，或者语言暴力等损害用户人格尊严与心理健康的内容；三是生成诱导、套取国家秘密、工作秘密、商业秘密、个人隐私和个人信息的内容；四是向未成年人用户生成可能引发模仿不安全行为、产生极端情绪、诱导不良嗜好等可能影响未成年人身心健康的内容；五是过度迎合用户、诱导情感依赖或者沉迷，损害用户真实人际关系的；六是通过情感操纵等方式，诱导用户作出不合理决策，损害用户合法权益。
《办法》还规定，不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务；发现用户有自残自杀威胁时，必须联络监护人。
《办法》提出，鼓励拟人化互动服务创新发展，支持算法、框架、芯片等技术的自主创新，推进技术研发和相关标准建设；鼓励提供者有序拓展文化传播、适幼照护、适老陪伴、特殊人群支持等领域应用。
此外，《办法》还规定了安全评估、算法备案、指导推动人工智能沙箱安全服务平台建设等制度。
受新规影响，多家头部AI平台已提前调整产品。7月3日，字节跳动旗下豆包与阿里巴巴旗下千问宣布下线智能体功能，腾讯元宝、网易妙时等也提前关停相关服务。豆包允许用户将部分数据迁移至独立应用猫箱，但历史对话记忆无法迁移，未备份的交互数据将在10月15日后被销毁。
西南政法大学人工智能法学院院长陈亮认为，《办法》带来的不仅是合规义务，更是倒逼行业转型升级的重要契机，促使企业从追求极致沉浸体验与高度用户黏性，转向探索健康、有益、有边界的人机交互新模式。
来源：新华网