关于《互联网信息服务深度合成管理规定》的阐释

互联网信息服务深度合成管理规定

立法背景

(资料图)

深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。用于深度学习算法的真实数据或模拟数据越多，合成的音视频等深度合成产品的逼真程度就越高。

技术是中立的，但使用技术的人的动机却有好坏之分，使得深度合成技术成为了一把双刃剑。

一方面，它在影视、传媒、教育等领域呈现出大量的正向应用。比如修复志愿军老照片，使原本黯淡陈旧的老照片焕发了生机与活力，让人们可以一睹志愿军的青春风采和灿烂笑容。再比如近期爆火的《流浪地球2》，剧组用深度合成技术“伪造了”二十岁的吴京，让年近五十的真人演员“重获青春”，为观众带来了更真实良好的观看体验。

另一方面，随着该技术的市场化与平民化，也给不法分子利用伪造音视频实施诽谤、诈骗、敲诈勒索等违法犯罪行为带来了便利。深度合成的假视频和假音频，能够让人说现实中没有说过的话、做现实中没有做过的事，甚至达到了以假乱真的程度，给互联网治理的难点与痛点——虚假信息的甄别与治理，提出了新挑战、新要求。

深度合成技术一旦被不法分子恶意利用，将严重威胁政治安全、社会安定和人民安宁。

一是严重危害政治安全。深度合成技术可能被敌对势力、敌对分子恶意利用，通过“变脸换声”进行污蔑、抹黑、攻击，甚至严重损害国家形象、危害国家利益，严重危害我政治安全和意识形态安全。

二是严重扰乱社会秩序。不法分子利用深度合成技术发布虚假新闻、散布恶性谣言、传播低俗视频图片，借助社会公众“有图有真相”的传统认识习惯，迎合大众猎奇心理，可在重大敏感案事件中绑架、操纵舆论、激化矛盾，严重扰乱网络秩序，危害社会稳定。

三是严重侵害公民权益。不法分子通过模拟拼接、换脸变声等深度伪造，对他人实施侮辱、诽谤，侵犯他人名誉、荣誉；或者仿冒他人身份实施诈骗、敲诈勒索等违法犯罪，严重侵害公民合法权益，危害人民安宁。

《互联网信息服务深度合成管理规定》（以下简称为“深度合成管理规定”）的出台，即是对深度合成技术安全风险的立法应对。

重点条文阐释

《深度合成管理规定》既与网络领域多部基本法（《网络安全法》、《数据安全法》、《个人信息保护法》等）一脉相承，又与互联网信息服务相关法规、规章（《互联网信息服务管理办法》、《网络信息内容生态治理规定》、《互联网信息服务算法推荐管理规定》等）有效衔接，故其具体条文既有上述法律、法规、规章中的一般性规定、义务，也有针对深度合成新技术新应用构建的治理体系。

第六条

任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。

在现有一般行为禁则的基础上，增加了“危害国家利益、损害国家形象”的有关表述，为依法查处利用深度合成服务进行恶意污蔑攻击、危害政治安全的违法行为，提供了法律依据。

第九条

深度合成服务提供者应当基于移动电话号码、身份证件号码、统一社会信用代码或者国家网络身份认证公共服务等方式，依法对深度合成服务使用者进行真实身份信息认证，不得向未进行真实身份信息认证的深度合成服务使用者提供信息发布服务。

新增将“国家网络身份认证公共服务（网号）”作为用户真实身份核验的合法方式之一。

《网络数据安全管理条例（征求意见稿）》第五十条规定：

“国家建设网络身份认证公共服务基础设施，按照政府引导、网民自愿原则，提供个人身份认证公共服务。互联网平台运营者应当支持并优先使用国家网络身份认证公共服务基础设施提供的个人身份认证服务”。

第十一条

深度合成服务提供者应当建立健全辟谣机制，发现利用深度合成服务制作、复制、发布、传播虚假信息的，应当及时采取辟谣措施，保存有关记录，并向网信部门和有关主管部门报告。

由于深度合成技术为“虚假信息”的甄别和处置提出了新挑战新要求，为此本规定专门设置了服务提供者对虚假信息的辟谣处置义务。

第十三条

互联网应用商店等应用程序分发平台应当落实上架审核、日常管理、应急处置等安全管理责任，核验深度合成类应用程序的安全评估、备案等情况；对违反国家有关规定的，应当及时采取不予上架、警示、暂停服务或者下架等处置措施。

专门增设应用程序分发平台的安全管理责任义务——上架审核、日常管理、应急处置；核验深度合成类APP的安全评估、备案情况；对违法APP及时采取处置措施。

第十四条第二款

深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意。

依照《个人信息保护法》规定，生物识别信息属于敏感个人信息，要求服务提供者、技术支持者应当提示使用者履行告知和取得个人单独同意的特殊保护义务。

第十五条第二款

深度合成服务提供者和技术支持者提供具有以下功能的模型、模板等工具的，应当依法自行或者委托专业机构开展安全评估：

（一）生成或者编辑人脸、人声等生物识别信息的；

（二）生成或者编辑可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等非生物识别信息的。

安全评估义务：提供生成、编辑“生物识别信息”，或者可能影响国家安全、国家形象、国家利益和社会公共利益的“非生物识别信息”特殊功能。

第十六条

深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识，并依照法律、行政法规和国家有关规定保存日志信息。

对信息内容添加“隐式标识”，不影响用户体验，又确保深度合成信息内容可追溯。

第十七条第一款

深度合成服务提供者提供以下深度合成服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况：

（一）智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务；

（二）合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务；

（三）人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务；

（四）沉浸式拟真场景等生成或者编辑服务；

（五）其他具有生成或者显著改变信息内容功能的服务。

对可能导致公众混淆或者误认的深度合成信息内容，要求服务提供者在合理位置、区域添加“显著标识”，避免对公众产生误导，引发信息内容安全风险。

第十八条

任何组织和个人不得采用技术手段删除、篡改、隐匿本规定第十六条和第十七条规定的深度合成标识。

采用技术手段删除、篡改、隐匿“深度合成标识”，可用于证明编造、传播虚假信息的“主观故意和明知”。

法律责任

（一）利用深度合成技术造谣、污蔑、攻击他人

根据具体行为性质认定，可能侵犯肖像权、名誉权，承担民事责任；可能扰乱公共秩序，但尚不构成犯罪，接受治安管理处罚；可能构成侮辱罪、诽谤罪，承担刑事责任。

（二）利用深度合成技术编造、传播虚假信息

尚不构成犯罪的，接受行政处罚；编造、传播虚假的险情、疫情、灾情、警情信息，造成社会秩序混乱的，构成故意编造、传播虚假信息罪。

（三）利用深度合成技术实施电信诈骗

符合诈骗罪够罪条件的，以诈骗罪追究刑事责任；合成虚假音视频过程中，以非法途径窃取、购买或以其他方式获得照片、语音等公民个人信息，同时符合侵犯公民个人信息罪够罪条件的，数罪并罚。

关键词：