彩云网客户端下载-用户注册 | 官网首页登录平台网址

【法治护我心】划定深度合成服务“底线”“红线”******

　　【法治护我心——《互联网信息服务深度合成管理规定》系列解读】

　　光明网记者 陈畅、李政葳

　　“雾里看花，水中望月，你能分辨这变幻莫测的世界……”如果把上个世纪九十年代这首“315”晚会歌曲，用来描述当下互联网时代的“云”上生活，在技术发展与风险伴生之下，“虚”“实”之间让人颇有迷幻之感。

　　“再也不敢相信自己的眼睛和耳朵。”当换脸换声、三维重建、智能对话等逐渐应用开来，人们时常发出这样的感叹。这类深度合成服务催生了美颜美妆、智能客服、虚拟主播等一系列应用形态，但其被恶意利用制作虚假信息内容，进而带来了政策干扰、谣言泛滥、低俗内容等。因此，我们也在呼吁——“借我一双慧眼，把这纷扰看个清清楚楚明明白白……”

　　纵观互联网发展历程，技术治理本身就是一场攻防对抗博弈，也是技术从创新应用到规范发展的必经之路。近日，这项深度合成技术被套上了“紧箍咒”——国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》），自2023年1月10日起施行。

　　法立于上则俗成于下。《规定》出台划定了深度合成服务的“底线”和“红线”， 迈出我国新技术新应用立法的重要一步，也将有效维护网络空间良好生态。

　　明确义务要求，强化主体责任

　　事实上，深度合成技术由来已久。随着深度学习技术、特别是对抗式生成网络技术的发展，深度合成技术门槛大幅降低。2017年11月，Reddit网站的用户“deepfakes”发布伪造视频，曾一度将这项技术推至风口浪尖，其“以假乱真”的信息内容严重威胁国家安全、干扰社会秩序。

　　何为“深度合成技术”？《规定》中给出了明确表述——指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。

　　具体包括：篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术，文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术，音乐生成、场景声编辑等生成或者编辑非语音内容的技术，人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术，图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术，三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术等。

　　诚然，从技术进步的角度看，深度合成技术应用的初衷是让生成合成内容更逼真，但技术在愈趋“智能”的同时，也不可避免地带来更多风险。对此，中国科学院信息工程研究所所长孟丹介绍，除深度伪造风险外，还包括生成合成信息内容带来的个人信息泄漏、侵犯人格权和知识产权等他人合法权益等风险。

　　深度合成服务提供者和技术支持者既是新技术、新应用的创造者、受益者，也应该是控制技术风险、引导技术向善的责任践行者。记者梳理发现，《规定》明确了深度合成技术定义和服务范围，提出了服务提供者落实信息安全主体责任，指出了服务提供者和技术支持者备案义务，并对服务提供者履行安全评估和配合监督检查义务提出具体要求。

　　中国科学院自动化研究所所长徐波这样评价：《规定》分析梳理了深度合成活动边界，对深度合成服务提供者、技术支持者和使用者以及应用程序分发平台等主体应履行的责任义务作出规定。比如，服务提供者应履行建立健全管理制度、对使用者真实身份信息认证、加强深度合成信息内容管理等义务，服务提供者和技术支持者应履行加强训练数据管理、加强深度合成技术管理等义务。

　　健全技术支撑体系，促进科技向上向善

　　从此起彼伏的社会案件中可以看出，深度合成信息内容制作和传播数量正在高速增长，尤其伴随“元宇宙”等新模式、新场景不断落地，深度合成技术将为智能化、视觉化、场景化、虚拟化的互联网信息服务发展提供更多技术方案。孟丹认为，《规定》的出台是网络内容治理由结果管理迈向行为管理的重要一步，标志着我国网络空间治理能力进一步优化提升。

　　时间倒回到两年前。在2021年12月，国家互联网信息办公室发布《互联网信息服务算法推荐管理规定》，对包括生成合成类在内的五类算法推荐服务进行规范。本次出台的新规在之前算法规定的基础上，加强对深度合成服务全过程管理，也深化了备案与评估标本兼治。

　　然而，从技术发展阶段看，深度合成技术与应用管理仍处于起步阶段，在技术支撑和能力建设方面还有待进一步加强。“加快推进深度合成治理技术支撑体系建设，是切实保障深度合成服务治理工作有力有序推进的关键。”孟丹说。

　　《规定》的字里行间，凸显了“以技术管技术”的逻辑，也必将促进深度合成服务的规范治理。“其确立了我国对深度合成服务的治理框架，提出了明确的数据和技术管理规范，为促进深度合成技术向上向善，引导相关产业健康发展，确保互联网信息内容安全提供了有力的制度保障。”中国政法大学副校长时建中说。

　　“《规定》以促进技术在规范中发展为价值取向，在明确‘红线’的同时，为技术发展留足空间。”中国信息通信研究院副院长王志勤这样认为。比如，《规定》要求深度合成服务提供者应当建立算法机制机理审核、科技伦理审查等管理制度。

　　孟丹也建议，从深度合成信息内容源头上，解决其衍生的内容安全风险，利用技术创新、技术对抗等方式持续提升和迭代检测技术的能力，不仅着眼于管理好、使用好、发展好深度合成技术及相关服务，也致力于深度合成技术的合法合理合规使用，促进深度合成技术及相关服务健康有序的发展。

　　引导多方参与，推动治理走深向实

　　随着数字化、智能化进程不断加快，互联网信息服务综合治理不断细化，规范深度合成活动对营造健康安全的网络空间有着重要意义。国家互联网信息办公室有关负责人表示，深度合成服务治理需要政府、企业、社会、网民等多方主体参与，推动深度合成技术的依法、合理、有效使用，积极防范化解深度合成技术带来的风险，促进互联网信息服务健康发展。

　　《规定》明确提到，国家和地方网信部门统筹协调深度合成服务的治理和相关监督管理职责，国务院电信主管部门、公安部门以及地方相关部门的监督管理职责。

　　王志勤认为，《规定》构建了统筹协调、多方参与的监管体制；《规定》鼓励相关行业加强行业自律，搭建齐抓共管、协同共治的治理机制；《规定》通过系统化的制度安排，进一步构建完善了我国网络综合治理法治体系。

　　孟丹也提到，《规定》在生成合成类算法服务范围、深度合成技术具体范围、深度合成服务业务分类、显式标识条件与标识方式、隐式标识方法与识别等诸多具体方面，仍亟需行业内部进一步细化相关配套标准规范。在实际落地过程中，建议业内推进产业联盟建立，以产业自治、多方共治的方式，不断推进深度合成技术应用高质量发展。

　　为推动深度合成治理走深向实，徐波建议，强化智能监管平台支撑。比如，深入研究深度合成类算法内生安全机理和深度合成鉴别等关键技术，推动深度合成管理技术能力建设；加强人机混合的智能监管技术，研究深度合成服务提供者的安全可控技术保障方案，把监管规范转化为评估标准，建设面向网络全域监管的监测管理平台；研发深度合成与鉴别对抗机制，鼓励新兴科技企业与研究机构开展技术演练，共同推动深度合成服务健康发展。

始终牢记“五个必由之路”******

　　【深入学习宣传贯彻党的二十大精神】

　　作者：郑丽平（上海交通大学马克思主义学院教授、教育部习近平新时代中国特色社会主义思想研究中心特约研究员）

　　党的二十大报告明确指出，坚持党的全面领导是坚持和发展中国特色社会主义的必由之路，中国特色社会主义是实现中华民族伟大复兴的必由之路，团结奋斗是中国人民创造历史伟业的必由之路，贯彻新发展理念是新时代我国发展壮大的必由之路，全面从严治党是党永葆生机活力、走好新的赶考之路的必由之路。“五个必由之路”源自中国共产党百年奋斗的光辉历史，源自中国特色社会主义形成发展的伟大实践，更源自新时代十年的伟大成就和历史性变革，是我们党在长期实践中得出的至关重要的规律性认识，必须倍加珍惜、始终坚持。始终牢记“五个必由之路”，深刻理解蕴含其中的规律性认识，才能引领和保障中国特色社会主义巍巍巨轮乘风破浪、行稳致远。

　　1.坚持党的全面领导是坚持和发展中国特色社会主义的必由之路

　　办好中国的事情，关键在党。“坚持党的全面领导是坚持和发展中国特色社会主义的必由之路”的重要论断，揭示了党的领导与中国特色社会主义的关系，昭示了我们党对马克思主义建党学说和社会主义发展规律的认识达到新的高度。

　　中国特色社会主义是中国共产党团结带领人民历经百年奋斗开创的。中国共产党的领导是中国特色社会主义最本质的特征。回望历史，中国从四分五裂、一盘散沙到高度统一、民族团结，从积贫积弱、一穷二白到全面小康、繁荣富强，从被动挨打、饱受欺凌到独立自主、坚定自信，仅用几十年时间就走完发达国家几百年走过的工业化历程，创造了经济快速发展和社会长期稳定两大奇迹。党的十八大以来，以习近平同志为核心的党中央统筹中华民族伟大复兴战略全局和世界百年未有之大变局，全面贯彻党的基本理论、基本路线、基本方略，统揽伟大斗争、伟大工程、伟大事业、伟大梦想，采取一系列战略性举措，推进一系列变革性实践，实现一系列突破性进展，取得一系列标志性成果，经受住了来自政治、经济、意识形态、自然界等方面的风险挑战考验，党和国家事业取得历史性成就、发生历史性变革。事实雄辩地证明，中国人民和中华民族之所以能够扭转近代以后的历史命运、取得今天的伟大成就，最根本的是有中国共产党的坚强领导。

　　事在四方，要在中央。要治理好我们这样的大党大国，必须做到坚决维护党中央权威和集中统一领导。新征程上，夺取新时代中国特色社会主义新胜利，从根本上讲还是要靠党的领导这个“定海神针”，自觉维护党中央权威和集中统一领导，使党更好发挥总揽全局、协调各方的领导核心作用。坚持和加强党的全面领导，首先要深刻领悟“两个确立”的决定性意义，坚定维护党中央权威和集中统一领导。只要坚定不移坚持党的全面领导，我们就一定能够确保全党全国拥有团结奋斗的强大政治凝聚力、发展自信心，集聚起守正创新、共克时艰的强大力量，形成风雨来袭时全体人民最可靠的主心骨。

　　2.中国特色社会主义是实现中华民族伟大复兴的必由之路

　　方向决定道路，道路决定命运。“中国特色社会主义是实现中华民族伟大复兴的必由之路”的重要论断进一步深化了对坚持和发展中国特色社会主义的规律性认识，为全党全国各族人民奋进新征程指明前进方向。

　　一个国家实行什么样的主义，关键要看这个主义能否解决这个国家面临的历史性课题。近代中国积贫积弱、任人宰割，无数仁人志士为挽救民族危亡、实现民族振兴上下求索，各种主义和思潮轮番登场，但都没能解决中国的前途和命运问题。最终，用马克思主义武装起来的中国共产党领导中国人民建立新中国、开创并成功推进中国特色社会主义，使中国大踏步赶上了时代。党的十八大以来，党团结带领人民创造了前所未有的伟大奇迹：平均每年1000多万人脱贫，相当于一个中等国家的人口脱贫，脱贫攻坚的阳光照耀到了每一个角落，我国脱贫攻坚战取得了全面胜利，完成了消除绝对贫困的艰巨任务……新时代中国特色社会主义显示出强大生机活力，为实现中华民族伟大复兴提供了更为完善的制度保证、更为坚实的物质基础、更为主动的精神力量。事实雄辩地证明：中国特色社会主义是党和人民历经千辛万苦、付出巨大代价取得的根本成就，是实现中华民族伟大复兴的正确道路。这条道路走得对、走得通，而且也一定能够走得稳、走得好。

　　中国特色社会主义，既是我们必须不断推进的伟大事业，又是我们开创未来的根本保证。习近平总书记深刻指出：“走自己的路，是党的全部理论和实践立足点，更是党百年奋斗得出的历史结论。”当前，百年变局与世纪疫情交织叠加，世界进入动荡变革期。面对风云变幻的国际形势，从容应对关系我国改革发展稳定全局的一系列风险考验，需要进行具有许多新的历史特点的伟大斗争，必须坚持和完善中国特色社会主义制度、推进国家治理体系和治理能力现代化，运用制度威力应对风险挑战的冲击。只要我们始终不渝走中国特色社会主义道路，保持政治定力，坚持实干兴邦，就一定能够战胜前进道路上的一切艰难险阻，不断实现人民对美好生活的向往，迎来中华民族伟大复兴的光明前景。

　　3.团结奋斗是中国人民创造历史伟业的必由之路

　　“团结奋斗是中国人民创造历史伟业的必由之路”这一重要论述既深刻揭示党和人民奋进历程积累的宝贵经验，又鲜明发出奋进新征程、建功新时代的伟大号召，饱含着坚定的历史自信和强烈的历史担当。

　　力量生于团结，幸福源自奋斗。浴血奋战的革命岁月，我们党坚持紧紧依靠群众、广泛发动群众，与人民同甘共苦、团结奋斗，共同书写了民族独立、人民解放的壮丽史诗。发愤图强的建设时期，党领导全国各族人民广泛团结起来，携手并肩、战天斗地，实现了一穷二白、人口众多的东方大国大步迈进社会主义社会的伟大飞跃，并取得巨大成就。大潮激荡的改革年代，党充分激发蕴藏在人民群众中的创造伟力，团结带领人民大胆试、勇敢闯，大踏步赶上了时代。特别是党的十八大以来，面对前所未有的困难和挑战，以习近平同志为核心的党中央紧紧依靠人民，稳经济、促发展，战贫困、建小康，控疫情、抗大灾，应变局、化危机，攻克了一个个看似不可攻克的难关险阻，创造了一个个令人刮目相看的人间奇迹。事实雄辩地证明：党和人民取得的一切成就都是团结奋斗的结果，是党和人民一道拼出来、干出来、奋斗出来的，团结奋斗是中国共产党和中国人民最显著的精神标识。

　　团结才能胜利，奋斗才会成功。我们靠团结奋斗创造了辉煌历史，还要靠团结奋斗开辟美好未来。习近平总书记指出，“全党全国各族人民要在党的旗帜下团结成‘一块坚硬的钢铁’，心往一处想、劲往一处使，推动中华民族伟大复兴号巨轮乘风破浪、扬帆远航”。新征程上，我们还将面临种种可以预见和难以预见的风险挑战，甚至会遇到难以想象的惊涛骇浪。越是环境复杂，越需要勠力同心、众志成城的团结合力；越是征程壮阔，越需要踔厉奋发、笃行不怠的奋斗精神。只要在党的领导下全国各族人民团结一心、众志成城，敢于斗争、善于斗争，我们就一定能战胜前进道路上的一切困难，汇聚起奋进新征程、建功新时代的磅礴力量，继续创造令人刮目相看的新的奇迹。

　　4.贯彻新发展理念是新时代我国发展壮大的必由之路

　　新发展理念，是在深刻总结国内外发展经验教训的基础上形成的，也是在深刻分析国内外发展大势的基础上形成的，集中反映了我们党对经济社会发展规律的新认识。

　　我们党领导人民治国理政，很重要的一个方面就是要回答好实现什么样的发展、怎样实现发展这个重大问题。进入新时代，我国经济社会发展的阶段性特征已经从“有没有”转向“好不好”，原有的发展理念已经不能适应新的发展要求。以习近平同志为核心的党中央深刻总结国内外发展经验教训、深刻分析国内外发展大势，创造性地提出创新、协调、绿色、开放、共享的新发展理念，系统回答了关于发展的目的、动力、方式、路径等一系列理论和实践问题，具有很强的战略性、纲领性、引领性。十年来，在新发展理念引领下，我国实现了从高速增长阶段向高质量发展阶段的历史性转变，经济实力实现历史性跃升，国内生产总值从54万亿元增长到114万亿元，人均国内生产总值超1.2万美元，经济总量占世界经济的比重达18.5%，提高7.2个百分点，稳居世界第二位。事实雄辩地表明，新发展理念是指挥棒、红绿灯，是我国新时代发展思路、发展方向、发展着力点的集中体现，是管全局、管根本、管长远的导向。

　　当前，我国已在全面建成小康社会、实现第一个百年奋斗目标的基础上，开启全面建设社会主义现代化国家新征程、向第二个百年奋斗目标进军。我国经济发展的前景十分光明、任务十分繁重，同时，我国发展内外环境发生深刻变化，机遇和挑战都有新的发展变化。习近平总书记强调：“全党必须完整、准确、全面贯彻新发展理念。”新征程上，要把新发展理念贯彻到经济社会发展全过程和各领域。坚持从根本宗旨把握新发展理念，从问题导向把握新发展理念，从忧患意识把握新发展理念。只要完整、准确、全面贯彻新发展理念，加快构建新发展格局，推动高质量发展，加快实现科技自立自强，我们就一定能够不断提高我国发展的竞争力和持续力，在日趋激烈的国际竞争中把握主动、赢得未来。

　　5.全面从严治党是党永葆生机活力、走好新的赶考之路的必由之路

　　打铁必须自身硬。“全面从严治党是党永葆生机活力、走好新的赶考之路的必由之路”这一重要论断揭示了全面从严治党和党长期执政规律，开辟了百年大党自我革命的新境界。

　　作为一个长期执政的大党，如何跳出治乱兴衰的历史周期率？这是党长期面临的严峻考验。我们党能够从最初的50多名党员发展到今天的9600多万名党员，战胜一个又一个困难，取得一个又一个胜利，关键在于始终坚持党要管党、全面从严治党。党的十八大以来，面对管党治党宽松软的状况，以习近平同志为核心的党中央以“十年磨一剑”的定力推进全面从严治党，以“得罪千百人、不负十四亿”的使命担当开展了史无前例的反腐败斗争，打了一套自我革命的“组合拳”，针对“七个有之”等严重影响党的形象和威信、严重损害党群干群关系的突出问题，祛疴治乱，不敢腐、不能腐、不想腐一体推进，“打虎”“拍蝇”“猎狐”多管齐下，刹住了一些多年未刹住的歪风邪气，解决了许多长期没有解决的顽瘴痼疾，清除了党、国家、军队内部存在的严重隐患，反腐败斗争取得压倒性胜利并全面巩固。经过坚决斗争，党在革命性锻造中更加坚强，党群、干群关系更加密切，党心民心更加凝聚，党的执政根基坚如磐石。事实雄辩地证明，自我革命是我们党跳出历史周期率的第二个答案。

　　“自知者英，自胜者雄。”民族复兴梦想越接近，改革开放任务越繁重，越要加强党的建设。我们党面临的“四大考验”“四种危险”是长期的、复杂的、严峻的。新征程上，我们要坚持党中央集中统一领导，在各级党组织和广大党员干部中强化政治意识、大局意识、核心意识、看齐意识，确保在思想上政治上行动上始终同党中央保持高度一致。继续大力弘扬伟大建党精神，不忘初心使命，牢记全面从严治党永远在路上，党的自我革命永远在路上，不断增强党自我净化、自我完善、自我革新、自我提高能力，提高党的领导水平和执政水平、增强拒腐防变和抵御风险能力，确保党永远不变质、不变色、不变味，使党始终成为中国特色社会主义事业的坚强领导核心。

　　《光明日报》（ 2023年01月09日 06版）

　　（文图：赵筱尘 巫邓炎）