点击右上角
微信好友
朋友圈
请使用浏览器分享功能进行分享
【法治护我心】划定深度合成服务“底线”“红线”******
【法治护我心——《互联网信息服务深度合成管理规定》系列解读】
光明网记者 陈畅、李政葳
“雾里看花，水中望月，你能分辨这变幻莫测的世界……”如果把上个世纪九十年代这首“315”晚会歌曲，用来描述当下互联网时代的“云”上生活，在技术发展与风险伴生之下，“虚”“实”之间让人颇有迷幻之感。
“再也不敢相信自己的眼睛和耳朵。”当换脸换声、三维重建、智能对话等逐渐应用开来，人们时常发出这样的感叹。这类深度合成服务催生了美颜美妆、智能客服、虚拟主播等一系列应用形态，但其被恶意利用制作虚假信息内容，进而带来了政策干扰、谣言泛滥、低俗内容等。因此，我们也在呼吁——“借我一双慧眼，把这纷扰看个清清楚楚明明白白……”
纵观互联网发展历程，技术治理本身就是一场攻防对抗博弈，也是技术从创新应用到规范发展的必经之路。近日，这项深度合成技术被套上了“紧箍咒”——国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》），自2023年1月10日起施行。
法立于上则俗成于下。《规定》出台划定了深度合成服务的“底线”和“红线”， 迈出我国新技术新应用立法的重要一步，也将有效维护网络空间良好生态。
明确义务要求，强化主体责任
事实上，深度合成技术由来已久。随着深度学习技术、特别是对抗式生成网络技术的发展，深度合成技术门槛大幅降低。2017年11月，Reddit网站的用户“deepfakes”发布伪造视频，曾一度将这项技术推至风口浪尖，其“以假乱真”的信息内容严重威胁国家安全、干扰社会秩序。
何为“深度合成技术”？《规定》中给出了明确表述——指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。
具体包括：篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术，文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术，音乐生成、场景声编辑等生成或者编辑非语音内容的技术，人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术，图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术，三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术等。
诚然，从技术进步的角度看，深度合成技术应用的初衷是让生成合成内容更逼真，但技术在愈趋“智能”的同时，也不可避免地带来更多风险。对此，中国科学院信息工程研究所所长孟丹介绍，除深度伪造风险外，还包括生成合成信息内容带来的个人信息泄漏、侵犯人格权和知识产权等他人合法权益等风险。
深度合成服务提供者和技术支持者既是新技术、新应用的创造者、受益者，也应该是控制技术风险、引导技术向善的责任践行者。记者梳理发现，《规定》明确了深度合成技术定义和服务范围，提出了服务提供者落实信息安全主体责任，指出了服务提供者和技术支持者备案义务，并对服务提供者履行安全评估和配合监督检查义务提出具体要求。
中国科学院自动化研究所所长徐波这样评价：《规定》分析梳理了深度合成活动边界，对深度合成服务提供者、技术支持者和使用者以及应用程序分发平台等主体应履行的责任义务作出规定。比如，服务提供者应履行建立健全管理制度、对使用者真实身份信息认证、加强深度合成信息内容管理等义务，服务提供者和技术支持者应履行加强训练数据管理、加强深度合成技术管理等义务。
健全技术支撑体系，促进科技向上向善
从此起彼伏的社会案件中可以看出，深度合成信息内容制作和传播数量正在高速增长，尤其伴随“元宇宙”等新模式、新场景不断落地，深度合成技术将为智能化、视觉化、场景化、虚拟化的互联网信息服务发展提供更多技术方案。孟丹认为，《规定》的出台是网络内容治理由结果管理迈向行为管理的重要一步，标志着我国网络空间治理能力进一步优化提升。
时间倒回到两年前。在2021年12月，国家互联网信息办公室发布《互联网信息服务算法推荐管理规定》，对包括生成合成类在内的五类算法推荐服务进行规范。本次出台的新规在之前算法规定的基础上，加强对深度合成服务全过程管理，也深化了备案与评估标本兼治。
然而，从技术发展阶段看，深度合成技术与应用管理仍处于起步阶段，在技术支撑和能力建设方面还有待进一步加强。“加快推进深度合成治理技术支撑体系建设，是切实保障深度合成服务治理工作有力有序推进的关键。”孟丹说。
《规定》的字里行间，凸显了“以技术管技术”的逻辑，也必将促进深度合成服务的规范治理。“其确立了我国对深度合成服务的治理框架，提出了明确的数据和技术管理规范，为促进深度合成技术向上向善，引导相关产业健康发展，确保互联网信息内容安全提供了有力的制度保障。”中国政法大学副校长时建中说。
“《规定》以促进技术在规范中发展为价值取向，在明确‘红线’的同时，为技术发展留足空间。”中国信息通信研究院副院长王志勤这样认为。比如，《规定》要求深度合成服务提供者应当建立算法机制机理审核、科技伦理审查等管理制度。
孟丹也建议，从深度合成信息内容源头上，解决其衍生的内容安全风险，利用技术创新、技术对抗等方式持续提升和迭代检测技术的能力，不仅着眼于管理好、使用好、发展好深度合成技术及相关服务，也致力于深度合成技术的合法合理合规使用，促进深度合成技术及相关服务健康有序的发展。
引导多方参与，推动治理走深向实
随着数字化、智能化进程不断加快，互联网信息服务综合治理不断细化，规范深度合成活动对营造健康安全的网络空间有着重要意义。国家互联网信息办公室有关负责人表示，深度合成服务治理需要政府、企业、社会、网民等多方主体参与，推动深度合成技术的依法、合理、有效使用，积极防范化解深度合成技术带来的风险，促进互联网信息服务健康发展。
《规定》明确提到，国家和地方网信部门统筹协调深度合成服务的治理和相关监督管理职责，国务院电信主管部门、公安部门以及地方相关部门的监督管理职责。
王志勤认为，《规定》构建了统筹协调、多方参与的监管体制；《规定》鼓励相关行业加强行业自律，搭建齐抓共管、协同共治的治理机制；《规定》通过系统化的制度安排，进一步构建完善了我国网络综合治理法治体系。
孟丹也提到，《规定》在生成合成类算法服务范围、深度合成技术具体范围、深度合成服务业务分类、显式标识条件与标识方式、隐式标识方法与识别等诸多具体方面，仍亟需行业内部进一步细化相关配套标准规范。在实际落地过程中，建议业内推进产业联盟建立，以产业自治、多方共治的方式，不断推进深度合成技术应用高质量发展。
为推动深度合成治理走深向实，徐波建议，强化智能监管平台支撑。比如，深入研究深度合成类算法内生安全机理和深度合成鉴别等关键技术，推动深度合成管理技术能力建设；加强人机混合的智能监管技术，研究深度合成服务提供者的安全可控技术保障方案，把监管规范转化为评估标准，建设面向网络全域监管的监测管理平台；研发深度合成与鉴别对抗机制，鼓励新兴科技企业与研究机构开展技术演练，共同推动深度合成服务健康发展。
谢新洲等：新媒体嵌入社会的现实与挑战******
如今以互联网为代表的新媒体已经渗透社会生活的方方面面。即时通信、网络视频、短视频、网络支付、网络购物、网络新闻等多元应用场景积聚了相当大的用户规模。新媒体凭借其空前的传播、连接、组织和创新能力，深刻且持续地变革着内容生产和传播方式、社会资源调度和转化方式，对社会生产生活产生了深远影响。
新媒体对社会生活的嵌入与重构
伴随互联网、物联网、大数据等技术的发展，当前的新媒体已不仅仅是一种媒介形态，更是一种网络化的媒介环境、泛在的信息场域和多态的存在方式，结合多个场景重新建构着人们的日常生活。新媒体以内容多元化、关系网络化、组织平台化、数据资源化等方式嵌入社会生活，呈现出“工具－媒体－平台－空间－社会”的生态化发展路径。
内容多元化：从“万物皆媒”到“元宇宙”
新媒体降低了内容生产与传播的门槛，用户兼具内容生产者、传播者、消费者等多重身份，从源头上释放了网络内容的多元性。在参与式文化的拓展下，用户可以便利地进行个性化表达。以往依附于组织单位的内容管理方式和文化娱乐方式被打破，人工智能、传感器、可穿戴设备等技术强化并拓展了个体的感知能力和方式。新媒体从“人的延伸”发展为“人的具身”。现实社会被建构成数字化形态，线上与线下的界限进一步弥合。互联网不再只是现实的“镜像”，人们开始追求在泛在化的内容生态中形塑个性化空间。“元宇宙”便在从内容多元向体验多元的发展趋势下成为社会热点。
关系网络化：从“趣缘格局”到“数字生存”
新媒体打破了时空桎梏，用户可以随时依照个人志趣或诉求彼此接近、连接，形成以“趣缘”为核心的社会关系。这种连接既可以是小范围的“面对面建群”，也可以是凝聚多方合力的“协作文档”。连接的建立、维系、终止变得临时且随意，形成大大小小的各类网络社群。网络社群以去中心化特征解构传统社会组织的结构形态、拓展基于社会关系的信息获取方式。随着移动互联网、大数据、云计算等技术的发展，人们的生活、学习和工作进一步向新媒体环境延伸，带来供需关系、合作关系、工作关系、学习关系等的网络化。由此，关系网络化的嵌入方式在网络关系建立的基础上，又增添了现实关系网络化的内涵。
组织平台化：从“超级平台”到“基础设施”
新媒体促进了社会资源的整合和流动，信息化、网络化建设将社会组织内部各部门、外部多主体加以串联，极大促进了资源配置的效率和效益。新媒体平台凭借其既有的技术能力和用户基础，由原来简单意义上的信息内容传播渠道，进阶为信息内容服务主体，深度嵌入经济社会发展与社会关系网络。一方面，新媒体平台利用其以可编程性、普及性、连接性、数据化为基本特征的技术“资产”(如应用程序接口API)，以数据为流通介质，设计出有限开放、自主可控的合作框架，成为相关产业链(如内容、广告、营销)的中心；另一方面，通过战略性地构建起技术平等、话语平等、机会平等的话语体系和组织氛围，平台将广大的内容生产者凝聚起来，配套以由平台主导的规则体系，成为内容生产、审核、分发、变现、评估的中心。平台纷纷构建“生态化”的商业版图，将用户、数据、关系等多种资源纳入其生态体系，持续向外拓展着功能边界和社会连接，以“服务工具”“舆论场域”“生活场景”“营收来源”等多元样态成为“基础设施”式的存在，其公共性愈发凸显。
数据资源化：从“服务要素”到“生产要素”
新媒体揭示了数据的作用和潜力，特别是在平台化趋势下，数据成为重要的生产资料和治理资源。数据的资源化转向首先体现在网络政务服务领域，从政府信息化到电子政务再到数字政府，新媒体技术的快速革新不仅对政府的管理模式和社会治理方式提出了新要求，也通过内容多元化、关系网络化、组织平台化为创新治理与服务方式提供了必要的数据支撑。比如在新冠肺炎疫情防控工作中，“健康码”将新媒体平台这一关键的网络节点与嵌入在现实场景的物理节点有机结合，以“扫码”的方式实现个人位置和健康信息的数字化、行程轨迹和社会关系的网络化，构建起覆盖全国的防疫网络，对疫情防控、复工复产起到关键作用。伴随数字经济的发展和成熟，数据被正式列为我国五大生产要素之一，与土地、劳动力、资本、技术并列。数据不再仅仅是“依据”“反馈”的来源，而是更加直接地作为基本价值单位参与到市场化配置中，具备“孵化”“创新”“再生产”功能，成为推动经济社会高质量发展的新动能。
新媒体嵌入社会带来的问题与挑战
随着新媒体嵌入社会的方面增多、程度加深，新媒体逐渐从经济社会发展的外生变量转变为内生变量，对内容生产逻辑、用户行为逻辑、社会组织逻辑、市场运转逻辑、社会治理逻辑等产生根本性影响。一方面要着眼于新媒体社会嵌入的方式和维度，找到“管好”“用好”新媒体的逻辑与规律；另一方面则要充分体察新媒体发展的生态化取向，相关研究及治理工作要从客体性视角向环境域视角转移。具体而言，在新媒体社会嵌入的趋势下，有以下几个关键问题亟须解决。
多元化带来的内容治理难题
新媒体的发展，特别是平台的兴起，带来内容生产、分发、传播、消费机制的变革，重塑公共舆论、丰富网络文化的同时，也带来了网络内容治理难题。
在公共舆论方面，公共事件所触发的社会舆论从酝酿、萌芽、爆发至平息的全过程，不再由传统的大众媒体单向垄断信息资源，取而代之的是网状结构下多元化、社会化的内容生产。开放的平台环境降低了参与门槛，只要遵从平台的内容规则，用户就可以获取平台提供的即时性信息交互服务，参与到包含公共信息在内的内容生产、传播、交流和互动中。民众发表意见、参与公共事务以及建立社会网络的积极性和主动性显著增强，同时也带来由于表达主体扩充导致的信息质量良莠不齐、信息溯源难度大等问题。
在网络文化方面，新媒体为一些亚文化提供了组织和发展的“栖身之地”。但某些消极亚文化借此隐蔽扩张，滋生和宣扬畸形的价值观，危害群体成员的身心健康，动摇社会价值根基，具有一定的社会风险。亚文化群体成员往往容易被社群共同的情感认同所绑架，在“流量至上”的市场逻辑和平台规则下，朴素的情感诉求容易被资本挟持用于牟利，甚至诱发非理性的群体行为，扰乱社会秩序。同时，一些平台不惜包庇消极亚文化现象及相关有害内容以赚取“灰色流量”，从而增大了相关部门治理难度。
进一步而言，在以用户关系连接为核心的新媒体平台上，传播的个人化和社会化特征明显，但也容易导致传播的圈层化、社群化。在目前主要的网络舆论场域中，依托算法的信息分发和社会网络建构方式让用户更多地接触到跟自己观点和态度接近的信息，用户越来越难以接受其他不同观点，长期被算法塑造、牵制的价值观一旦定型便很难改变。此外，新媒体环境下公众意见的呈现和聚合机制受平台规则及其对信息流的规制影响较大，这就导致舆论的形成和发展容易受到平台商业利益的操控。由私人部门来裁决、量定公共事件中的话语权，必然会面临个体利益和公众利益失衡的问题。
网络化凸显的用户导向不足
党的十九大报告在加强和创新社会治理方面提出，明确全面深化改革总目标是完善和发展中国特色社会主义制度、推进国家治理体系和治理能力现代化。提升治理能力的一个重要举措就是转变政府角色，动员更多的社会主体参与对公共事务的管理。新媒体的信息和互动功能使其具备了媒体和社会网络的技术特征，并彰显多主体影响社会治理的过程。
目前大部分政府机构对新媒体的利用主要体现在内部的信息沟通和对外的信息公开。通过内部的机构重组和资源整合，在集约化的生产模式下及时掌握、发布行业或地域内的重要政治和民生新闻，一定程度上减少了信息疏漏、口径不统一、资源浪费等现象。一些地区借助短视频、网络直播等新兴方式，创新宣传策略和手段，以一种更贴近群众喜好的方式传播新闻和信息，提升了主流声音的传播力和政务信息的透明度。
然而，在获取社情民意方面，一些由政府部门或主流媒体搭建的新媒体平台上，虽然设置了“爆料”“信箱”等功能供民众发声，但后续反馈仍有欠缺。这种现象在资源相对匮乏的基层表现得更为显著，基层网络政务服务在功能定位上呈现出明显的“重宣传而轻服务”问题，服务能力有限，意见反馈渠道不够畅通。新媒体在公共对话上的功能优势未能得到充分利用和体现，政务服务平台未能真正嵌入当地居民的社会网络和行为习惯中。
资源化警示的数据安全风险
数据安全和网络安全是新媒体嵌入社会特别是数据资源化给主权国家带来的治理难题。网络空间的主权化倾向明显，地缘政治色彩加重，国家网络安全已经成为全球互联网治理的基本议题。
从政治层面看，数据是未来国际政治竞争的关键资源。社交媒体可能在人工智能加持下成为霸权的“武器”，通过算法推荐向全世界全方位、全时空、全天候地传递符合其价值标准、意识形态、外交政策、商业理念和社会文化的信息，此举实质上是以数据操纵、改变人们的思想。
从经济层面看，数据流动对全球经济增长的贡献已经超过传统的跨国贸易和投资，支撑了包括商品、服务、资本、人才等几乎所有类型的全球化活动，深入全球供应链的方方面面。国家和地区之间的数据依赖越来越强。一些国家以数据安全和公民个人隐私安全政策为由，对涉及国家关键基础设施、关键技术和公民敏感信息的海外产业进行带有意识形态的制裁，甚至将其作为国际政治博弈的工具。数字经济的蓬勃发展使得数据与实体经济的各个领域融合渗透，模糊了依托泛在连接技术构建的网络空间的边界。这一特性带来了网络形态的持续快速变动，加大了网络威胁向社会各领域蔓延的不可预测性。
在数据成为重要战略资源的当下，如何科学合理地将数据主权与安全纳入国家核心利益的范畴，确保数据资源的完整性、保密性和可用性，衡量好国家安全与经济发展的关系，是后疫情时期新媒体管理与互联网治理的焦点。
作者： 谢新洲 石林 (谢新洲系北京大学新媒体研究院院长；石林系北京大学新媒体研究院博士研究生)
来源：《中国网信》2022年第1期
（文图：赵筱尘 巫邓炎） [责编：天天中] 阅读剩余全文（）  视觉焦点
快盈官网地图 |
)