【法治护我心】划定深度合成服务“底线”“红线”******
【法治护我心——《互联网信息服务深度合成管理规定》系列解读】
光明网记者 陈畅、李政葳
“雾里看花,水中望月,你能分辨这变幻莫测的世界……”如果把上个世纪九十年代这首“315”晚会歌曲,用来描述当下互联网时代的“云”上生活,在技术发展与风险伴生之下,“虚”“实”之间让人颇有迷幻之感。
“再也不敢相信自己的眼睛和耳朵。”当换脸换声、三维重建、智能对话等逐渐应用开来,人们时常发出这样的感叹。这类深度合成服务催生了美颜美妆、智能客服、虚拟主播等一系列应用形态,但其被恶意利用制作虚假信息内容,进而带来了政策干扰、谣言泛滥、低俗内容等。因此,我们也在呼吁——“借我一双慧眼,把这纷扰看个清清楚楚明明白白……”
纵观互联网发展历程,技术治理本身就是一场攻防对抗博弈,也是技术从创新应用到规范发展的必经之路。近日,这项深度合成技术被套上了“紧箍咒”——国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》(以下简称《规定》),自2023年1月10日起施行。
法立于上则俗成于下。《规定》出台划定了深度合成服务的“底线”和“红线”, 迈出我国新技术新应用立法的重要一步,也将有效维护网络空间良好生态。
明确义务要求,强化主体责任
事实上,深度合成技术由来已久。随着深度学习技术、特别是对抗式生成网络技术的发展,深度合成技术门槛大幅降低。2017年11月,Reddit网站的用户“deepfakes”发布伪造视频,曾一度将这项技术推至风口浪尖,其“以假乱真”的信息内容严重威胁国家安全、干扰社会秩序。
何为“深度合成技术”?《规定》中给出了明确表述——指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。
具体包括:篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术,文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术,音乐生成、场景声编辑等生成或者编辑非语音内容的技术,人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术,图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术,三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术等。
诚然,从技术进步的角度看,深度合成技术应用的初衷是让生成合成内容更逼真,但技术在愈趋“智能”的同时,也不可避免地带来更多风险。对此,中国科学院信息工程研究所所长孟丹介绍,除深度伪造风险外,还包括生成合成信息内容带来的个人信息泄漏、侵犯人格权和知识产权等他人合法权益等风险。
深度合成服务提供者和技术支持者既是新技术、新应用的创造者、受益者,也应该是控制技术风险、引导技术向善的责任践行者。记者梳理发现,《规定》明确了深度合成技术定义和服务范围,提出了服务提供者落实信息安全主体责任,指出了服务提供者和技术支持者备案义务,并对服务提供者履行安全评估和配合监督检查义务提出具体要求。
中国科学院自动化研究所所长徐波这样评价:《规定》分析梳理了深度合成活动边界,对深度合成服务提供者、技术支持者和使用者以及应用程序分发平台等主体应履行的责任义务作出规定。比如,服务提供者应履行建立健全管理制度、对使用者真实身份信息认证、加强深度合成信息内容管理等义务,服务提供者和技术支持者应履行加强训练数据管理、加强深度合成技术管理等义务。
健全技术支撑体系,促进科技向上向善
从此起彼伏的社会案件中可以看出,深度合成信息内容制作和传播数量正在高速增长,尤其伴随“元宇宙”等新模式、新场景不断落地,深度合成技术将为智能化、视觉化、场景化、虚拟化的互联网信息服务发展提供更多技术方案。孟丹认为,《规定》的出台是网络内容治理由结果管理迈向行为管理的重要一步,标志着我国网络空间治理能力进一步优化提升。
时间倒回到两年前。在2021年12月,国家互联网信息办公室发布《互联网信息服务算法推荐管理规定》,对包括生成合成类在内的五类算法推荐服务进行规范。本次出台的新规在之前算法规定的基础上,加强对深度合成服务全过程管理,也深化了备案与评估标本兼治。
然而,从技术发展阶段看,深度合成技术与应用管理仍处于起步阶段,在技术支撑和能力建设方面还有待进一步加强。“加快推进深度合成治理技术支撑体系建设,是切实保障深度合成服务治理工作有力有序推进的关键。”孟丹说。
《规定》的字里行间,凸显了“以技术管技术”的逻辑,也必将促进深度合成服务的规范治理。“其确立了我国对深度合成服务的治理框架,提出了明确的数据和技术管理规范,为促进深度合成技术向上向善,引导相关产业健康发展,确保互联网信息内容安全提供了有力的制度保障。”中国政法大学副校长时建中说。
“《规定》以促进技术在规范中发展为价值取向,在明确‘红线’的同时,为技术发展留足空间。”中国信息通信研究院副院长王志勤这样认为。比如,《规定》要求深度合成服务提供者应当建立算法机制机理审核、科技伦理审查等管理制度。
孟丹也建议,从深度合成信息内容源头上,解决其衍生的内容安全风险,利用技术创新、技术对抗等方式持续提升和迭代检测技术的能力,不仅着眼于管理好、使用好、发展好深度合成技术及相关服务,也致力于深度合成技术的合法合理合规使用,促进深度合成技术及相关服务健康有序的发展。
引导多方参与,推动治理走深向实
随着数字化、智能化进程不断加快,互联网信息服务综合治理不断细化,规范深度合成活动对营造健康安全的网络空间有着重要意义。国家互联网信息办公室有关负责人表示,深度合成服务治理需要政府、企业、社会、网民等多方主体参与,推动深度合成技术的依法、合理、有效使用,积极防范化解深度合成技术带来的风险,促进互联网信息服务健康发展。
《规定》明确提到,国家和地方网信部门统筹协调深度合成服务的治理和相关监督管理职责,国务院电信主管部门、公安部门以及地方相关部门的监督管理职责。
王志勤认为,《规定》构建了统筹协调、多方参与的监管体制;《规定》鼓励相关行业加强行业自律,搭建齐抓共管、协同共治的治理机制;《规定》通过系统化的制度安排,进一步构建完善了我国网络综合治理法治体系。
孟丹也提到,《规定》在生成合成类算法服务范围、深度合成技术具体范围、深度合成服务业务分类、显式标识条件与标识方式、隐式标识方法与识别等诸多具体方面,仍亟需行业内部进一步细化相关配套标准规范。在实际落地过程中,建议业内推进产业联盟建立,以产业自治、多方共治的方式,不断推进深度合成技术应用高质量发展。
为推动深度合成治理走深向实,徐波建议,强化智能监管平台支撑。比如,深入研究深度合成类算法内生安全机理和深度合成鉴别等关键技术,推动深度合成管理技术能力建设;加强人机混合的智能监管技术,研究深度合成服务提供者的安全可控技术保障方案,把监管规范转化为评估标准,建设面向网络全域监管的监测管理平台;研发深度合成与鉴别对抗机制,鼓励新兴科技企业与研究机构开展技术演练,共同推动深度合成服务健康发展。
安全滑雪知多少?20条守则须记牢******
日前,国家体育总局公布了第一批高危险性体育赛事活动目录,滑雪赛事位列其中。国际滑雪联合会此前也公布过《十大安全准则》,提示滑雪爱好者遵守规则,安全滑雪。滑雪作为一项高危险性运动,无论是初学者还是资深雪友,都要把安全意识放在第一位。
滑雪前需要做好哪些防护,滑雪中如何避免发生碰撞、出现伤病如何救治,滑雪后如何快速恢复?带着这些问题,新京报记者专访郭丹丹、方森、倪守军、连文志等滑雪专家和运动医学专家,详解滑雪过程中需要注意的相关事项,在安全的前提下享受滑雪运动带来的乐趣。
滑雪前
严禁酒后滑雪
所有的滑雪场安全提示中,都有一条“严禁酒后滑雪”。方森表示,滑雪需要很好的平衡能力,滑雪之前千万不要喝酒。同时,患有心脏病、高血压等基础病的群体也不建议滑雪,“一旦出现意外,小的雪场还好,巡逻员可能会及时发现。如果在较大的雪场,很难第一时间被发现。”
了解雪场环境
滑雪前一定要了解滑雪场的雪道环境,认真阅读雪场安全提示,准确掌握各条雪道的坡度、长度和难度,根据自身水平选择合适的雪道,更不要滑出滑雪场界线。“不要盲目尝试超出能力范围的更高级的雪道,否则就等于把自己和他人置于危险的境地。”倪守军说。
方森介绍,每到一个陌生的雪场时,他会找一个熟悉环境的朋友或教练当向导,尽快了解雪场周围的环境。特别是滑野雪,一棵树看上去只露个尖,但底下可能就是个几米深的大坑。
装备心中有数
滑雪服、头盔、雪镜、雪板、雪杖、雪鞋这些装备都可以在滑雪场租到,手套、帽子、护脸等防护用品也要准备好。郭丹丹表示,装备准备齐全,到了雪场不至于手忙脚乱,也会省去很多时间。否则滑雪前一通忙活,人会烦躁,体验感也不好。
护肤不可忽视
滑雪虽然是一个冬季项目,但对防晒有很高的要求。方森介绍,因为长时间在雪场,滑雪教练脸上通常都会出现“熊猫脸”,大家在滑雪前一定要涂抹防晒霜、戴上护脸,保护好皮肤。
热身微微出汗
雪场气温低,滑雪前要进行充分热身,激活身体肌肉,防止滑雪时摔倒受伤。连文志介绍,穿上雪鞋前可以进行一些深蹲或者原地小碎步跑训练,心率达到100左右或者感觉后背微微出汗即可。
新手请个教练
滑雪不是一个容易上手的项目,新手最好在教练的指导下进行。郭丹丹指出,如果条件允许,一定要请个教练,看上去是多了一份开销,但非常有必要,“有时候这些技术就像窗户纸,一捅就破。而且你学会了以后,也会变身一个小教练去教其他朋友。”
滑雪中
“超车”留足空间
滑雪过程中处处要牢记安全意识,不要撞到别人,也不要被别人撞到。同时,选择在合适的雪道滑行,注意避让一些障碍物,减少不安全的因素。方森介绍,滑行过程中如果想要超越其他人,一定要留出足够的空间。前方滑雪者有雪道使用的优先权,发生碰撞责任在后方滑雪者。
摔倒时扔雪杖
滑雪是一项“摔”出来的运动,滑雪过程中摔倒在所难免,但一定要学会如何正确地摔倒以及起身。倪守军介绍,双板选手摔倒时要扔掉雪杖,双手抱在胸前向雪板一侧倾斜倒下;单板选手可以向后蹲坐下去或者往前扑倒,一定注意避免头部、手腕、肩部跟地面直接发生碰撞。
摔倒后要避让
如今滑雪爱好者越来越多,各大雪场节假日人流更是趋于饱和。雪圈有句俗话“不怕摔、就怕撞”。初学者如果在雪道上摔倒,应尽快脱板起身让开雪道,到雪道两侧或是不影响他人滑行的地方重新穿好雪板,防止被撞伤。
切记不要扎堆
初学者往往是三五好友一同来到雪场,切记不要扎堆滑行,要保持一定的安全距离,否则很容易发生碰撞。方森介绍,摔倒时通常伤情都不太严重,比较严重的多是被人撞伤。如发现前方有雪友摔倒应及时避开,实在来不及时可以主动摔倒,避免对他人造成二次伤害。
坐魔毯勿打闹
在雪场乘坐魔毯(初、中级雪道的交通方式,也叫雪场电梯)时,一定要注意力集中,这同时关系到身边雪友们的安全。方森介绍,双板爱好者乘坐魔毯时,一定要让雪板处在平行状态,雪板不要交叉。在魔毯上不要跟同伴打闹,身体也不要有多余动作,很多时候都是在猛一回头时摔倒的。一旦发生意外,工作人员会第一时间停止魔毯运行,这也有可能造成更多人摔倒。技术好的单板爱好者可以单脚滑行至魔毯,如果是初学者则建议把雪板脱下来抱着,这样相对安全一点。
累了就要休息
方森强调,滑雪时感觉到累了,就一定要休息,很多事故往往都出现在最后一趟滑行中。人一旦疲劳,身体便心有余而力不足。脑子里想着一个动作,但腿上使不出劲了。这时候如果再坚持继续滑雪,很容易出现事故。
骨折及时固定
滑雪最容易损伤的部位是膝关节,其中前交叉韧带、内侧副韧带和半月板损伤最为常见,再严重一点可能会出现骨折。连文志表示,如果出现膝关节骨折情况,一定要及时固定,否则容易穿破动脉神经,引起严重的并发症。可以把雪杖或雪板当作支架把膝关节保护起来,然后转移到一个安全的地方,等待救护人员到达。
肩伤立即停滑
除了膝关节,肩关节也是滑雪过程中容易受伤的部位。一旦出现肩关节脱位等情况,要联系医护人员或直接去医院,不要自行复位。连文志强调,肩部出现伤病后,一定不要再继续滑雪,此时身体平衡受到破坏,滑行过程中很容易摔倒,出现二次受伤的情况。
头受伤禁喝水
滑雪中尽管佩戴了头盔,但仍有可能出现脑外伤情况。连文志强调,出现颅脑受伤时,一定不要吃东西,也不要喝水,等待医生救治,“这时候喝水,可能会因为呛咳引起肺炎,医学上叫吸入性肺炎,是非常危险的。”
雪板可当担架
与双板不同,单板滑雪摔倒时多是臀部、背部着地,严重时会出现腰椎骨折、尾椎骨折等。一旦摔倒后出现腰部疼痛,或者下肢活动受限、下肢活动障碍等情况,有可能是发生了腰椎骨折。这时候的救治非常重要,可将雪板脱下充当担架,伤者一定不要再起身,也不要做弯腰、扭腰等动作,等待医生救治。
滑雪后
排酸缓解疲劳
连文志介绍,滑雪结束后,要及时进行拉伸活动,尽快将肌肉中的乳酸排出,减轻第二天肢体酸痛感。如果不做拉伸活动,肢体酸痛情况可能会持续3至5天。除了拉伸,滑雪后也可使用筋膜枪对肌肉适当按摩,缓解疲劳。
适当补充能量
由于是一项室外低温项目,滑雪后要适当补充热水。方森介绍,滑雪过程中会消耗大量热量,大家可以备点牛肉干或巧克力快速补充热量。另外,泡温泉也是一种运动后很好的放松方式。日本的很多雪场都配套有温泉,滑雪后泡泡温泉可以及时放松身体。
及时更换内衣
滑雪过程中容易出汗,滑雪后要及时更换内衣,预防感冒。注意滑雪时不要穿棉质的贴身内衣,不易排汗。
注重日常锻炼
滑雪是一项高强度运动,非雪季时也要适当锻炼身体,良好的肌肉力量可以保证运动时的灵敏性,肌肉力量不强的人容易产生疲劳,增加运动损伤风险。连文志称,跑步、自行车等都是不错的健身方式,平板支撑、俯卧撑等也能很好锻炼腰背部核心肌力。肌肉力量好了,滑雪过程中就不容易摔倒和受伤。
(文图:赵筱尘 巫邓炎)