如何守护网络课堂空间******
光明日报记者 常莹
近几年,网课已成为不可或缺的教学方式,不少学校通过会议软件、直播平台等开展教学活动。而以“网课爆破”为代表的网络暴力也开始入侵在线课堂,不少师生深受其扰。前段时间,河南新郑三中老师网课遭入侵后离世的消息引发广泛关注。这一事件将“网课爆破”一词推向公共视野。
日前,中央网信办印发《关于切实加强网络暴力治理的通知》,提出“建立健全网暴预警预防机制,强化网暴当事人保护,严防网暴信息传播扩散,依法从严处置处罚”,旨在切实加大网暴治理力度,进一步压实网站平台主体责任,健全完善长效工作机制,有效保障广大网民合法权益,维护文明健康的网络环境。
“网课爆破”究竟是什么?为何在网络课堂中出现?我们又该采取什么样的措施制止“网课爆破”,保障网课安全?记者就此展开了采访。
在内蒙古呼和浩特市赛罕区南门外小学,教职工在监控室里查看网课录制情况。新华社发
1.谁在扰乱教学秩序
新郑三中教师遭“网课爆破”的事件,让很多人开始警惕,教师也成了网络暴力的围猎对象。
遭受“网课爆破”的新郑三中老师的亲属介绍,该教师原在新郑三中教授历史课,一段时间以来,她的网课经常遭遇“入侵”和“爆破”。10月28日晚在上网课时,再次有陌生网友闯入网课直播间对其进行辱骂,干扰课件投屏,迫使该老师退出网课。两天后她被发现在家身亡,死亡证明鉴定为猝死。目前,当地公安、教育等部门正在介入处理调查此事。
“网课爆破”是如何实施的?记者调查发现,一场“网课爆破”往往有几位乃至十几位参与者,并非“恶作剧”般简单。
何为“网课爆破”,目前尚未有明晰的定义。根据已发生的案例进行归纳,“网课爆破”是一种恶意入侵网络课堂、扰乱网络课堂秩序的行为。当网课会议号和密码被泄露后,有些人有组织地“入侵”在线课堂,通过强行霸屏、刷屏发送骚扰信息,甚至辱骂师生、播放不雅视频等方式,恶意扰乱教学秩序。这些入侵课堂的人,在社交媒体上被称为“爆破手”。
“爆破手”通过社交媒体,有组织地发起一场场“爆破”,有些“爆破”来自学生本身,也有些来自明码标价的专业组织。有组织的“爆破”由知情人泄露网课时间和房间号码,专门的“组织者”下达“爆破令”后,参与者在固定时间集合“爆破”网课。根据已有报道,无论是内部泄露的学生,还是专门的“爆破手”,“网课爆破”的参与者以青少年学生居多。
《2021年全国未成年人互联网使用情况研究报告》显示,2021年我国未成年网民规模达1.91亿,未成年人互联网普及率达96.8%。未成年网民在网上遭到讽刺或谩骂的比例为16.6%;自己或亲友在网上遭到恶意骚扰的比例为7.0%。
数字时代,人们很难离开互联网,网络技术的不断革新也给了网络暴力发展的空间。复旦大学网络空间国际治理研究基地主任沈逸接受采访时指出:“‘网课爆破’并非普通的网络暴力,而是网络暴力向正常课堂教学活动的渗透,是一种新型网络暴力。目前,‘网课爆破’显示出两大新特点:第一,具备‘干扰性’特征,即试图阻断正常的网络沟通和交流,使授课无法继续进行。第二,具备‘暴力性’特征,即使用攻击性的语言、骚扰性的视频乃至违反公序良俗、带有人身攻击性质的不雅言辞,攻击特定的目标或泛化的非特定目标,以达到扰乱秩序的目的。”
一名上海小学生在家中上网课。新华社发
“网课爆破”这一恶意行为,经过互联网的放大传播,往往成了伤人利器。11月4日,中国政法大学教授罗翔发布视频称:“这种行为真的让人感到非常愤怒,因为同为教育工作者,我时常能够把自己代入进去。我在想,如果我面临类似的情境,会如何作为?”
“与网络暴力普遍表现为朴素正义感不同,‘网课爆破’表现为参与者在扰乱课堂秩序过程中的无理性狂欢,其参与者以青少年学生居多。”中国传媒大学主流融媒体研究中心主任唐远清接受采访时说,“网课爆破”对课堂秩序而言有着不可忽视的破坏性,给学生和老师都带来巨大的伤害。
2.缺乏应急预案与管理办法
互联网已成为当代未成年人重要的学习、社交、娱乐工具。以“网课爆破”为代表的网络暴力行为是如何蔓延和发展起来的?
网络的匿名性是“网课爆破”存在的原因之一。“网络世界天然的治理难点在于,即便是引入了‘白名单’机制的软件,也不可能完全解决实名制问题。而即便解决了实名制问题,顶着‘数字化面罩’与他人交流的体验也完全不同于线下面对面交互的体验,人们在不使用真实身份时更容易肆意释放内心的极端情绪。”沈逸说。
“教师在操作层面的水平不同,对网络熟悉程度也不同,这些都是不可忽略的因素。与此同时,校方和平台方在预案预警方面缺乏相应的响应机制。”唐远清如是说。
沈逸也表示,“教学行为自线下向线上的大规模转移,是在新冠肺炎疫情暴发的大背景下开始的,所以也是在缺少事前准备的前提下展开的,而对网课的管理,没有跟得上网课的发展”。
广西东兴中学的学生在家上网课。新华社发
随着“网课爆破”现象不断浮出水面,其背后的组织化、黑产化的趋势值得警惕。沈逸阐述了自己的担忧:“我们需重视‘网课爆破’发展趋势。一是‘生态化’态势。一些参与的学生理所当然地认为,只要自己不喜欢某一门课,就可以找人进入课堂捣乱,他们并没有意识到做法的不正确性。二是‘组织化’态势。有一些依托社交软件形成的群体或圈层正在承接这些‘爆破’的订单。三是‘流量化’态势的前兆。某种程度上,‘网课爆破’已经具备了‘流量化生存’的前兆。所谓‘流量化生存’,即通过获取流量来提升或真实或虚幻的影响力,为此不惜游走在违反公序良俗或法律法规的边缘。四是网络暴力的参与者能够从对正常社会活动秩序的扰乱、冲击和破坏中获得所谓的成就感、归属感和宣泄负面情绪的快感。”
3.维护网课秩序仍需多方发力
“网络课堂作为学校进行教育教学活动的重要场所,其教学质量必须得到保证。‘网课爆破’的治理,需要多方面的合力:公安机关依法打击破坏网络课堂秩序的违法犯罪行为,依法惩治形成有效震慑;学校要重视对学生的引导和教育,也要加强对老师应对网课突发事件能力的培训;有关部门要通过健全监管监督机制,促进平台履行主体责任。”唐远清说。
目前,多个网络会议平台已有相关应对措施,开展巡查和处理,清理掉了相关违规内容并封禁了部分违规账号,并对“网课爆破”设立相应阻止功能。例如,腾讯会议提供了多种会前、会中、会后的权限设置方式,保障在线课堂安全性,满足课堂、研讨会、答辩等多种场景的教学需求;在钉钉,老师可通过设置‘仅主持人可邀请成员’,限制参会学生把会议号分享给陌生人。目前,记者在一些社交平台上搜索,发现此前以“网课爆破”为关键词活跃的部分社交小组已无搜索结果。
与此同时,校方也行动起来,努力做好预防预警和事后处理工作。部分地区教育部门已关注到“网课爆破”情况频现,并要求学校采取措施加强在线课堂安全,包括实名授权学生进入,要求每个学校设置网络监控员,加强一线教师培训等。课堂之外,也要通过宣传、教育的方式,重点引导学生正确认识网络,养成良好上网习惯,遵守网络规则,规范自己在互联网上的言行。“整体网络环境是其中每一个个体互动建构的结果,每个人都要为自己在网络空间中的言行负责。预防‘网课爆破’不仅需要校方的努力,还需要政府从更宏观的层面提高治理能力、建设治理体系,为校方提供支持。”沈逸说。
宁夏银川市兴庆区第四小学教师通过线上平台为学生上语文课。新华社发
网络空间不是法外之地,维护网络课堂秩序,惩治网课暴力乱象,刻不容缓。罗翔表示,对于扰乱正常的工作秩序、教学秩序,现行法律提供了许多规制之道,无论是教育法、治安管理处罚法,还是刑法,都有相应的惩治措施。尤其是对公然侮辱他人,现行刑法第246条就规定了侮辱罪,以暴力方法或其他手段公然侮辱他人,情节严重的,最高可以判处3年有期徒刑。
近几年,网络安全法、个人信息保护法、电子商务法以及有关司法解释等,都对打击网络水军、治理网络暴力等问题提供了强有力的法律支撑。在今年的网暴专项整治行动当中,重点网站平台累计拦截涉攻击谩骂、造谣诋毁等信息6541万余条,处置违法违规的账号7.8万个。在去年11月份正式实施的《中华人民共和国个人信息保护法》中,明确提到了要加强重要互联网平台的义务,以及强化侵犯个人信息的惩罚机制和力度。
日前,中央网信办印发的《关于切实加强网络暴力治理的通知》指出,网站平台要根据自身特点,建立完善紧急防护功能,提供一键关闭陌生人私信、评论、转发和@消息等设置。用户遭遇网暴风险时,网站平台要及时发送系统信息,提示其启动一键防护,免受网暴信息骚扰侵害。在网站平台评论、私信等位置设置网暴信息快捷投诉举报入口,简化投诉举报程序,网站平台对于明确为网暴信息的应在第一时间予以处置。向用户提供针对网暴信息的一键取证等功能,方便当事人快速收集证据。坚持最有利于未成年人的原则,优先处理涉未成年人网暴举报。
“营造清朗的网络空间,认清‘网课爆破’的本质与危害,保障网络课堂的安宁,筑牢校园网络安全防火墙,离不开多方发力,久久为功。”唐远清说。
《光明日报》( 2022年12月20日 07版)
AI绘画的“小秘密”都在这一篇文章里******
有了AI,人人都可以是艺术家。AI绘画的出现,恰如瑞士艺术家保罗·克利所言:“艺术不是再现可见,而是使不可见成为可见。”经过20年左右的发展,目前基于不同类型或者模态元素的AI绘画发展情况不尽相同,发展最久的是“以图生图”,再到近期火爆的“文+图”生图。当然,也有团队已经研发出由语音生成图像的技术。
上传一张图片,或者输入一些简单的关键词,系统就能自动生成一张卡通图像……最近一段时间,AI绘画开始在互联网社交平台走红。
AI绘画,顾名思义就是利用人工智能进行绘画,是人工智能生成内容的典型应用场景之一。其主要原理是收集大量已有作品,通过算法对其内容和风格特征进行解析,最后再生成新的作品,所以算法是AI绘画的核心。
当前,“凭空”生成图像的AI绘画,其实也会动辄“翻车”:也许上一秒AI通过你的照片绘出的是一张充满艺术感的二次元画像,下一秒你的宠物猫、狗则可能被画成可爱少女或肌肉猛男。
事实上,AI绘画早已火爆全球。第一张公开展出的、由人工智能创作的绘画作品《埃德蒙·贝拉米的肖像》曾于2018年在佳士得拍卖行以43.25万美元成交,那是一张由机器学习了从14世纪到20世纪的1.5万张肖像画之后自动生成的一张肖像画作品。
AI绘画是如何实现“凭空”生图的?除了娱乐外,AI绘画还有哪些潜在的应用前景?
从“以图生图”到“语音生图”
2022年,由人工智能创作的《太空歌剧院》一度火出圈。在美国科罗拉多州举办的新兴数字艺术家竞赛中,《太空歌剧院》获得“数字艺术/数字修饰照片”类别一等奖。它的构图、配色以及画面的细节堪称精致。然而,这个作品的创作者不是艺术家,而是来自美国科罗拉多州的游戏设计师。
这位游戏设计师在一个名为“Midjourney”的AI创作工具里,先输入几个关键词,如光源、构图、氛围等,得到了100幅作品,再进行约80小时的修图修饰,最终选出3幅作品,最后把图像打印到画布上。
通过简单交互式对话在短时间内生成的“艺术”作品,让人类艺术家展开了一场关于“AI绘画作品参赛是否属于作弊”的争论。这场声势浩大的争论也令大众直观地意识到如今的AI绘画水平已经发展到了何种程度。
“人工智能在艺术方面的创作最早可以追溯到上个世纪末,当时的人工智能绘画技术叫作‘图像的风格化滤镜’。”中国科学院自动化研究所多模态人工智能系统全国重点实验室研究员董未名说,最初的AI绘画方法比较简单,比如一张普通的照片,通过一些图像处理的算法,把照片像素进行几何或者色彩上的变换,然后再调节不同参数,就可以模拟出类似油画或者水彩画的风格。
经过20年左右的发展,目前基于不同类型或者模态元素的AI绘画发展情况不尽相同,发展最久的是“以图生图”,再到近期火爆的“文+图”生图。当然,也有团队已经研发出由语音生成图像的技术。
AI绘画主要依靠三种技术模式实现
董未名介绍,目前AI绘画主要借助图像风格迁移技术、图文预训练模型和扩散模型实现。
“图像风格迁移技术指的是图像处理算法通过对输入的真实图像内容特征和对参考的艺术图像风格特征的提取,实现真实图像内容特征和艺术图像风格特征的融合,从而生成新的艺术图像。”董未名举例,如果将美国旧金山艺术宫的外景照片和印象派创始人莫奈绘制的作品,通过图像风格迁移技术进行融合,就能得到一张看起来像是由莫奈绘制的美国旧金山艺术宫的绘画作品。最初的AI绘画采用的正是这种技术。
不过,在董未名看来,图像风格迁移技术大多依赖的是生成式对抗网络(GAN)算法,它最大的问题是生成的绘画作品艺术性不强,笔触和构图让人觉得与真实的绘画有差距,所以长久以来,AI绘画一直“籍籍无名”。
当图像风格迁移技术还在挣扎于输出作品的审美问题时,图文预训练模型的出现,加速了AI绘画的崛起。
“依托图文预训练模型,只要输入一句话或者上传一幅风格明显的图片,算法就能将图像特征和文字特征‘对齐’。生成的绘画作品的内容特征和上传图片的内容相似,艺术性也比图像风格迁移技术生成的图片强很多。”董未名举例,比如支撑图文预训练模型的可对比语言—图像预训练(CLIP)算法,就是利用图文特征“对齐”的能力,再结合已有的生成模型,实现“以图生图”或者“图+文”生图。
不过,董未名坦言,图文预训练模型的推广也存在一些争议,有部分人认为,该模型在训练前期,需要用大量的图形处理器(GPU)进行数据训练,耗电量大、成本很高,而该模型的应用场景却不够清晰。但也有人认为,也许该模型未来可以打造为通用的人工智能模型,用它完成更多的算法作业,只是这还需要时间的验证。
诚然没有一项技术是完美的,这也为人类探究更先进的技术提供了无限动力。当下最流行的扩散模型便是其中之一。
“目前最新的AI绘画技术采用的就是扩散模型,这种模型可以把一个随机采样的噪声输入模型,然后尝试通过去噪来生成图像。”董未名表示,扩散模型也存在弱点,由于模型对图片内容识别的能力不足,或者难以完全理解识别文字的意义,以及训练数据的偏差,有时便会生成“四不像”的作品。此外,扩散模型生成图片的速度比较慢,目前还达不到实时生成图片。
互联网治理、元宇宙或潜藏应用前景
AI绘画目前的应用场景,更多聚焦于社交软件。近期在国内社交网络“火出天际”的AI绘画软件主要集中在小程序及App。随着AI绘画小程序的火爆,短视频平台抖音也迅速上线了AI绘画特效。同时,此前腾讯上线了“QQ小世界AI画匠”活动,百度也推出了首款AI艺术和创意辅助平台“文心一格”。
有了AI,人人都可以是艺术家。AI绘画的出现,恰如瑞士艺术家保罗·克利所言:“艺术不是再现可见,而是使不可见成为可见。”“AI现在已经完美实现了这一目标,人们可以通过机器计算来绘制出很多现实中见不到的场景。”董未名畅想,不远的将来,AI绘画或许还将展现更丰富的应用场景。
“现在网络上充斥着很多不良内容,这些内容为了逃避监管经常以绘画的形式出现,而当前很多内容识别模型对真实图片识别得很准确,但缺乏不良内容艺术作品的相关训练数据,所以对不良内容识别不准确。也许可以用AI绘画技术,积累不良内容艺术作品的数据,并用以训练识别模型,以提升互联网内容的安全监管能力和识别的准确率。”董未名建议。
在董未名看来,作为一种艺术呈现形式,AI绘画也将在元宇宙、设计、文旅等行业催生新的商业模式。例如AI绘画目前在AI辅助创作、短视频、影视制作和元宇宙等方面都有布局,因为这些赛道都离不开创意,AI绘画可以帮助创作者通过简单的特征输入,实现对其创意的预览,甚至可以直接进行创作。
不过,董未名并不讳言,当下AI绘画仍然存在版权争议问题。AI绘画的核心是模型,而训练模型需要使用大量图像、文本数据。对于未经授权的图片,经过运算之后所生成的图像版权归属尚难界定。“有的画家风格特别明显,如果用画家的画去训练算法模型生成作品,那最后的版权属于谁呢?”董未名提出的问题,正是多数AI绘画作品所面临的现实问题。
AI绘画掀起了一场资本的群体狂欢,希望有一天它能走出“照猫画虎”的尴尬,真正服务艺术创作、创造更多价值。(科技日报记者 金凤)
(文图:赵筱尘 巫邓炎)