庄闲游戏

新闻中心

换脸换声、版权侵权......庄闲游戏专家对话央视记者，，，，，谈天生式AI被滥用该怎样治理

宣布时间：2025-10-24

浏览次数：1275

分享：

中国互联网络信息中心日前宣布了《天生式人工智能应用生长报告（2025）》。。报告显示，，，，，我国天生式人工智能产品用户规模已达5.15亿人。。报告同时也提出，，，，，随着天生式人工智能的高速普及，，，，，其带来的换脸换声、版权侵权、学术滥用等问题也越发凸显。。这些问题在实践中保存哪些体现？？？？怎样治理和应对这些危害挑战？？？？

使用AI换脸换声天生虚伪广告案件频发

天生式人工智能的多模态能力，，，，，可以让用户容易给视频中的人物换脸换声，，，，，甚至直接天生完全虚构的视频，，，，，给不法分子带来可乘之机。。近期就爆发了多起AI换脸换声，，，，，天生虚伪广告的案件。。好比，，，，，有的伪造奥运冠军推荐土鸡蛋，，，，，尚有的伪造医生形象推销保健品，，，，，严重误导公众。。

这些换声和换脸的AI深度合成是怎样制作出来的呢？？？？面临这些以假乱真的视频，，，，，又该怎样识别？？？？

业内人士告诉记者，，，，，随着AI换声换脸手艺越来越成熟，，，，，已经足以抵达以假乱真的田地。。区分一段视频或者声音是否是经由深度合成，，，，，最好的步伐照旧通过AI去识别。。即用AI去识别AI。。

庄闲游戏网络清静专家潘季明：从手艺角度来说，，，，，最快的方法照旧基于AI的方法去举行识别，，，，，如专门的深度伪造判别模子，，，，，用于剖析视频和音频中的不自然的特征，，，，，如检测眨眼频率、面部肌肉运动的心理一致性、音频与唇形同步率、光源一致性等细微的物理或心理破绽。。

专家：治理焦点在于周全落实内容标识制度

近两年，，，，，AI深度合成名人、换脸换声的视频层出不穷、屡禁不止。。对此，，，，，专家体现，，，，，治理的焦点在于周全落实内容标识制度。。

北京航空航天大学法学院副教授赵精武：我国自2025年9月起正式施行了《人工智能天生合成内容标识步伐》，，，，，其中明确要求，，，，，所有AI天生的文字、图片、视频等内容必需添加显式标识以“亮明身份”，，，，，同时勉励添加数字水印等隐式标识。。平台企业应当依据《人工智能天生合成内容标识步伐》，，，，，从源头嵌入标识机制，，，，，为AI天生内容附加不可改动的数字水�。。�，，，，并确保这些标识在经由剪辑、压缩后仍能被准确识别。。

专家体现，，，，，AI深度合成的使用者在通过AI制作视频时，，，，，应该有一条侵权执法界线，，，，，要合规正当使用人工智能深度合成。。

北京航空航天大学法学院副教授赵精武：在明确正当性界线方面，，，，，需要严酷区分AI换脸手艺的正当应用与不法滥用的界线。。正当应用通常包括影视制作、教育教学、医疗康复等具有正当价值的场景，，，，，这些应用需遵照执法上划定最小须要原则，，，，，确保使用规模和目的相匹配，，，，，并获取响应授权。。而不法滥用则主要体现为未经授权的肖像冒用、虚伪信息撒播、淫秽色情内容制作等场景。。

AI大模子训练引发版权问题矛盾怎么破？？？？

再来看人工智能带来的版权侵权问题。。早在去年10月，，，，，文学界、音乐界等超万名人士揭晓了一份联合声明，，，，，训斥“未经允许使用创意作品来训练天生式人工智能”的行为。。人工智能大模子使用的数据为何会引起版权争端，，，，，又该怎样破局，，，，，来听听专家怎么说。。

AI业内人士告诉记者，，，，，现在人工智能大模子训练的数据，，，，，绝大大都来自于网络，，，，，这些数据就包括含有版权的相关数据。。

庄闲游戏网络清静专家潘季明：现有的大模子都是基于海量的数据举行训练的，，，，，其泉源包括像互联网数据，，，，，以及图书、论文、行业数据等，，，，，经由数据预处置惩罚，，，，，通过无监视学习、微调、强化学习之后，，，，，便可用于内容天生。。然而模子是没有版权意识的，，，，，它不知道哪些内容是涉及版权，，，，，哪些不可随便天生，，，，，除非对现在数据举行一个明确的版权标识。。而现在的大模子基本上不管有没有版权，，，，，都会去举行一个数据抓取训练。。

针对人工智能大模子涉及的版权问题，，，，，专家体现，，，，，生长人工智能不可以牺牲版权为价钱，，，，，两者协调共生应以尊重知识产权为条件。。

北京航空航天大学法学院副教授赵精武先容，，，，，AI开发运营者需建设周全的著作权合规机制，，，，，包括：

? 在训练数据网络阶段举行版权审核，，，，，优先获取授权和使用开放允许的资源；；；；；在模子训练历程中保存数据泉源纪录；；；；；

? 在内容天生环节嵌入防剽窃检测；；；；；

? 在输出阶段需要添加版权标识和水印。。

另一方面，，，，，主管部分需要扩充训练数据供应渠道，，，，，化解训练数据不充分与版权的冲突逆境。。

学生和研究职员滥用AI写论文抄作业引关注

除了适才说到的问题，，，，，报告中也提到，，，，，学生和研究职员将天生式人工智能用于写论文、抄作业的情形也正引起各界关注。。

专家体现，，，，，随着天生式人工智能在学术研究中的普遍应用，，，，，学术诚信系统面临亘古未有的挑战。。简朴的榨取步伐已被证实效果不彰，，，，，且难以执行。。“堵不如疏”的治理理念正成为全球学术界的共识，，，，，其焦点在于认可AI手艺提升科研效率的起劲价值，，，，，同时通过规范指导确保其应用不损害学术诚信。。

北京航空航天大学法学院副教授赵精武：在教学运动中，，，，，西席应当设置专门环节指导学生准确使用AI工具，，，，，将该类工具从“偷懒”“图省事”的过失定位调解为“提升学习效率”“辅助科研”的准确功效定位，，，，，明确它的辅助定位的属性。。同时，，，，，西席还需要设计能够评估学生头脑历程的审核方法，，，，，镌汰对纯文本输入的依赖，，，，，增添历程性评价比重。。

文章泉源：央视新闻客户端

相关阅读

1、“有图”≠“有真相”！庄闲游戏专家接受央视采访，，，，，谈怎样区分AI造假图片

2、一键盗声仅需十几秒！庄闲游戏专家对话央视记者，，，，，展现AI克隆声音原理并给出提防建议

3、AI数据污染可能引发大危害！央视对话庄闲游戏专家展现背后原理，，，，，并给出提防建议

4、“清朗”行动狠刹AI滥用歪风，，，，，央视对话庄闲游戏专家共推手艺“向善而行”！

上一篇 “十五五”蓝图定调！庄闲游戏以手艺为本续写网安生长新图景

下一篇庄闲游戏寇增杰中选“2025 IDC中国网络清静十大人物”

最新运动

公司声誉最高声誉加冕！庄闲游戏荣获2025年中国通讯学会科学手艺奖特等奖

2025-11-27

连忙审查

市场动态庄闲游戏2025→2026：没有最好，，，，，只有更好??

2026-01-04

连忙审查

市场动态《网络清静法》完成修改，，，，，庄闲游戏深化“AI+清静”筑牢生长基本

2025-10-29

连忙审查

推荐新闻

庄闲游戏防火墙一连25年连任海内市场第一

审查详情

智算一体机标杆企业！庄闲游戏入编《2025-2026年中国智算一体机行业研究报告》

审查详情

庄闲游戏一连12年获CNNVD一级手艺支持单位称呼

审查详情

庄闲游戏与华为正式开启周全相助，，，，，联合宣布“智算+清静”两大新品！

审查详情

庄闲游戏一连五届入选CICSVD国家工业信息清静误差库手艺组成员单位

审查详情

庄闲游戏智算一体机首批通过工信领域能力认证！

审查详情

推荐产品

解决计划

在线咨询

销售咨询>
手艺支持>
云效劳支持>
售前支持>

在线留言

手艺支持>
售前支持>
培训营业>
清静效劳>

客户效劳热线

400-777-0777
7*24小时效劳

联系邮箱

servicing@topsec.com.cn

扫码关注

【网站地图】【sitemap】