哈尔滨配资公司 AI快发展背后的“副作用”

中国互联网络信息中心发布的最新报告显示哈尔滨配资公司，我国生成式人工智能产品用户规模已达5.15亿人。但报告同时也提出，随着生成式人工智能的高速普及，其带来的换脸换声、版权侵权、学术滥用等问题也越发凸显。这些问题在实践中存在哪些表现？如何治理和应对这些风险挑战？来听报道。

生成式人工智能的多模态能力，可以让用户轻易给视频中的人物换脸换声，甚至直接生成完全虚构的视频，但也给不法分子带来可乘之机。近期就发生了多起AI换脸换声，生成虚假广告的案件。比如，有的伪造奥运冠军推荐土鸡蛋，还有的伪造医生形象推销保健品，严重误导公众。

人工智能大模型研究员潘季明指出，随着AI换声换脸技术的越来越成熟，已经足以达到以假乱真的地步。分辨一段视频或者声音是否是经过深度合成，最好的办法还是通过AI去识别。即用AI去识别AI。

【从技术角度来说，最快的方式还是基于AI的方式去进行识别，如专门的深度伪造鉴别模型，用于分析视频和音频中的不自然的特征，如检测眨眼频率、面部肌肉运动的生理一致性、音频与纯嘴唇同步率、光源一致性等细微的物理或生理破绽。】

北京航空航天大学法学院副教授赵精武则从制度层面提出了治理思路，他强调，全面落实内容标识制度是治理AI深度伪造的核心所在。

【我国自2025年9月起正式施行了《人工智能生成合成内容标识办法》，其中明确要求，所有AI生成的文字、图片、视频等内容必须添加显式标识以"亮明身份"，同时鼓励添加数字水印等隐式标识。平台企业应当依据《人工智能生成合成内容标识办法》，从源头嵌入标识机制，为AI生成内容附加不可篡改的数字水印，并确保这些标识在经过剪辑、压缩后仍能被准确识别。】

赵精武教授进一步指出，AI深度合成的使用必须明确法律边界。

【在明确合法性边界方面，需要严格区分AI换脸技术的合法应用与非法滥用的边界。合法应用通常包括影视制作、教育教学、医疗康复等具有正当价值的场景，这些应用需遵循法律上规定最小必要原则，确保使用范围和目的相匹配，并获取相应授权。而非法滥用则主要表现为未经授权的肖像冒用、虚假信息传播、淫秽色情内容制作等场景。】

值得注意的是，早在去年10月，文学界、音乐界等超万名人士发表了一份联合声明，谴责“未经许可使用创意作品来训练生成式人工智能”的行为。这一事件凸显了AI技术发展过程中面临的版权难题。

潘季明研究员指出，当前AI大模型训练数据的来源存在争议：

【现有的大模型都是基于海量的数据进行训练的，其来源包括像互联网数据，以及图书、论文、行业数据等，经过数据预处理，通过无监督学习、微调、强化学习之后，便可用于内容生成。然而模型是没有版权意识的，它不知道哪些内容是涉及版权，哪些不能随便生成，除非对现在数据进行一个明确的版权标识。而现在的大模型基本上不管有没有版权，都会去进行一个数据抓取训练。】

针对人工智能大模型涉及的版权问题，赵精武教授强调，发展人工智能不能以牺牲版权为代价，两者和谐共生应以尊重知识产权为前提。

【AI开发运营者需建立全面的著作权合规机制，包括：在训练数据收集阶段进行版权审核，优先获取授权和使用开放许可的资源；在模型训练过程中保留数据来源记录；在内容生成环节嵌入防抄袭检测；在输出阶段需要添加版权标识和水印。另一方面，主管部门需要扩充训练数据供给渠道，化解训练数据不充分与版权的冲突困境。】

在学术领域，生成式AI的滥用同样引发广泛关注。报告中提到，学生和研究人员将生成式人工智能用于写论文、抄作业的情况也正引起各界关注。

对此赵精武教授表示，随着生成式人工智能在学术研究中的广泛应用，学术诚信体系面临前所未有的挑战。简单的禁止措施已被证明效果不彰，且难以执行。“堵不如疏”的治理理念正成为全球学术界的共识，其核心在于认可AI技术提升科研效率的积极价值，同时通过规范引导确保其应用不损害学术诚信。

【在教学活动中，教师应当设置专门环节引导学生正确使用AI工具，将该类工具从“偷懒”“图省事”的错误定位调整为“提升学习效率”“辅助科研”的正确功能定位，明确它的辅助定位的属性。同时，教师还需要设计能够评估学生思维过程的考核方式，减少对纯文本输入的依赖，增加过程性评价比重。】

随着我国生成式AI用户突破5亿，如何在技术创新与风险防控之间取得平衡，已成为摆在监管者、企业和用户面前的重要课题。从技术对抗到制度建设，从法律完善到伦理引导，AI治理需要社会各方的协同努力。正如专家所言，只有建立全方位的治理体系，才能确保这项颠覆性技术真正造福人类社会。

举报相关阅读