近日，短视频平台上出现了大量“雷军AI配音”的恶搞视频。在视频中，“雷军”锐评了堵车等热门话题，其中还有一些不雅谩骂。除了吐槽外，视频里的“雷军”还称要投资某某大学。这些视频中AI的声音、语气都很像雷军，甚至还有雷军的“出镜”。据悉，这些发言和雷军本人并无关系，而是AI配音所成。目前，相关短视频已被平台下架。

不少网友都把此事当成一种玩梗与恶搞，所产生的反应也都是对雷军开玩笑式的调侃。“雷总，最近你怎么在骂人”“每次都是开屏暴击”……对于评论区这样的留言，雷军回复了三个愤怒表情。雷军没想到，他会因为虚假的AI配音意外“火”一把。

网友没把假的当真的，当然是好事，但这还不够，还要提醒下广大网友：这事别只当个乐子看。这些恶搞视频，在未经本人同意的情况下，用了雷军的视频与声音进行编辑合成，而且合成的内容还有一部分具有辱骂和诽谤性质。这样的内容即使再可乐、再好玩，也改变不了其侵犯当事人肖像权、名誉权等正当权益的本质问题，是赤裸裸的违法行径。

当虚假的AI配音不可控，今天是雷军，明天就可能是你我，每个人都有被侵害的风险。今天我们调侃雷军，可当明天我们身陷其中时，恐怕就笑不出来了。

近几年，生成式AI发展之快远超想象。AI图片、视频与音频从“一眼假”“一听假”逐渐发展到了“真假难辨”“以假乱真”的程度，具备一定的蒙蔽性、欺骗性和误导性，一旦被别有用心的人利用，用于造谣、诽谤与诈骗以及其他不法行径，就会给社会带来严重困扰。

这并不是夸张之语，通过AI换脸拟声，进而诈骗成功的案例已经不在少数。还有人利用AI技术恶意拼接他人照片，使用AI软件配侮辱诋毁性言论和音乐，并通过短视频平台散布传播。

AI生成的假视频、假录音，可能只需要一个软件，花费几秒钟时间，造假成本可谓极低。若要扭转这一情况，必须要把生成式AI关进法律的笼子里，使其可管控、守规矩，存在于道德伦理可接受的范围内。

前不久，国家发布《人工智能生成合成内容标识办法（征求意见稿）》，明确指出，人工智能生成合成内容标识包括显式标识和隐式标识，且不得恶意删除、篡改、隐匿标识。规范生成式AI内容，这只是一个开始。

王彬 来源：钱江晚报