本文转自【央视网】；
全红婵的“爸爸”“哥哥”纷纷“出镜”
还有多少受害者？
带货文案雷同
在AI合成视频中携带有骆驼奶粉、土鸡蛋、洗衣液等多种商品链接，流量较好的仿冒作品评论区中，不乏有人被骗下单购买。
利用AI伪造视频的现象并不罕见，此前，曾有多位明星成为AI伪造视频的素材。
3月5日，相关演员经纪公司先后发布声明，指出该宣传片为合成影片，否认其与有关游戏平台合作或代言、推广它们的业务，提醒各方人士不要轻信，以免上当受骗。
谢浩男在某短视频平台上注册了唯一认证账号，他曾表示，接下来自己会继续读书，承诺不会带货，并称网上所谓的“带货视频”都是假的。
换脸、换声诈骗
AI如何生成以假乱真的声音？受访专家介绍，AI能够“克隆”声音，主要是依靠深度学习算法，即短时间内从采集的声音样本中提取关键特征，包括频率、音色、声调、语速、情感等，将这些特征记录为数学模型，再通过算法合成。
大四学生耿孝存最近经常在网络音乐播放器中收听几首翻唱歌曲，他一直以为这些歌曲由某知名女歌手翻唱，后来才得知其实全部是AI合成的。“声音逼真到我从来没怀疑过。”耿孝存说。
大量App能够进行AI合成声音，最快只需十几秒。记者在应用商店搜索发现，相关App有数十款，下载量最高超千万次。
AI生成的照片。图源：新京报
此外，“偷”人声音也有不法利益驱动。国家金融监管总局2024年7月发布的《关于防范新型电信网络诈骗的风险提示》中提到，不法分子可能对明星、专家、执法人员等音视频进行人工合成，假借其身份传播虚假消息，从而实现诈骗目的。
2024年4月，北京互联网法院宣判全国首例“AI声音侵权案”，明确认定在具备可识别性的前提下，自然人声音权益的保护范围可及于AI生成声音。该法院法官认为，未经权利人许可，擅自使用或许可他人使用录音制品中的声音构成侵权。
沈阳等专家认为，关于人工智能应用产生的造谣侵权、刑事犯罪、道德伦理等问题，建议有关部门细化完善相关规则，通过典型案例、司法解释等方式给予更为明确的规范指引，厘清法律法规边界。
来 源丨 央视网综合九派新闻、羊城派、上游新闻、新华网、南方日报、新京报 国家卫健委：全国新冠疫苗接种超7亿剂次冰墩墩解锁新皮肤 身披龙“战袍”严重可致死！海边消暑警惕“漂亮刺客”中信金控投行业务子委会河南区域分会成立110岁“铁路大厂”，开启逐梦百年新征程深证成指、创业板指涨幅扩大至1%诚信春运！汶上县交通运输局务实举措护航春运回家路7岁女孩获评国家一级运动员博深股份：目前没有应用于机器人相关的产品中国经济样本观察·“镇”了不起｜一缕“假”发“真”给力！“梳”出两百亿元大市场安全用药 关注民生（26）｜家长们要切记儿童用药的误区山东已查处3起制售假冒伪劣口罩案件谁在冒充全红婵的家人？的相关内容