10月18日凌晨3时许，演员吴越发文质疑有人利用AI技术进行诈骗。她在微博中提到一个名为“花姐”的账号发布了一段视频，声称吴越是该护肤品的推荐人，并且音频使用了吴越的声音来推广产品。视频中还出现了邓亚萍的相关“带货”画面，而该账号发布了多条类似广告视频。视频下方标注了“含AI生成内容”。
吴越是1972年4月10日出生于上海市的演员，毕业于上海戏剧学院，代表作品包括《我的前半生》《和平年代》《县委大院》等。
演员温峥嵘也遭遇过类似情况，她曾在采访中表示自己刷到AI盗播自己的直播间，上前质问竟被秒拉黑。温峥嵘指出，多个直播间同时出现她的影像，但这些都不是她本人出镜，而是AI合成的虚假直播或盗播、录播的过往片段。她回忆起一次拍完戏回家后，看到自己在另一个直播间里“直播”，质问后立即被拉黑。
近年来，AI深度合成名人、换脸换声的视频层出不穷，专家建议治理的核心在于全面落实内容标识制度，严格区分AI技术的合法应用与非法滥用。
