一个名为Fast Company的网站揭露了一个名为Defender的深度伪造新运动。这个网站在今年的文章中说，OpenAI 用于识别这些深度伪造内容的人工智能技术，给使用者带来了很大的便利。从2017年起，这类技术开始在社交媒体上广泛使用。Siwei Lyu, 布法罗大学的计算机科学教授表示，通过这个技术可以生成非常逼真的人物视频，观众很难辨别真伪。Lyu 认为，这些虚假视频会误导人们对真实事件的判断。文章中提到 Instagram、Twitter 和 TikTok 等平台上出现了一批自称反对曼达尼（Mamdani）的账户，发布了大量抨击曼达尼政策的视频。这些视频给人一种很逼真的感觉，因为它们用了和纽约人一样的口音。埃曼纽尔·萨利巴，GetReal Security公司首席调查官解释说，GenAI 技术让政治团队和活动家能够轻松制作超逼真的视频。这种技术已经变得非常成熟，观众很难发现这些视频是伪造的。文章提到，这种虚假草根运动已经自动化了，很难被检测到。Reality Defender公司使用RealScan平台分析了几段视频后发现，这些视频有99%的可能性是深度伪造的。虽然不可能得到100%的准确性，但证据非常充分。亚历克斯·莱斯尔, Reality Defender首席技术官说，现在制造虚假信息的成本比以往任何时候都要低。过去需要人力投入才能制造出的虚假印象，现在通过LLM（大型语言模型）只需要几个提示就能完成。Leile 认为这种技术给政治操作者带来了巨大力量。“你现在拥有了一个力量倍增器，”Leile 补充道。“为了做到这一点，过去需要多个人和数小时的努力。现在只需要我计算。”虽然不清楚人们被这些视频说服了多少，但评论显示至少有一些网友似乎认真对待这些视频。Saliba 强调这个问题超出了政治范围，企业或亲人也可能成为未来这些虚假信息运动的目标。