AI合成视频

美国特斯拉、社交媒体X（前身是推特）的老板埃隆·马斯克因为在社交平台X上转发了一段AI伪造的美国副总统哈里斯的视频，引来如潮的批评声，质疑他违反了他自己制定的X平台用户使用条款。 这段经过篡改的视频利用了一段哈里斯竞选视频《自由》的影像，再用人工智能技术模仿哈里斯的声音，称“因为拜登终于在辩论中暴露了自己的老糊涂，我，卡玛拉·哈里斯，现在是你们的民主党总统候选人。我之所以被选中，是因为我是多元化人才的终极体现。我既是女性，又是有色人种，所以如果你批评我说的任何话，你就是性别歧视者和种族主义者。” 发布这份AI合成视频的原始用户在YouTube和X上发布时都标明了是恶搞。但八小时后，马斯克在自己的账号上转发该视频时，却并没有明确指出这是一个恶搞视频，只是说“这太棒了”，后面跟着一个笑脸表情符号。目前，马斯克的这篇帖子已经被阅读了1.3亿次，被不少人批评违反了X平台的规定。该规定是马斯克上任后于2023年4月制定的，禁止共享“可能欺骗或混淆人们并导致伤害的合成、操纵或断章取义的媒体”。 哈里斯竞选团队发言人回应说，“我们相信美国人民想要哈里斯副总统提供的真正的自由、机会和安全，而不是埃隆·马斯克和唐纳德·特朗普虚假的、被操纵的谎言。” 这段虚假视频还引起了加州州长加文·纽森（Gavin Newsom）的注意，他表示将在几周内签署一项法案以遏制非法广告，像这样在‘广告’中操纵声音应该是非法的。