泰勒·斯威夫特支持引发AI图像争议，选举中的虚假信息威胁

泰勒·斯威夫特对副总统卡玛拉·哈里斯的备受期待的支持，也谴责了前总统唐纳德·特朗普分享的关于这位流行巨星的AI生成图像。通过这样做，她加入了对这项技术及其在选举中可能造成的虚假信息的担忧之声。

特朗普上个月在他的右翼社交媒体平台“真相社交”上转发了这张图片，图片显示斯威夫特摆出“山姆大叔”的姿势，并说她“希望你”投票给特朗普。这位前总统添加了一条消息：“我接受！”

在周二的辩论之后，斯威夫特在她的Instagram帖子中表达了对这张被篡改的图片的担忧，她支持哈里斯。

“最近，我意识到AI生成的‘我’虚假地支持唐纳德·特朗普的总统竞选，这被发布在他的网站上。这真的唤起了我对AI的恐惧以及传播虚假信息的危险，”她写道。“这让我得出的结论是，我需要对我在这次选举中作为选民的实际计划非常透明。对抗虚假信息的最简单方法就是用真相。”

尽管斯威夫特的粉丝们对这张照片感到愤怒——有些人呼吁她尽快谴责它——一位AI专家表示，对AI的一种不那么党派和挑衅性的使用，可能对选举的公正性构成更大的威胁。

总部位于伯克利的AI知识非营利组织CivAI的联合创始人卢卡斯·汉森表示，选举中正在使用两种AI内容：煽动性帖子，比如斯威夫特的那张，以及伊隆·马斯克在社交媒体网站X上发布的一张照片，照片中哈里斯穿着红色套装，佩戴着共产主义的锤子和镰刀标志，以及其他内容，这些内容的目的不是激怒选民，而是影响他们的行为。

例如，在新罕布什尔州，一些选民在3月的初选前收到了自动电话，使用的是类似于乔·拜登总统的AI生成的声音。这些电话告诉选民“保留他们的选票”以备11月的普选。

“这阻止了人们参加新罕布什尔州的初选，这并不具有煽动性，但它可能更有效，”汉森说。“我认为我们在选举前后看到的大部分最具影响力的东西都属于那种类型。”

为了展示AI的能力，CivAI一直在模拟其他可能被用来影响选举日投票的方式。汉森说，这可能看起来像是篡改的新闻文章，这些文章类似于真实的出版物，宣传在投票站附近发生的一场假定的枪击事件，或者虚假信息告诉选民，他们可以通过在非常紧张的时间段内出现在某个地点来避免为在投票站停车付费，“接近投票站关闭时间，而不是一个合法的地方。”

根据汉森的说法，选民更有可能被这种AI生成的内容欺骗，而不是被候选人或斯威夫特等名人的深度伪造欺骗，他预计这种内容的制作将会增加——特别是在摇摆州和针对摇摆选民的情况下。

另一个CivAI模型展示了AI如何使用高度个性化的内容来定位选民。它的一个演示使用LinkedIn来找出一个人的主要担忧，并向他们发送一封关于虚假的、听起来合理的税收或法规的电子邮件，这些税收或法规据说是某个候选人在其中一个问题上提出的。

汉森在他的妹妹，一位自由职业艺术家身上试用了它。发给她的电子邮件说拜登计划对自由职业者征收额外的税。

“这太有针对性，也太具体了，很多人现在根本不会认为用任何形式的自动化方式做到这一点是可能的，”汉森说。

无党派监督组织“共同事业”的执行主任乔纳森·梅塔·斯坦表示，阴谋论者认为选举舞弊猖獗，他们也可以使用AI来模仿选举官员用来检测重复选民的复杂系统。

“你可以使用AI来模仿这项工作，但没有任何选举官员使用的控制和保障措施，”他说。“你可以创建你想要挑战的极度错误的选民名单。”

煽动性内容仍然是一个问题，特别是在高性能AI工具变得更容易获得的情况下。大约一个月前，X为他们的高级会员添加了Grok 2.0的测试版，这是一个使用Black Forest Labs的工具的AI图像生成功能。

“这是第一个极其容易获得且高质量的图像生成工具，”汉森告诉KQED。

他说，虽然许多人可以检测到这种深度伪造，但有些更难发现——比如在X上发布的一张特朗普竖起大拇指的照片，周围的人都穿着写着“Walz's for Trump”的衬衫。这张照片的标题是，“整个*Tim Walz家族*刚刚认可唐纳德·J. 特朗普竞选2024年总统！”

尽管美联社证实，民主党副总统候选人的一些远亲确实为特朗普衬衫拍了一张单独的照片，但这张显示特朗普被所谓的Walz亲属包围的图像是AI生成的。

汉森说，即使作为一位在检测深度伪造图像方面经验丰富的人，这张图像也没有任何常见的“迹象”，比如手部出错或背景模糊。

虽然他说这些图像经常被揭穿，并且主要播下分裂的种子，但他“预计我们将看到由于Grok的易用性，这类辩论的数量会大幅增加。”

斯坦表示，最重大的风险可能是这种内容如何影响选民对政治的信任。

“危险不是1万名选民会被深度伪造欺骗并改变他们的投票对象，”尽管这有可能，他说。“危险是，1000万选民在现在到选举日之间充斥着虚假信息，他们会放弃并说，‘算了吧，我根本不投票。’”

斯威夫特的假照片的一个更大影响可能是她自己的回应——因为她的帖子引导人们访问vote.gov，据NPR报道，截至周三下午，该网站已经收到了超过337,000次访问。