随着美国选举季的加剧，人工智能生成的深度造假竞选广告激增，引发了人们对透明度和选举公正性的担忧。政治候选人和支持 PAC 预计本周期将在广告上花费创纪录的 100 亿美元，其中一部分用于资助日益复杂的人工智能操作。
自 11 月以来，至少有 15 个人工智能生成的竞选广告流传开来，其中一些广告使用 Deepfake 来描绘候选人的言论或行为损害了他们的公众形象。这些做法虽然在一些州是非法的，但却凸显了选举过程中日益增长的脆弱性。
竞选广告中的人工智能监管仍然主要是一个州级问题。大约 30 个州颁布了管理选举中人工智能使用的法律，其中 28 个州要求披露，两个州实施部分禁止。
在明尼苏达州，一则针对副州长彭妮·弗拉纳根 (Penny Flanagan) 的广告已经测试了新的州立法。该广告由北极星黎明 PAC 创建，支持弗拉纳根的民主党主要对手众议员安吉·克雷格 (Angie Craig)，广告中人工智能生成的弗拉纳根站在一堆现金上，同时批评她与特殊利益集团的所谓关系。
弗拉纳根谴责了 BlueSky 上的这则广告，并表示：“我对手的超级政治行动委员会正在使用我的人工智能深度伪造来误导选民。他们无法用真相获胜 - 所以他们诉诸谎言。这很恶心。明尼苏达人应该得到更好的。”
该广告可能违反明尼苏达州 2023 年禁止在选举中使用人工智能深度造假的法律。该立法规定，如果分享者知道内容未经同意并意图损害候选人的声誉以影响选举，则在选举后 90 天内广泛分享深度伪造内容将构成犯罪。
虽然从技术上讲，该广告在弗拉纳根提名后播出已超出 90 天的期限，但其赞助商仍面临审查。提出这项立法的州代表 Maye Quade 告诉当地媒体，该广告违反了法律的精神，并指出公众普遍反对这种策略。
40 名民主农民工党立法者签署了一封信，谴责竞选材料中的人工智能深度造假，并强调他们在 2023 年几乎一致投票禁止在选举中使用欺骗性人工智能内容。
在联邦层面，监管行动仍然有限。联邦选举委员会拒绝在 2023 年发布具体的人工智能规则，称现有的欺诈性虚假陈述禁令适用于所有媒体格式。 《真实政治广告法案》等国会努力已经陷入停滞，而最近的立法提案则试图抢占各州人工智能监管的先机。
DSPolitical 首席执行官马克·贾布洛诺夫斯基 (Mark Jablonowski) 告诉 NBC，大多数竞选活动“可能想做正确的事情”，尽管滥用的例子仍然存在。北极星黎明 PAC 没有回应置评请求。
美国公民自由联盟 (ACLU) 警告联邦政府不要凌驾于州人工智能法规之上，高级政策顾问吉娜·约翰 (Jina John) 表示：“各州必须能够保护自己的居民免受伤害，让科技公司承担责任，并确保人工智能安全且值得信赖。”
