华尔街日报-中国正借力AI向美国选民和台湾散布虚假信息
April 5, 2024 1 min 44 words
这篇报道揭示了一种越来越普遍的现象，即利用人工智能（AI）散播虚假信息，以影响选举结果。这种现象在全球范围内都存在，不仅仅是中国。然而，我们必须注意到，此类报道往往基于一些假设和推测，而非确证性的证据。报道中的一些信息，如微软的调查结果，虽然揭示了一些可能的情况，但并没有充分证明中国政府对此负有责任。我们需要更多的透明度和证据来确认此类行为的实际情况。同时，我们也需要更多的关注和努力来防止这种现象的发生，保护选举的公正性。
微软表示，在今年1月的台湾总统选举时期，该公司检测到更复杂的AI内容激增。
图片来源：Billy H.C. Kwok/Bloomberg News
根据新的网络安全研究报告以及美国官员的说法，与中国政府有关联的线上行为者正越来越多地利用人工智能(AI)向美国、台湾等地的选民散布虚假信息。
这些与中国有关的行动通过社交媒体平台上的虚假账号发布虚假信息，寻求识别会引发分歧和争议的国家和地区内部政治议题，进而可能影响选举。微软(Microsoft)周五新发布的一份网络威胁报告所指出的这种手段属于最早被发现的一些策略，这些策略将生成式AI工具直接用于政府支持的针对境外选民的秘密网络影响力行动。它们还展示了比以往所见更先进的方法。
X上的多个账户，包括一些注册于十多年前的账户，从去年开始发布关于美国的吸毒问题、移民政策、种族关系紧张等话题的帖子，有时还让粉丝分享对总统竞选参选人的看法，可能是为了了解美国选民的政治观点。微软称，某些情况下，这些帖子依赖相对初级的生成式AI生成图像。
美国官员认为，中国在全球影响力行动中日益上升的影响力令人担忧，因其谍报技术不断发展，且政府的资源充足。例如，去年秋天，美国国务院指责中国政府为一项散步虚假信息的全球性行动每年花费数以十亿计美元，利用海外投资和一系列手段来推进北京方面的地缘政治目标，并压制对其政策的批评。
微软的客户安全与信任部门主管Tom Burt在接受采访时说，过去六个月，中国散布虚假信息的行动变得活跃得多，这与同中国政府相关的网络攻击活动不断增加相呼应。
“我们看到他们正在进行试验，”Burt说。“我很担心接下来事情可能会如何发展。”
另外，微软表示，在今年1月的台湾总统选举时期，该公司检测到更复杂的AI内容激增，其中包括一个由AI制作的假音频，内容是一名前总统候选人支持余下的一位候选人。这标志着这家科技巨头的风险研究人员首次发现有民族国家行为者使用AI来试图影响境外选举。
在针对台湾受众的各种视频中发现了人工智能生成的新闻主播。根据微软的研究，这些视频的主角是台湾官员以及有关缅甸的信息。
图片来源：Microsoft
微软表示，这些帖子到目前为止还没有引起太多关注，但它们预示着具有政府背景的选举影响力行动即将到来。西方情报官员表示，他们越来越担心AI工具会被用来制作大量误导性视频或其他内容，从而影响今年的选举，包括今年的美国总统大选。安全专家称，AI生成的虚假音频片段构成的威胁尤其严重，因为它们相对容易制作，而且事实已证明这些音频很容易欺骗听众。
美国情报界最近发布的一份年度全球威胁报告称，具有中国政府背景的行为者“已提高了开展秘密影响力行动和传播虚假信息的能力”。“即使北京方面对这些活动加以限制，不受其直接监督的个人可能也会试图开展他们认为符合中国政府目标的选举影响活动。”这份报告还称，中国正在“试验生成式AI”，并加紧努力塑造美国在香港和台湾等问题上的言论。
中国政府曾多次表示，反对制造和传播虚假信息，并称美国社交媒体充斥着大量有关中国的虚假信息。
此前有几组已发表的不同研究揭示了与中国政府有关的虚假信息行动，微软的这份报告是最新一份。总部设在伦敦的研究机构战略对话研究所(Institute for Strategic Dialogue)在一份新报告中指出，X网站上有少数其所称与中国有关的账户冒充美国前总统特朗普(Donald J. Trump)的支持者，并试图诋毁美国总统拜登(Biden)。
在微软报告中重点提到的去年11月的一个例子中，中国的网络水军抓住一起肯塔基州火车脱轨的事件，在社交媒体上散布阴谋论，诬蔑美国政府对此负有责任。这些账号将该事件与早已受到怀疑的一些理论联系到一起，这些理论称珍珠港事件和9.11袭击都是为了掩盖真相。
在另一个例子中，微软称中国试图在多个平台上散布阴谋论的虚假叙述，声称美国政府通过测试一种“气象武器”蓄意引发了夏威夷毛伊岛沿岸的野火。微软表示，这一行动中，在数十个网站上至少发布了31种语言的帖子，并使用了AI生成的着火的沿海道路和住宅图片，显然是为了更吸引受众眼球。
报告称，被微软称为Storm-1376的威胁行为者（又被称为Spamouflage或Dragonbridge)对宣传虚假信息的行动负有责任。西方网络威胁研究人员至少从2019年起就开始对这个行为者进行追踪。Meta Platforms去年关闭了数以千计与Spamouflage有关联的账户，Meta当时称这是世界上已知规模最大的在线秘密影响力行动。
微软表示，AI制作的台湾前总统候选人郭台铭的虚假音频片段显示，他支持选举中的一名剩余候选人。
图片来源：Microsoft
研究发现，一些最密集使用AI的视频是以台湾用户为目标受众的。根据微软的研究，在以台湾官员为主题的各种视频中发现了AI生成的新闻主播，这些主播是使用中国公司字节跳动(ByteDance)的工具创建的。微软表示，Spamouflage从去年初就开始尝试使用AI生成的新闻主播，但近几个月来，这类内容的数量有所增加。
微软的Burt说，与中国相比，俄罗斯国家行为者的散布虚假信息策略总体上更令人印象深刻，但中国正在迅速改进，部分得益于其投资规模。
Burt说，在台湾的选举中，“我们看到了他们通过使用AI学到的东西”。他说：“这大大提升了他们在这些行动中使用的图像和信息的质量。”
微软没有透露该公司在所谓的虚假信息活动中追踪的账户身份。一位发言人说，这是该公司的标准做法。