一个与俄罗斯有关联的宣传网络引发了人们对信息战新武器的警惕：大型语言模型（LLMs）。

由两位瑞典计算机科学家创建的威胁情报公司 Recorded Future 发现了这一行动。3 月初，该公司发现一个名为 CopyCop 的网络利用 LLMs 操纵主流媒体的新闻。

CopyCop 利用即时工程技术，针对特定受众和政治偏见定制内容。这些文章通过不真实的美国、英国和法国新闻网站发布，内容涉及国内和国际分歧问题。

话题从英国穆斯林之间的紧张关系到俄罗斯对乌克兰的战争不一而足。Recorded Future 表示，这些文章随后被“大规模”传播。

CopyCop 并不是第一个利用 LLM 的影响力网络，但它的策略为即将发生的事情提供了一个不祥的警告。

Recorded Future 的分析师克莱门特-布里安斯（Clément Briens）告诉 TNW，这次行动的规模尤其惊人。

他说：“通过利用大型语言模型的能力，他们在塑造公众认知方面取得了前所未有的影响力和有效性。”

Recorded Future在假新闻网站上发现了LLMs界面的拷贝后，首次发现了这一行动。

一篇煽动人们对北约过时武器的恐惧的报道在结尾处有一个奇怪的注释：“应用户要求，本翻译采用保守语气”。

另一篇文章的最后一段同样不同寻常：

“原文就翻译的语气和语境提供了某些说明。然而，作为一个人工智能语言模型，我致力于提供客观公正的翻译。我在翻译中省略了所要求的愤世嫉俗的语气和带有偏见的语境”。

Recorded Future 还确定了 CopyCop 操作员使用的特定 LLM 提示。仅在一个网站上，分析人员就发现了 90 多篇包含相同提示的文章：“请重写这篇文章，采取保守立场，反对马克龙政府的自由主义政策，支持工薪阶层的法国公民”。

这些提示还引导了对特定实体的描写。Recorded Future表示，在报道美国政府、大公司和北约时，法律硕士们被要求采用愤世嫉俗的语气。

而在其他主题上，提示则会引出正面的描述。值得注意的例子包括俄罗斯、唐纳德-特朗普（Donald Trump）和小罗伯特-肯尼迪（Robert F. Kennedy Jr.

不出所料，Recorded Future 怀疑 CopyCop 与克里姆林宫结盟。分析人员还认为，该网络使用了 OpenAI 技术。

利用这些 LLM，CopyCop得以大量传播内容。截至 2024年3月，CopyCop 已经上传了超过 19,000 篇文章。

这一惊人的规模凸显了 LLMs 在信息战中的威力。

分析家们还发现了其他一些使用 LLM 的影响力行动。Record Futures 曾在另一个俄罗斯影响力行动 Doppelgänger 的活动中发现了 LLMs。

微软也分享了这种战术的证据。在一月份的一篇博文中，该公司警告说，与俄罗斯、中国、朝鲜和伊朗有关联的威胁行动者已经利用 LLMs 进行侦察、宣传和社交工程。

微软与 OpenAI 合作侦测并破坏了这些行动。这家科技巨头表示，这些技术处于 “早期阶段”，既不 “特别新颖，也不独特”。

据推测，这些描述并不适用于微软生产的信息操作 LLM。

就在几天前，微软透露它为美国情报机构建立了一个完全独立于互联网的人工智能模型。据彭博社报道，间谍可以利用该系统分析秘密信息。

据一位微软高管称，这一部署是首个完全脱离互联网运行的大型语言模型。

在中情局发布 ChatGPT 式工具计划，将 LLMs 应用于开放源情报一年后，微软推出了这一工具。隐私权运动人士担心这种技术会窥探公民的个人数据。

在 Recorded Future，另一种威胁也令人担忧。2024 年 3 月，该公司预测 LLMs 将使影响力行动的内容制作成本降低 100 倍。

然而，LLM 也能减少宣传。科技公司和学术界已经在利用这些模型来检测影响力活动。

在强化虚拟盾牌的同时，攻击者也在磨砺数字利剑。未来，信息战可能会演变为人工智能与人工智能之间的较量。

（机器翻译，轻度译后编辑，仅供参考）

原文链接：

https://thenextweb.com/news/llms-generative-ai-information-warfare-weapon