Claude 文字水印是如何运作的

星***

anthropic.com (https://www.anthropic.com/news/claude-text-watermark)

How Claude's text watermarking works (https://www.anthropic.com/news/claude-text-watermark)
Future Claude models will generate text that contains a watermark. This is a way of determining the likelihood that Claude was involved in writing the text, and we, along with several other major AI providers, are implementing this change to comply...

[!quote]+
未来的 Claude 模型将生成带有水印的文本。这是一种判断文本是否由 Claude 编写的方法。我们与其他几家主要的 AI 提供商正在实施这项变更，以遵守欧盟人工智能法案。
在本文中，我们将解答一些关于我们所选水印方法的工作原理、它是否会影响 Claude 的输出以及我们为何做出此项更改等问题。简而言之：

我们采用的水印方法对克劳德作品的质量或内容没有任何实际影响；

读者无法区分带水印的文本和不带水印的文本；

文本中没有任何添加内容，也没有任何隐藏字符；

添加水印不需要额外的 token ，也不会增加成本；

水印不包含任何识别信息，也无法追溯到特定的人、组织或聊天记录；

水印技术并非 Claude 独有。自8月2日起，欧盟要求面向其市场的AI供应商为其AI生成的内容添加水印。其他主要模型开发商也已签署了同样的《行为准则》，并将实施各自的水印技术。
什么是水印？
像 Claude 这样的大型语言模型的工作原理是每次生成一个词。每次模型决定下一个词时，它都会从一个候选词列表中进行选择，最终根据前面的文本选择最合理或最有可能的词。例如，句子“今天的天气很冷，而且……”。下一个词不太可能是“sugary”（甜的），但很可能是“overcast”（阴天）或“grey”（灰色的）。在大多数情况下，模型最终选择后两个词中的哪一个对读者来说并不重要——句子的意思基本相同。在这种情况下，最终的选择由一个随机数决定。
水印技术利用类似这样的低风险选择——这些选择会在生成的文本中多次出现——在 Claude 的回答中留下某种模式。这种模式对读者来说是无法察觉的，但任何拥有编码密钥的人都能识别出来。使用水印技术时，选择仍然是随机的，但随机性的来源不同。水印技术不再使用任意随机数生成器来选择下一个词，而是利用密钥以及前面几个词来确定模型应该选择哪个词。也就是说，Claude 选择的词仍然是随机的，但现在，我们可以检查词的顺序，看看它是否与 Claude 使用密钥时的选择一致。如果一致，就可以计算出文本是由 Claude 生成的概率。
重要的是，这并不意味着该模型现在总是会偏向阴天或灰色。就像没有水印的文本一样，根据前面的词语，一个句子中可能会选择“阴天”，下一个句子中可能会选择“灰色”。而且，水印方法也不会迫使克劳德选择一个它原本不会考虑的词（例如，它不会让克劳德选择像“nubilous”这样的词——这是一个晦涩的同义词，是“阴天”或“灰色”的同义词，克劳德在正常情况下几乎肯定不会使用）。

yxc***

先把一个小环节做到位，再去追求规模。

徐***

感谢星颖整理，省了不少筛选信息的时间。