OpenAI 在欧盟为 ChatGPT 和 Codex 生成文本加入 textgrain 水印
ChatGPT is now adding watermarks to all text from ChatGPT and Codex in the EU as part of a Europe-wide drive for transparency in the usage of generative artificial intelligence. Here's how this new 'textgrain' system from OpenAI works. It is similar to other systems that labs such as Anthropic have added to Claude, in that it bakes statistical patterns into the choice of words. Here's some info on how well that pattern survives editing and a planned AI detector tool soon to be released. #chatgpt #openai #ai #aitools #artificialintelligence #Tech #technology #learnontiktok #claude #anthropic #genai
OpenAI 在欧盟为 ChatGPT 和 Codex 生成的所有文本加入名为 textgrain 的不可见水印，通过影响选词概率嵌入统计模式，粘贴到其他应用或重排文本都无法去除。OpenAI 测试显示，替换 10% 的词后检测率从 92% 降到 66%，替换四分之一后降到 17%。配套的 AI 检测工具只向获批研究者和专家机构开放申请，不面向公众。
视频讲清了 textgrain 水印的选词机制和替换词后的检测率变化，适合做原理拆解加编辑对抗演示。
粉丝 27万
- 浏览
- 55万
- 点赞
- 2.5万
- 评论
- 449
- 分享
- 3282
- 收藏
- 7679
约为这个来源平时的 5.8 倍
数字来自平台，为最近一次抓取时的数据。
以下是视频口播的自动转写，可能有错字。
ChatGPT 现在正在为欧盟所有用户在 ChatGPT 和 codex 中撰写的所有文本添加水印。而且你无法看到这个水印。
将文本粘贴到其他应用中、重新排列文本都不会将其移除。所以让我来解释一下它的工作原理以及如何绕过它。
所以，这不像我们之前讨论过的那些水印或 AI 痕迹。这是 OpenAI 的一个名为 text grain 的新系统，水印内置于 ChatGPT 的用词选择之中。
所以，你可能知道，当 AI 写作时，它是在从几个不同的选项中挑选下一个词。所以，也许 great、brilliant 和 excellent 在一句话中都适用。
但这个水印系统在后台有一个密钥，会影响某些类型的词被选中的概率。
而且只有 OpenAI 发布的 AI 检测工具拥有这个密钥，才能看到这些模式。现在，在一段非常短的文本中，这种模式是无法被检测到的，但在任何长度的写作中，这些重复的用词选择模式是他们的工具能够以几乎百分之100的确定性发现的，所以改写和重新排列并不能真正移除这些模式，但可以削弱它，在 OpenAI 的测试中，用同义词替换百分之10的词语，
使检测率从 92% 降至 66%。如果你替换了一篇文章中四分之一的词语，检测率就会降至仅 17%。
所以，不，没有一键绕过的方法。你只能对 AI 为你写的内容进行大量改写。
顺便说一句，这个水印现在存在于所有其他 AI 中。相信我，从长远来看，这对你来说是件好事。写作是一种思考方式。
写得越多的人越聪明，因为它会激活你大脑中最有用的部分之一。当然，AI 为你提供一个起点、帮你做研究、帮你摆脱空白页面，这完全没问题。
我一直这么做。我不认为这个水印会让这些成为问题。那么，这个检测工具呢？
嗯，AI 正在开放申请，供想要使用它的人申请，但只会批准研究人员和专家组织。
所以它不会成为一个公开工具。如果你想找一个检测 AI 写作的工具，你可以用像免费的 copy leaks 这样的工具，或者 pangram 之类的。
来源：TikTok · 搜「ai tools」 · tiktok.com