谷歌宣布开源水印识别工具SynthID，可供开发人员和企业免费使用

（爱云资讯信息）谷歌在10月23日宣布，SynthID现已向任何想要尝试的人开放。这项用于验证AI生成内容的真实性的系统，会在生成的图像、视频和文本中嵌入不可察觉的水印，使用户能够验证某件内容是否由人类或机器生成。谷歌表示，“我们将开源SynthID Text文字水印工具。该工具可供开发人员和企业免费使用，帮助他们识别由AI生成的内容。”

SynthID于2023年推出，作为一种为AI生成的图像、音频和视频打水印的方法。它最初被集成到Imagen中，随后该公司在2024年5月的I/O大会上宣布将其整合到Gemini聊天机器人中。

SynthID系统通过在文本生成过程中对生成的tokens进行不可察觉的水印编码来工作。DeepMind今年5月表示，该系统通过在生成点引入额外信息，并调节生成tokens的可能性来实现这一点。

通过将模型的单词选择及其调整概率分数与加了水印和未加水印的文本的预期分数模式进行比较，SynthID可以检测出该句子是否是人工智能写的。

据10月23日发表在《自然》杂志上的一项研究表述，这一过程不会影响响应的准确性、质量或速度，而且也不容易被绕过。与标准元数据不同，标准元数据可以很容易地被删除，SynthID的水印即使在内容被裁剪、编辑或其他方式修改后仍会保留。

美国马里兰大学副教授索海尔·费齐（Soheil Feizi）在接受麻省理工学院科技评论采访时表示：“实现对AI生成文本的可靠且不可察觉的水印技术在根本上具有挑战性，尤其是在大型语言模型输出接近确定性的情况下，比如事实问题或代码生成任务。” 费齐教授同时指出，其开源特性允许社区在不同的环境中测试这些检测器并评估它们的鲁棒性，有助于更好地理解这些技术的局限性。

然而，SynthID系统并非万无一失。尽管它能够抵抗篡改，但如果将文本通过语言翻译应用程序处理或经过大幅改写，SynthID的水印就会被移除。对于较短的文本片段，SynthID系统效果不佳，也无法确定基于事实陈述的回复是否由AI生成。比如对于“法国的首都是什么？”这个问题，只有一个正确的答案，无论是人类还是AI都会告诉你是巴黎。

如果用户想亲自尝试SynthID，可以从Hugging Face上下载，这是谷歌更新后的负责任人工智能工具包的一部分。