IT之家 10 月 6 日消息，据外媒 Engadget、Wired 等报道，美国马里兰大学的一个研究小组对 AI 生成内容的“数字水印”技术可靠性进行研究，发现这一技术可被轻易破解。
该校计算机科学教授 Soheil Feizi 面对 AI 生成图像的水印现状时直言不讳：“目前我们没有任何可靠的水印技术，我们破解了所有的水印。”
在测试过程中，研究人员可轻松避开现有的水印方法，并发现在非 AI 生成的图像上添加“假水印”更为容易。同时，该团队还开发出了一种“几乎无法”从图像中去除的水印技术，且不会完全损害图像的知识产权。
而在加州大学圣巴巴拉分校和卡内基梅隆大学合作的一项类似研究中，研究人员发现通过“模拟攻击”，AI 生成图像的水印可被轻易去除：通过破坏性的调整亮度、对比度或压缩乃至旋转图像来去除，或通过建设性的高斯模糊等技术来去除。
据报道，AI 生成数字水印将成为一场与黑客之间的竞争。这种水印尽管肉眼不可见，但可以打击滥用 AI 生成的内容。
IT之家此前报道，美国政府曾在 7 月下旬宣布，已获得多家人工智能头部公司的自愿承诺，将对人工智能生成的内容加水印等措施，以帮助提高技术的安全性。
亚马逊、Anthropic、谷歌、Inflection、META、微软和 OpenAI 这七家公司都同意提高其系统的安全性和透明度，包括允许第三方专家对其模型进行审查。
在发给 TechRadar 的一份声明中，美国政府表示：“正在开发这些新兴技术的公司有责任确保其产品的安全。为了充分发挥人工智能的潜力，美国政府鼓励该行业坚持最高标准，以确保创新不会以牺牲美国人的权利和安全为代价。”
