Techub News 消息,为响应欧盟新法规,AI平台正实施新的生成内容水印方案。Anthropic近期披露其未来Claude模型将采用谷歌开源技术SynthID-Text,该技术使用密钥微调模型选词过程。但新研究表明,该水印技术不仅改变选词,还可能影响模型调用工具及遵守安全护栏的概率,使其在面对旨在诱导有害行为(如泄露密码)的对抗性提示时更脆弱。 AI安全公司Lasso Security研究员Andrea Siposova表示,水印虽对读者不可感知,但任何对模型生成内容的改动都会带来权衡,尤其在对抗条件下或模型驱动智能体时,其行为必然改变。开发者需全面测试部署水印后大语言模型与智能体的行为。 (Ars Technica AI)