
一 |

二 | “这段文字是人写的吗?”随着生成式人工智能(AI)越来越多地参与写作,这个过去鲜少有人追问的问题,如今正变得越来越常见。其中陶公府发生案事件数量最多,为22起,当晚陶公府实施宵禁至23日6时。泰国第四军区表示密切关注三府局势,将会同有关执法部门依法处理案件,加强各项安全措施。并呼吁民众谨慎前往管制区域,远离可疑人员、车辆、物品。总领馆提醒仍在三府的中国公民,中资机构,关注相关新闻动向,配合泰主管部门要求,避免前往管制区域,并做好自身安全防范。 近日,美国人工智能企业Anthropic宣布,8月2日及以后发布的新Claude模型将从上线起为生成内容加入机器可读标记。其中,生成文本会嵌入人眼无法察觉的隐形水印。另据新加坡《联合早报》此前报道,22日晚,泰国南部边境地区多个地点发生一连串骚乱事件,包括爆炸和纵火袭击,导致车辆、通信设施及其他财物受损。Anthropic称,这种水印不会改变文本的含义、质量和可读性,但会嵌在文本的统计分布里,复制粘贴也会被带走,部分编辑也抹不掉。公司还计划提供相应工具,帮助用户和第三方识别这些标记。 过去,AI生成的文字往往可以混在人类作品中而不易察觉。泰国有关部门立即实施宵禁,以加强管控局势。

三 | 这种判断并不能直接证明文本来自哪个模型,因此误判和漏判始终难以避免。 模型水印则不同,它是在生成文字时就主动加入标记,检测时不必只盯着文本本身的语言风格,出版社、学校和网络平台便多了一条判断依据。 美国《商业内幕》网站报道称,Claude水印可能影响学生使用AI完成作业和论文,也可能让利用AI起草邮件等内容的职场人士更容易被揭穿。不过,该媒体也指出,现实中AI写作更常见的用途,其实是编写内部文件、会议纪要、研究报告和即时通信等,而这些内容通常不像小说、论文那样受到严格的作者身份审查。 对于普通用户来说,最直接的变化可能并不是使用体验发生变化,而是AI使用行为变得更容易被发现。出版业或许会更敏感地感受到这种变化。 水印看不见但并非“擦不掉” 然而,把AI水印当作一种“永远无法删除的电子身份证”,恐怕并不现实。 对于图像和文件,Anthropic计划采用C2PA来源元数据标准。不过,美国科技新闻与媒体平台The Verge网站指出,C2PA元数据本身并非牢不可破,文件在上传、转换或编辑过程中可能丢失相关信息。

四 | Claude文本水印的具体技术细节目前也没有全部公开,因此外界还无法准确判断它究竟采用何种算法,以及面对不同程度的改写和攻击时能保持多大程度的稳定性。不过,《商业内幕》报道称,Anthropic已承认,大量编辑、改写、翻译,或者把Claude生成的文字与其他内容混合,都可能让水印变得无法检测。 与此同时,水印检测也存在误判风险。The Verge报道称,即便检测不到水印,也不能证明内容一定不是生成式AI产生的。换句话说,有标记可提供来源线索,没有标记却不能反向证明内容纯粹由人类创作。 8月7日发表在预印本网站上的一项研究提出,AI水印不应被简单视为鉴别单篇内容真伪的“法医工具”,而应成为更大范围内容来源和AI治理体系的一部分。研究人员指出,人机协同创作越来越普遍,单纯将内容划分为“AI生成”或“人类创作”,可能掩盖两者之间复杂的合作关系。

五 | 企业与监管推动AI水印普及 尽管技术还有局限,给AI生成内容留下来源信息,并非Anthropic一家企业在尝试。 谷歌早在2024年就宣布将SynthID水印技术扩展至Gemini生成的文本,至今已覆盖其文本、图像、音频和视频等多种生成内容。 今年5月,OpenAI也提出,通过C2PA内容凭证、数字水印和验证工具等多种技术,帮助用户和平台识别AI生成内容的来源。此外,Meta也在探索中为AI生成内容加入不可见水印,以便在不同平台和应用中识别相关内容。

六 | 推动这类技术落地的,还有监管要求。 据美国科技类博客TechCrunch网站报道,Anthropic的此次调整与欧盟《AI法案》有关。欧盟委员会发布的指南显示,《AI法案》第50条关于透明度的规定自8月2日起适用,要求相关AI系统对生成或操纵的内容加入机器可读标记,以便识别其是否由AI生成。

七 | 随着相关合规期限推进,其他AI服务商也可能采取类似措施。 不过,技术能够回答的主要是“这段内容有没有留下AI痕迹”。至于留下痕迹之后怎么办,真正的难题还是留给了人类。例如,如果AI帮你写了一封邮件,这还是你的文字吗?如果AI根据记者采访整理出初稿,记者是否仍然是作者?如果小说作者只提供人物和故事框架,AI完成了大部分文字,又该如何署名?这些问题,显然不是一个水印能够解决的。

八 | 或许,AI时代真正需要建立的,不是一套简单的“人写还是AI写”的二元检测机制,而是一套能够描述人和AI分别参与了什么、谁最终对内容负责的新规则。Claude给AI文字留下的隐形水印,可能只是这一变化的开始。(记者 张佳欣)。
Current article:http://www.chenzhuaigecoupuhongyuntuizei.sbs/news/20260826_8553.xls
Published on:08:54:42
国内/08-25
国内/08-20
国内/08-23
国内/08-21
国内/08-20
国内/08-25
国内/08-20
国内/08-24
国内/08-21