Sentient推出新的指纹识别基准测试，以验证AI模型来源_新闻

免责声明：内容不构成买卖依据，投资有风险，入市需谨慎！

Sentient推出新的指纹识别基准测试，以验证AI模型来源

2026-10-20 20:36:21

感知基金会推出新型指纹排行榜：应对AI模型溯源挑战

感知基金会（Sentient Foundation）近日推出了全新的“指纹排行榜”（Fingerprinting Leaderboard），旨在测试人工智能模型在追溯其来源时的可靠性。这一举措源于最新的研究发现：几乎所有现有的指纹技术，包括感知基金会自身的技术，都可能被 sophisticated 的攻击者所规避。

随着人工智能模型的价值日益凸显，证明模型的原始开发者身份已成为一个重大挑战。模型可能被复制、微调或蒸馏成新版本，这往往使原始开发者难以确立所有权。感知基金会希望通过启动“指纹排行榜”来解决这一问题。这是一个开放的基准测试平台，旨在评估那些能够将可识别签名嵌入AI模型的技术。

该倡议基于感知实验室（Sentient Labs）的一项研究，该研究揭示了十种拟议指纹方案的漏洞。研究人员发现，几乎所有这些方案都可以通过适应性攻击绕过，同时保持模型的有效性。

与其专注于开发自身的指纹技术，感知基金会现在将评估过程向更广泛的研究社区开放。

AI指纹识别的工作原理

AI指纹识别旨在提供模型身份或来源的证据，而不完全依赖外部记录、元数据或对底层基础设施的访问权限。

某些方法在训练过程中嵌入隐藏的行为签名。随后，可以通过特定的提示来测试这些签名，从而允许开发人员调查其他模型是否包含其原始工作的痕迹。重要的是，这种验证可以使用对疑似衍生模型的API访问权限来完成，而无需直接访问其内部权重。

“AI模型正成为世界上最有价值的知识产权之一，然而一旦模型被复制或蒸馏，证明所有权变得极其困难，”感知基金会风投与增长总监Sachi Kamiya表示。“指纹识别将证据置于模型内部。将其视为AI版的文艺复兴时期画家用来确立作者身份的隐藏标记。”

随着开源AI开发的扩展以及模型被越来越多地修改和重新分发，这种方法可能变得尤为相关。

研究人员在一个模型中嵌入了超过24,000个指纹

感知实验室此前曾展示了指纹技术如何大规模运作。其在NeurIPS 2025上Highlighted的Perinucleus方法成功地在Llama-3.1-8B模型中嵌入了24,576个指纹，同时对模型性能造成的退化极小。

许多这些指纹也幸存于随后的微调过程，这表明即使模型经过额外训练，身份信息仍可被检测到。

然而，能够嵌入数千个指纹并不意味着它们能抵御有意的删除。在SaTML 2026上展示的研究表明，即使能够忍受普通模型修改的技术，也可能在面对专门试图消除或规避其签名的攻击者时存在漏洞。受影响的方法中包括感知基金会自己的Perinucleus方法。

这些发现突显了AI指纹识别的一个核心挑战：证明签名存在与证明在对手积极试图击败它时签名仍然可靠，两者之间存在显著差异。

用于测试指纹声明的公开基准

新推出的“指纹排行榜”旨在提供一个标准化的环境，以比较不同的方法。其初始发布侧重于评估指纹方法在嵌入可识别签名时保持底层模型性能的有效性。

未来的发布将扩大评估范围，包括对抗性鲁棒性，测量在故意尝试删除或规避后指纹是否仍可检测。这一区别很重要，因为在受控条件下表现良好的技术在更具敌意的环境中不一定能提供可靠的来源证据。

与此同时，感知基金会还发布了mlprints，这是一个开源库，将指纹技术和攻击方法带入共享评估框架。该库允许研究人员重现现有实验，实施替代的指纹方案，并在可比测试条件下开发新的攻击方法。通过公开提供这些工具，感知基金会旨在建立一种更透明的流程，以评估关于AI模型来源的声明。

为何模型所有权对开源AI至关重要

该倡议也解决了开源人工智能中的一个更广泛的紧张关系。公开发布模型权重的开发人员使其他人能够在其工作基础上进行构建，但这可能会使跟踪这些模型随后如何被复制、修改或纳入其他系统变得困难。

保持模型封闭可以提供更大的分发控制权，但限制了与开源AI相关的可访问性和协作开发。指纹识别可以提供一种不同的方法，允许开发人员分享他们的模型，同时保留建立其来源的机制。

此类功能最终可以支持归属、许可执行以及与可验证模型来源相关的经济安排。然而，研究也表明，可靠的指纹识别仍然是一个未解决的技术挑战。感知基金会的长期目标是开发与模型能力紧密相连的签名，以至于删除它们也会损害模型的有效性。

目前，“指纹排行榜”代表了确定哪些现有技术能够提供有意义的来源证据，以及哪些容易受到操纵的努力。随着初始基准的可用性以及未来发布中计划的对抗性测试，该项目可以为研究人员提供一个共同的框架，以评估AI知识产权保护这一新兴挑战。

免责声明：

本网站、超链接、相关应用程序、论坛、博客等媒体账户以及其他平台和用户发布的所有内容均来源于第三方平台及平台用户。百亿财经对于网站及其内容不作任何类型的保证，网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用，不构成任何投资、法律等其他领域的建议和依据。百亿财经用户以及其他第三方平台在本网站发布的任何内容均由其个人负责，与百亿财经无关。百亿财经不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容，并自行承担所带来的一切风险。强烈建议您独自对内容进行研究、审查、分析和验证。

展开阅读全文