Nexus成立可验证AI实验室,推动人工智能透明化发展
5月8日,基础设施公司Nexus宣布成立专门的人工智能研发实验室——Nexus可验证AI实验室。该实验室致力于将区块链的可验证性与人工智能相结合,重点开发可审计且值得信赖的AI模型,并借助零知识证明技术实现这一目标。
解决大语言模型透明度问题
Nexus可验证AI实验室的主要目标是解决当前大语言模型日益突出的透明度问题。目前,用户无法了解AI系统如何得出特定输出,也无法确定这些输出是来自机器逻辑还是人工输入。
Nexus表示:"AI需要透明化才能持续发展。现代AI系统虽然强大,但缺乏透明度。我们很少确切知道它们使用了哪些训练数据、部署了哪个版本,或者我们看到的输出是否确实来自我们测试的模型。在医疗、金融和法律等受监管领域,这种不透明性是一个致命问题。"
区块链技术赋能AI透明度
Nexus的努力展示了AI与区块链技术日益融合的趋势。区块链系统能够提供当前AI模型所缺乏的透明度和开源特性。
值得注意的是,Nexus并非唯一致力于可验证AI的公司。例如,Oasis Protocol于4月29日推出了可验证AI代理,使用户能够独立验证其是否应用了正确的交易策略。
随着AI技术的快速发展,确保其透明度和可验证性已成为行业关注的重点。通过将区块链技术与AI相结合,Nexus等公司正在为构建更可信、更可靠的人工智能系统开辟新的道路。