Google DeepMind试点双盲AI基准测试
结论前置 / TL;DR
Google DeepMind正首次开展前沿AI模型的双盲评估试验,借助Confidential Space加密技术,确保谷歌无法查看测试题目、评估方无法接触模型权重。该项目与新加坡AI安全研究所合作,使用Gemini Flash Lite模型,旨在建立抗篡改AI基准测试新标准。
双盲机制保障评估公正性
Google DeepMind正启动一项开创性试点:对前沿AI模型实施首次双盲基准评估。该机制通过Confidential Space提供的密码学保护,实现双向隔离——谷歌自身无法访问测试问题,外部评估人员亦无法获取模型权重参数。
合作落地与技术载体
此次试点由Google DeepMind与新加坡AI安全研究所(SG-AISI)联合开展,所测模型为Gemini Flash Lite。项目目标是验证一种可抵御人为干预、数据泄露或结果操纵的基准测试流程,为未来高可信度AI能力评测提供可复用的技术路径。
探索行业信任新范式
当前AI基准测试普遍面临透明度与中立性争议,而该方案试图从架构层面切断利益相关方对评估过程的单边控制,有望推动第三方评测标准向更高可信等级演进。
编者观点:对中国AI企业而言,参与或对标此类国际可信评测框架,有助于提升模型公信力与出海合规竞争力。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(The Decoder) →