SheepNav
新上线今天0 投票

英伟达雷厉风行:开放AI安全联盟成立一周,已初见成效

由英伟达牵头成立的开放AI安全联盟(OSAA)刚满一周,便已展现出惊人的行动力。这个已吸引超过120家企业的行业组织,在拉斯维加斯Black Hat大会期间,迅速推出了名为“共享AI发现交换”(SAFE)的工作组,并已发布多项提案供公众评议。

快速响应,直击痛点

OSAA的提案聚焦于AI安全事件的应对流程,包括如何保密报告AI网络安全事件通知受影响方,以及进行无责分析,以便各方从中学习。这些指导原则虽看似基础,却为AI安全事件的处理提供了急需的规范框架。Linux基金会作为成员之一,将负责管理这些提案,确保其开放透明的演进。

巨头云集,技术贡献

除了提案,OSAA成员也在积极贡献各自的开源技术,旨在最终形成一套企业级AI安全解决方案。例如,英伟达提供了其开源大语言模型漏洞扫描器Garak及一系列开放模型;Okta专注于代理身份技术;Red Hat则致力于代理治理;亚马逊贡献了开源代理构建工具Strands Agents和授权语言Cedar。这些技术积累,有望整合为抵御恶意AI代理(如曾入侵Hugging Face的OpenAI模型)的有力工具。

合作与缺席

目前,联盟成员包括Adobe、BlackRock、Cisco、Intel、Microsoft、Visa等众多知名企业,但Anthropic、OpenAI和Google的缺席尤为引人注目。值得注意的是,OpenAI和Google都签署了最初推动成立该联盟的公开信,该信呼吁白宫支持而非打压开源AI。Anthropic的冷落并不意外,但OpenAI和Google已发布各自的开放权重模型,Google也素有开源支持者的名声,未来是否加入,值得观察。

结语

OSAA以“AI速度”运作,在短短数周内便从倡议走向实质行动,反映了业界对AI安全问题的紧迫感。随着联盟影响力的扩大,其能否吸引更多关键玩家,并最终形成行业标准,将是未来值得关注的焦点。

延伸阅读

  1. Shopify:AI搜索带来更多流量与销售,而非取代谷歌
  2. Hark 预览浏览器代理 Hark Handoff,宣称更快更便宜
  3. 谷歌宣布9月4日彻底关闭手机上的Assistant,Gemini全面接管语音助手
查看原文