SheepNav
精选今天0 投票

在受限的公共部门环境中实现AI落地:专用小型语言模型的机遇

随着AI浪潮席卷各行各业,公共部门组织正面临加速采用AI的压力。然而,政府机构在安全、治理和运营方面面临独特的约束,使其与商业机构截然不同。因此,专用小型语言模型(SLMs) 为在这些环境中实现AI落地提供了一条有前景的路径。

公共部门AI部署的独特挑战

当私营部门扩展AI时,他们通常假设某些条件已经到位,包括:

  • 持续连接到云端的网络
  • 依赖集中式基础设施
  • 接受模型透明度不完全
  • 对数据移动的限制较少

然而,对于许多政府机构来说,接受这些条件可能从危险到不可能。政府机构必须确保其数据保持在自身控制之下,信息可以被检查和验证,并且运营中断被控制在绝对最低限度。同时,他们经常不得不在互联网连接有限、不可靠或不可用的环境中运行系统。

安全与治理的优先考量

凯捷咨询的一项研究发现,全球79%的公共部门高管对AI的数据安全持谨慎态度,考虑到政府数据的高度敏感性及其使用的法律义务,这是一个可以理解的数字。正如Elastic的AI副总裁韩晓所说:“政府机构必须对发送到网络的数据类型非常严格。这为他们如何思考和管理数据设定了很多界限。”

对敏感信息控制的基本需求是使AI部署复杂化的众多因素之一,特别是与私营部门的标准运营假设相比。

运营连续性的重要性

“许多人低估了AI的运营挑战,”韩晓指出,“公共部门需要AI在各种数据上可靠地运行,然后能够在不中断的情况下增长。运营连续性经常被低估。”

Elastic对公共部门领导人的一项调查发现,65%的机构难以持续、实时和大规模地使用数据。基础设施限制加剧了这个问题。政府组织可能也难以获得用于训练和访问复杂AI模型的图形处理单元(GPUs)。

专用小型语言模型的解决方案

在这些约束下,专用小型语言模型(SLMs) 提供了一种有前景的替代方案。与需要大量计算资源和数据访问的大型模型不同,SLMs可以:

  • 在本地或边缘设备上运行,减少对云连接的依赖
  • 针对特定任务进行优化,提高效率和准确性
  • 提供更好的透明度和可解释性
  • 降低数据安全和隐私风险

未来展望

随着AI技术的不断发展,公共部门需要在创新与约束之间找到平衡。专用小型语言模型可能成为这一平衡的关键,使政府机构能够在确保安全、治理和运营连续性的同时,充分利用AI的潜力。这不仅是技术挑战,更是组织文化和流程的转变,需要跨部门的协作和持续的投资。

延伸阅读

  1. Claude Opus 4.7 正式发布:专攻高难度软件工程,网络安全能力受限
  2. Qwen3.6-35B-A3B:智能体编码能力,现已全面开放
  3. 将企业AI视为操作系统层:超越模型竞赛的持久竞争优势
查看原文