SheepNav
新上线今天0 投票

Writer发布新AI模型及升级版Harness,大幅降低Token成本

AI行业正面临部署成本飙升的挑战,企业用户越来越关注如何削减开支。Writer公司于周四推出了新旗舰模型Palmyra X6,并升级了其代理框架(harness),旨在通过优化模型和基础设施,将客户基本任务的成本降低多达50%。

成本问题的核心:模型与Harness的双重优化

Palmyra X6是基于智谱AI开源模型GLM-5.2的后训练变体,Writer声称该系统能以更低价格提供部署就绪的能力。但值得注意的是,该公司并未将成本控制仅押注在模型本身,而是强调其标准代理框架的升级。Writer研究人员近期的一篇论文指出,在许多情况下,调整harness效率比更换模型更能可靠地降低成本,测试中平均成本下降了40%。

“Harness是唯一能在组织运行的所有模型中倍增效率的组件——无论是现在还是未来。”研究人员写道。

多步骤任务的执行效率提升

新方案特别强调复杂多步骤任务的执行,力求更快、更少Token。Writer CEO May Habib表示:“企业已经厌倦了追逐下一个基准测试。他们想要成本持平,而似乎没有人能做到这一点。”通过优化harness,Writer希望在多步骤任务中减少不必要的Token消耗,从而降低整体成本。

模型无关的灵活架构

对于Writer的客户而言,体验仍然是模型无关的:Palmyra X6将与Writer的其他模型或通过Azure、Amazon Bedrock导入的外部模型并存。这种灵活性使企业能够根据具体任务选择最合适的模型,同时享受统一的harness优化带来的成本优势。

对AI实验室的信任危机

Habib还指出,成本削减的推动力正引发对主要AI实验室的更广泛不信任,因为这些实验室有财务动机去推高Token使用量。“成本爆炸对客户来说前所未有,CIO们对实验室的放弃程度也是如此。”Habib告诉TechCrunch,并补充说AI实验室并不深入理解如何帮助企业从AI中获得收益。

总结

Writer的此次发布反映了AI行业的一个关键趋势:在模型能力竞争之外,成本控制和部署效率正成为企业用户的核心关注点。通过模型与harness的双重优化,Writer试图在保持性能的同时,提供更具经济性的解决方案。然而,这一策略能否在长期内持续降低企业AI部署的总拥有成本,仍有待市场验证。

延伸阅读

  1. OpenAI内部的安全反思:一次黑客事件引发的文化拷问
  2. 微软的类 Clippy 角色 Mico 不再是 Copilot 的代言人
  3. 扎克伯格6500字AI宣言:华丽辞藻下的空洞?
查看原文