SheepNav
精选昨天351 投票

OpenAI 将 Codex 模型上下文大小从 372k 削减至 272k

据 Hacker News 用户反馈,OpenAI 近期悄然调整了其 Codex 模型的上下文窗口大小,从原先的 372k tokens 缩减至 272k tokens,降幅约 27%。这一变化在开发者社区引发广泛讨论,目前已有 150 分 热度与 67 条评论

变化细节与影响

上下文窗口决定了模型在一次推理中可处理的文本长度,直接影响代码补全、多文件分析等能力。此前 Codex 以 372k 的容量支持大型代码库理解,而新版 272k 虽仍属行业较高水平,但对依赖长上下文的开发者而言,意味着需要更频繁地截断代码或调整工作流。

背后可能的原因

目前 OpenAI 尚未发布官方说明,但社区推测原因包括:

  • 成本优化:更小的上下文可减少计算资源消耗,降低运营成本
  • 性能平衡:过长上下文可能导致注意力分散,缩短后或提升响应质量
  • 产品策略:区分 Codex 与其他模型(如 GPT-4 Turbo 的 128k)的定位

开发者反应

部分用户表示担忧,尤其是从事大型项目重构或代码审查的开发者,认为这会影响工具实用性。但也有观点认为,272k 仍能满足多数场景,且模型对关键信息的提取能力可能因聚焦而增强。

行业背景

上下文大小一直是 AI 模型竞争的关键指标。2023 年以来,Claude 2 推出 100k,GPT-4 Turbo 支持 128k,而 Codex 曾以 372k 领先。此次缩减或反映 OpenAI 在实用性与成本之间重新权衡,也可能为后续模型迭代腾出空间。

小结

Codex 上下文缩减虽未引发大规模负面反响,但提醒开发者关注模型更新对工作流的潜在影响。建议用户检查自身使用场景,必要时调整代码处理策略。OpenAI 若未进一步解释,社区可能需要通过实际测试评估新限制的具体影响。

延伸阅读

  1. AI在招聘中比人类更容易形成偏见
  2. 编码智能体需要可执行世界模型、简化与验证来攻克 ARC-AGI-3 吗?
  3. AnovaX:本地多智能体语音助手,用LLM规划、类型化执行器和自适应恢复重新定义桌面控制
查看原文