LLMSlim v0.3.0

LLMSlim v0.3.0 是一款专注于降低大语言模型调用成本的提示词压缩工具，通过离线混合压缩策略，在不影响关键信息的前提下，将令牌消耗减少40-70%。

核心功能

该版本搭载了混合提示压缩技术：首先通过离线TF-IDF提取预剪枝上下文，过滤冗余内容；然后利用可选的LLM重写通道对剩余部分进行语义优化。整个过程在CPU上完成，延迟低于30毫秒，确保高效运行。

主要特性

• 成本节省显著：令牌消耗降低40-70%，直接减少API调用费用。
• 保留关键内容：100%保留系统指令、代码块和JSON模式，确保输出质量。
• 广泛兼容性：支持OpenAI、Anthropic、Gemini、LangChain、LlamaIndex、Ollama等主流平台和框架。
• 零依赖：纯Python实现，无需额外安装包，通过pip install llmslim即可使用。
• 低延迟：CPU上运行，延迟低于30毫秒，适合实时应用。

适用场景

LLMSlim 适用于任何需要频繁调用LLM的场景，如聊天机器人、内容生成、代码辅助、数据分析等。尤其适合预算敏感型项目或需要优化API成本的团队。无论是个人开发者还是企业用户，都能通过简单的集成快速降低令牌消耗。