LLMSlim ist eine Open-Source-Bibliothek (Python & TypeScript) zur Prompt-Kompression für LLM-Anwendungen. Sie kombiniert extraktive Vorverarbeitung, generatives Rewriting und regelbasierte Heuristiken, um Token-Kosten bei garantiertem Erhalt kritischer Anweisungen zu reduzieren. Die aktuelle Version ist v0.3.0 mit einer mehrstufigen Kompressions-Pipeline (6 Stufen), CLI-Tool und Python-API sowie Integrationen für gängige LLM-Provider und Frameworks. Das Tool bietet zudem einen integrierten Kostenschätzer für gängige Modelle wie GPT-5, Claude und Gemini.

Belege (2)