Open SourceFramework22k
DSPy
Sprachmodelle programmieren statt prompten und anschließend automatisch optimieren.
DSPy ist ein Framework von Stanford NLP, das Sprachmodelle durch das Zusammenstellen modularer, deklarativer Pipelines programmiert statt sie manuell zu prompten. Seine Optimierer (früher Teleprompter) stimmen Prompts und Few-Shot-Beispiele automatisch auf eine Metrik ab, sodass Pipelines sich ohne manuelles Prompt-Engineering verbessern. Es ist bekannt dafür, Prompts als lernbare Parameter zu behandeln, und wird verbreitet für den Aufbau robuster, selbstoptimierender LLM-Systeme eingesetzt.
Repository
stanfordnlp/dspySprache
PythonWas du damit bauen kannst
- LLM-Pipelines erstellen, deren Prompts automatisch gegen eine Metrik optimiert werden
- Fragile, manuell abgestimmte Prompts durch deklarative, komponierbare Module ersetzen
- Mehrstufige Reasoning- und RAG-Systeme kompilieren, die sich an Beispielen selbst verbessern
Tags
optimizationpromptingpipelinesagents