Alle open source
Open SourceFramework22k

DSPy

Programmeer taalmodellen in plaats van ze te prompten, en optimaliseer automatisch.

DSPy is een framework van Stanford NLP voor het programmeren in plaats van het handmatig prompten van taalmodellen, door modulaire, declaratieve pipelines samen te stellen. De optimizers (voorheen teleprompters) stemmen prompts en few-shot-voorbeelden automatisch af op een metriek, zodat pipelines verbeteren zonder handmatige prompt-engineering. Het valt op doordat het prompts behandelt als leerbare parameters en wordt veel gebruikt voor robuuste, zelfoptimaliserende LLM-systemen.

Opslagplaats

stanfordnlp/dspy

Taal

Python

Wat je ermee zou bouwen

  • LLM-pipelines bouwen waarvan de prompts automatisch worden geoptimaliseerd op basis van een metriek
  • Broze, handmatig afgestelde prompts vervangen door declaratieve, composeerbare modules
  • Meertraps redeneer- en RAG-systemen compileren die zichzelf verbeteren op basis van voorbeelden

Tags

optimizationpromptingpipelinesagents