AnythingLLM

All-in-One-App zum Chatten mit eigenen Dokumenten via beliebigem LLM, RAG und MCP.

AnythingLLM ist eine All-in-One-Desktop- und Self-Hosted-Anwendung zum Chatten mit Dokumenten via RAG, Agenten und wählbaren LLM- und Vektordatenbank-Backends. Es unterstützt mehrere Modellanbieter (OpenAI, Anthropic, lokale LLMs via Ollama/LM Studio und andere), bündelt einen eigenen Embedder und Vektorspeicher und organisiert Inhalte in isolierten Workspaces. Es zeichnet sich als schlüsselfertige, datenschutzfreundliche Lösung aus, um eine private ChatGPT-ähnliche Oberfläche über eigene Dateien zu betreiben.