Öppen källkodLokalt30k
Jan
En open source offline-alternativ till ChatGPT som körs helt på din maskin.
Jan är en desktop-AI-app som kör LLMs helt offline på din egen dator, positionerad som ett open source-alternativ till ChatGPT. Den buntar sin egen lokala inferensmotor (Cortex, byggd på llama.cpp), låter dig ladda ned och växla mellan open-weight-modeller, och kan även ansluta till fjärranslutna OpenAI-kompatibla leverantörer. Den exponerar en lokal OpenAI-kompatibel API-server så att andra appar kan anropa dina lokala modeller.
Kodförråd
menloresearch/janSpråk
TypeScriptVad du kan bygga med det
- Ge icke-tekniska användare en polerad desktop-app för att chatta med lokala modeller utan inställningar
- Köra modeller helt offline för integritetskänsliga eller luftgapade arbetsflöden
- Exponera en lokal OpenAI-kompatibel endpoint så att andra verktyg kan nå enhetsbaserade modeller
Taggar
desktopofflinechatopenai-compatible