Åpen kildekodeLokal30k
Jan
Et åpen kildekode, frakoblet ChatGPT-alternativ som kjører helt på din maskin.
Jan er en skrivebordsapp for AI som kjører LLM-er fullt frakoblet på din egen datamaskin, posisjonert som et åpen kildekode-alternativ til ChatGPT. Den bunter sin egen lokale inferensmotor (Cortex, bygget på llama.cpp), lar deg laste ned og bytte mellom åpne modeller, og kan også koble til eksterne OpenAI-kompatible leverandører. Den eksponerer en lokal OpenAI-kompatibel API-server slik at andre apper kan kalle dine lokale modeller.
Kodelager
menloresearch/janSpråk
TypeScriptDet du kan bygge med den
- Gi ikke-tekniske brukere en polert skrivebordsapp for å chatte med lokale modeller uten oppsett
- Kjør modeller helt frakoblet for personvernfølsomme eller luftgapede arbeidsflyter
- Eksponer et lokalt OpenAI-kompatibelt endepunkt slik at andre verktøy kan treffe enhetsbaserte modeller
Tagger
desktopofflinechatopenai-compatible