All åpen kildekode
Åpen kildekodeLokal30k

Jan

Et åpen kildekode, frakoblet ChatGPT-alternativ som kjører helt på din maskin.

Jan er en skrivebordsapp for AI som kjører LLM-er fullt frakoblet på din egen datamaskin, posisjonert som et åpen kildekode-alternativ til ChatGPT. Den bunter sin egen lokale inferensmotor (Cortex, bygget på llama.cpp), lar deg laste ned og bytte mellom åpne modeller, og kan også koble til eksterne OpenAI-kompatible leverandører. Den eksponerer en lokal OpenAI-kompatibel API-server slik at andre apper kan kalle dine lokale modeller.

Kodelager

menloresearch/jan

Språk

TypeScript

Det du kan bygge med den

  • Gi ikke-tekniske brukere en polert skrivebordsapp for å chatte med lokale modeller uten oppsett
  • Kjør modeller helt frakoblet for personvernfølsomme eller luftgapede arbeidsflyter
  • Eksponer et lokalt OpenAI-kompatibelt endepunkt slik at andre verktøy kan treffe enhetsbaserte modeller

Tagger

desktopofflinechatopenai-compatible