Alle open source
Open SourceLokaal30k

Jan

Een open-source, offline ChatGPT-alternatief dat volledig op je eigen machine draait.

Jan is een desktop AI-app die LLM's volledig offline op je eigen computer uitvoert, gepositioneerd als open-source alternatief voor ChatGPT. Het bevat een eigen lokale inferentie-engine (Cortex, gebouwd op llama.cpp), waarmee je open-weight modellen kunt downloaden en wisselen, en kan ook verbinding maken met externe OpenAI-compatibele providers. Het biedt een lokale OpenAI-compatibele API-server zodat andere apps je lokale modellen kunnen aanroepen.

Opslagplaats

menloresearch/jan

Taal

TypeScript

Wat je ermee zou bouwen

  • Niet-technische gebruikers een verzorgde desktopapp bieden om met lokale modellen te chatten zonder installatieproblemen
  • Modellen volledig offline draaien voor privacygevoelige of air-gapped workflows
  • Blootstellen van een lokaal OpenAI-compatibel endpoint zodat andere tools on-device modellen kunnen aanroepen

Tags

desktopofflinechatopenai-compatible