Open SourceLokaal30k
Jan
Een open-source, offline ChatGPT-alternatief dat volledig op je eigen machine draait.
Jan is een desktop AI-app die LLM's volledig offline op je eigen computer uitvoert, gepositioneerd als open-source alternatief voor ChatGPT. Het bevat een eigen lokale inferentie-engine (Cortex, gebouwd op llama.cpp), waarmee je open-weight modellen kunt downloaden en wisselen, en kan ook verbinding maken met externe OpenAI-compatibele providers. Het biedt een lokale OpenAI-compatibele API-server zodat andere apps je lokale modellen kunnen aanroepen.
Opslagplaats
menloresearch/janTaal
TypeScriptWat je ermee zou bouwen
- Niet-technische gebruikers een verzorgde desktopapp bieden om met lokale modellen te chatten zonder installatieproblemen
- Modellen volledig offline draaien voor privacygevoelige of air-gapped workflows
- Blootstellen van een lokaal OpenAI-compatibel endpoint zodat andere tools on-device modellen kunnen aanroepen
Tags
desktopofflinechatopenai-compatible