Jan

Eine Open-Source-, Offline-Alternative zu ChatGPT, die vollständig auf dem eigenen Rechner läuft.

Jan ist eine Desktop-KI-App, die LLMs vollständig offline auf dem eigenen Computer ausführt und als Open-Source-Alternative zu ChatGPT positioniert ist. Sie bündelt eine eigene lokale Inferenz-Engine (Cortex, aufgebaut auf llama.cpp), ermöglicht das Herunterladen und Wechseln zwischen Open-Weight-Modellen und kann sich auch mit entfernten OpenAI-kompatiblen Anbietern verbinden. Sie stellt einen lokalen OpenAI-kompatiblen API-Server bereit, sodass andere Apps die lokalen Modelle aufrufen können.