Código abiertoLocal30k
Jan
Una alternativa a ChatGPT de código abierto y sin conexión que se ejecuta íntegramente en tu máquina.
Jan es una app de IA de escritorio que ejecuta LLMs completamente sin conexión en tu propio ordenador, posicionada como alternativa de código abierto a ChatGPT. Incluye su propio motor de inferencia local (Cortex, construido sobre llama.cpp), te permite descargar y cambiar entre modelos de pesos abiertos, y también puede conectarse a proveedores remotos compatibles con OpenAI. Expone un servidor API local compatible con OpenAI para que otras apps puedan llamar a tus modelos locales.
Repositorio
menloresearch/janLenguaje
TypeScriptLo que construirías con esto
- Ofrecer a usuarios no técnicos una app de escritorio pulida para chatear con modelos locales sin configuración
- Ejecutar modelos completamente sin conexión para flujos de trabajo sensibles a la privacidad o en entornos aislados
- Exponer un endpoint local compatible con OpenAI para que otras herramientas accedan a modelos en el dispositivo
Etiquetas
desktopofflinechatopenai-compatible