Código abiertoLocal34k
LocalAI
API compatible con OpenAI lista para sustituirla y ejecutar modelos en tu propio hardware.
LocalAI es un servidor de inferencia autoalojado de código abierto que proporciona una API compatible con OpenAI para ejecutar modelos localmente como reemplazo directo. Admite múltiples backends (incluidos llama.cpp, Whisper y modelos de difusión) para que un único endpoint sirva generación de texto, embeddings, transcripción de audio y generación de imágenes sin servicios cloud externos. Funciona en hardware de consumo y se distribuye como binario único o contenedor.
Repositorio
mudler/LocalAILenguaje
GoLo que construirías con esto
- Reemplazar las llamadas a la API de OpenAI por un endpoint autoalojado y compatible con OpenAI para mayor privacidad o control de costes
- Ejecutar múltiples modalidades (chat, embeddings, voz a texto, generación de imágenes) detrás de una sola API local
- Desplegar inferencia local en entornos aislados de red o en instalaciones on-premises mediante Docker
Etiquetas
self-hostedopenai-compatiblelocal