LocalAI

API compatible OpenAI clé en main pour exécuter des modèles sur votre propre matériel.

LocalAI est un serveur d'inférence open source auto-hébergé qui expose une API compatible OpenAI clé en main pour exécuter des modèles en local. Il prend en charge plusieurs backends (dont llama.cpp, Whisper et des modèles de diffusion) afin qu'un seul endpoint puisse servir la génération de texte, les embeddings, la transcription audio et la génération d'images sans services cloud externes. Il fonctionne sur du matériel grand public et se distribue sous forme de binaire unique ou de conteneur.