LocalAI

Drop-in OpenAI-compatibele API die modellen op je eigen hardware uitvoert.

LocalAI is een open-source, zelf-gehoste inferentieserver die een drop-in OpenAI-compatibele API biedt voor het lokaal uitvoeren van modellen. Het ondersteunt meerdere backends (waaronder llama.cpp, Whisper en diffusiemodellen) zodat één endpoint tekstgeneratie, embeddings, audiotranscriptie en beeldgeneratie kan bedienen zonder externe cloudservices. Het draait op consumentenhardware en is beschikbaar als een enkel binair bestand of container.