LocalAI

Ersättningsbar OpenAI-kompatibel API som kör modeller på din egen hårdvara.

LocalAI är en öppen, självhostad inferensserver som tillhandahåller ett drop-in OpenAI-kompatibelt API för att köra modeller lokalt. Den stöder flera bakändar (inklusive llama.cpp, Whisper och diffusionsmodeller) så att ett enda endpoint kan hantera textgenerering, embeddings, ljudtranskription och bildgenerering utan externa molntjänster. Den körs på konsumenthårdvara och distribueras som en enda binärfil eller container.