All öppen källkod
Öppen källkodLokalt65k

GPT4Free

En samlad klient som reverserar många modelleverantörer bakom ett enda lokalt API.

GPT4Free (g4f) är ett open-source-paket som aggregerar åtkomst till ett stort antal LLM- och bildleverantörer bakom en enda Python-klient och ett lokalt OpenAI-kompatibelt API och webb-UI. Det används flitigt för prototypframtagning och routing mot många backends från ett enda gränssnitt, och kan självhostas som en gateway. Observera att det fungerar genom att kommunicera med tredjepartsleverantörers endpoints, så tillgängligheten för enskilda leverantörer kan variera.

Kodförråd

xtekky/gpt4free

Språk

Python

Vad du kan bygga med det

  • Prototypa mot många modelleverantörer via en självhostad, OpenAI-kompatibel gateway
  • Starta ett lokalt webb-UI och API för att testa flera backends utan separata SDK:er
  • Dirigera anrop mot flera leverantörer från en enda klient under tidig experimentfas

Taggar

gatewayopenai-compatibleself-hostedproxy