All åpen kildekode
Åpen kildekodeLokal65k

GPT4Free

En samlet klient som reverse-engineerer mange modelltilbydere bak ett lokalt API.

GPT4Free (g4f) er en åpen kildekode-pakke som samler tilgang til en rekke LLM- og bildetilbydere bak én enkelt Python-klient og et lokalt OpenAI-kompatibelt API og web-UI. Den brukes mye til prototyping og ruting på tvers av mange backends fra ett grensesnitt, og kan selvhostes som en gateway. Merk at den fungerer ved å kommunisere med tredjeparts tilbyderendepunkter, slik at tilgjengeligheten til individuelle tilbydere varierer.

Kodelager

xtekky/gpt4free

Språk

Python

Det du kan bygge med den

  • Prototyping mot mange modelltilbydere via én selvhostet, OpenAI-kompatibel gateway
  • Sette opp et lokalt web-UI og API for å teste flere backends uten separate SDK-er
  • Rute forespørsler på tvers av tilbydere fra én enkelt klient under tidlig eksperimentering

Tagger

gatewayopenai-compatibleself-hostedproxy