Open SourceLokaal65k
GPT4Free
Een uniforme client die veel modelproviders reverse-engineert achter één lokale API.
GPT4Free (g4f) is een open-source pakket dat toegang tot talloze LLM- en beeldproviders aggregeert achter één Python-client en een lokale OpenAI-compatibele API en web-UI. Het wordt breed gebruikt voor prototyping en het routeren over vele backends via één interface, en kan zelf worden gehost als gateway. Merk op dat het werkt door te communiceren met endpoints van externe providers, waardoor de beschikbaarheid van individuele providers kan variëren.
Opslagplaats
xtekky/gpt4freeTaal
PythonWat je ermee zou bouwen
- Prototyping tegen veel modelproviders via één zelf gehoste, OpenAI-compatibele gateway
- Een lokale web-UI en API opstarten om meerdere backends te testen zonder afzonderlijke SDK's
- Verzoeken routeren over providers vanuit één client tijdens vroege experimentatie
Tags
gatewayopenai-compatibleself-hostedproxy