Open SourceLocal65k
GPT4Free
Un client unifié qui accède par ingénierie inverse à de nombreux fournisseurs de modèles derrière une API locale.
GPT4Free (g4f) est un package open-source qui agrège l'accès à de nombreux fournisseurs de LLM et d'images derrière un client Python unique, une API locale compatible OpenAI et une interface web. Il est largement utilisé pour prototyper et router des requêtes vers de nombreux backends depuis une seule interface, et peut être auto-hébergé comme passerelle. À noter qu'il fonctionne en interagissant avec des endpoints tiers, la disponibilité de chaque fournisseur peut donc varier.
Dépôt
xtekky/gpt4freeLangage
PythonCe que vous pourriez construire avec
- Prototyper contre de nombreux fournisseurs de modèles via une passerelle auto-hébergée compatible OpenAI
- Démarrer une interface web locale et une API pour tester plusieurs backends sans SDK séparés
- Router les requêtes vers plusieurs fournisseurs depuis un client unique lors des premières phases d'expérimentation
Tags
gatewayopenai-compatibleself-hostedproxy