مفتوح المصدرمحلي44k
Text Generation WebUI
واجهة المستخدم السكين متعددة الاستخدامات المبنية على Gradio لتشغيل النماذج النصية المحلية والتجريب معها.
Text Generation WebUI (oobabooga) هي واجهة ويب مبنية على Gradio لتشغيل النماذج اللغوية الكبيرة محليًا، تدعم خلفيات متعددة منها llama.cpp و Transformers و ExLlamaV2. توفر أوضاع دردشة ودفتر ملاحظات وتعليمات، وتحميل النماذج و LoRA، وضبط المعاملات، وامتداد API متوافق مع OpenAI. وهي من المفضّلات الراسخة في المجتمع للتجريب والتحكم الدقيق في الاستنتاج المحلي.
المستودع
oobabooga/text-generation-webuiاللغة
Pythonما الذي يمكنك بناؤه به
- التجريب مع النماذج المكمَّمة وعيّنات أخذ العينات و LoRAs من خلال واجهة مستخدم واحدة قابلة للتهيئة
- التبديل بين خلفيات استنتاج متعددة دون تغيير سير العمل
- خدمة النماذج المحلية للتطبيقات الأخرى عبر امتداد API المتوافق مع OpenAI
الوسوم
uigradiobackendsexperimentation