كل المشاريع مفتوحة المصدر
مفتوح المصدرمحلي44k

Text Generation WebUI

واجهة المستخدم السكين متعددة الاستخدامات المبنية على Gradio لتشغيل النماذج النصية المحلية والتجريب معها.

Text Generation WebUI (oobabooga) هي واجهة ويب مبنية على Gradio لتشغيل النماذج اللغوية الكبيرة محليًا، تدعم خلفيات متعددة منها llama.cpp و Transformers و ExLlamaV2. توفر أوضاع دردشة ودفتر ملاحظات وتعليمات، وتحميل النماذج و LoRA، وضبط المعاملات، وامتداد API متوافق مع OpenAI. وهي من المفضّلات الراسخة في المجتمع للتجريب والتحكم الدقيق في الاستنتاج المحلي.

المستودع

oobabooga/text-generation-webui

اللغة

Python

ما الذي يمكنك بناؤه به

  • التجريب مع النماذج المكمَّمة وعيّنات أخذ العينات و LoRAs من خلال واجهة مستخدم واحدة قابلة للتهيئة
  • التبديل بين خلفيات استنتاج متعددة دون تغيير سير العمل
  • خدمة النماذج المحلية للتطبيقات الأخرى عبر امتداد API المتوافق مع OpenAI

الوسوم

uigradiobackendsexperimentation