Text Generation WebUI

Yerel metin modellerini çalıştırmak ve denemek için "Gradio" çakı UI'ı.

Text Generation WebUI (oobabooga), llama.cpp, Transformers ve ExLlamaV2 dahil pek çok arka ucu destekleyen, yerel büyük dil modellerini çalıştırmak için Gradio tabanlı bir web arayüzüdür. Sohbet, not defteri ve talimat modları; model ve LoRA yükleme; parametre ayarlama ve OpenAI uyumlu API eklentisi sunar. Yerel çıkarım üzerinde deneme yapmak ve ayrıntılı kontrol sağlamak için uzun süredir topluluk tarafından tercih edilen bir araçtır.