مفتوح المصدرمحلي8k
KoboldCpp
مشغّل ملف واحد مبني على llama.cpp مع واجهة مستخدم مدمجة وتوليد صور.
KoboldCpp هو مشغّل استنتاج سهل النشر في ملف تنفيذي واحد مبني على llama.cpp يضيف واجهة ويب مدمجة ودردشة مستمرة ودعمًا لنماذج توليد الصور والكلام. يشغّل نماذج GGUF عبر وحدة المعالجة المركزية وخلفيات GPU متعددة دون تثبيت، مما يجعله شائعًا لحالات استخدام الدردشة والقصص والتمثيل الأدوار المحلية. يعرض أيضًا API متوافق مع KoboldAI و OpenAI للتكامل.
المستودع
LostRuins/koboldcppاللغة
C++ما الذي يمكنك بناؤه به
- تشغيل نماذج GGUF المحلية من ملف ثنائي واحد قابل للنقل دون أي تثبيت
- استضافة واجهة دردشة أو قصص ذاتيًا مع سياق مستمر على أجهزة متواضعة
- الجمع بين توليد النص والصور والكلام خلف نقطة نهاية API محلية واحدة
الوسوم
single-binaryggufuiself-hosted