llamafile

أرسِل نموذج LLM كاملاً في ملف تنفيذي واحد يعمل على جميع المنصات.

يقوم llamafile، من Mozilla Ocho، بتحزيم نموذج LLM مع أوزانه في ملف تنفيذي واحد يعمل على macOS وWindows وLinux وBSD دون الحاجة إلى تثبيت أو تبعيات. يجمع بين llama.cpp وCosmopolitan Libc لإنتاج ملف محمول واحد يُشغّل واجهة محادثة محلية وخادماً متوافقاً مع OpenAI. صُمِّم لجعل توزيع النماذج المحلية وتشغيلها بسيطاً كتنزيل ملف واحد وتشغيله.