llamafile

Distribuye un LLM completo como un único ejecutable multiplataforma.

llamafile, desarrollado por Mozilla Ocho, empaqueta un LLM junto con sus pesos en un único ejecutable que funciona en macOS, Windows, Linux y BSD sin instalación ni dependencias. Combina llama.cpp con Cosmopolitan Libc para generar un archivo portable que arranca una interfaz de chat local y un servidor compatible con OpenAI. Está diseñado para que distribuir y ejecutar modelos locales sea tan sencillo como descargar y ejecutar un solo archivo.