Código abiertoLocal74k
GPT4All
Ejecuta LLMs privados y locales en ordenadores de escritorio y portátiles del día a día, sin GPU.
GPT4All es un ecosistema de código abierto de Nomic AI para ejecutar LLMs locales en CPUs y GPUs de consumo, que incluye una aplicación de chat de escritorio cuidada. Incluye un instalador con un clic, un catálogo de modelos seleccionados y una función LocalDocs integrada para chat con recuperación aumentada sobre tus propios archivos. También proporciona bindings para Python y otros lenguajes para que los desarrolladores puedan integrar inferencia local en sus apps.
Repositorio
nomic-ai/gpt4allLenguaje
C++Lo que construirías con esto
- Permitir a usuarios finales ejecutar modelos privados en un portátil con un instalador sencillo y sin línea de comandos
- Chatear sobre documentos locales con el RAG LocalDocs integrado sin enviar datos a la nube
- Integrar inferencia en el dispositivo en apps mediante los bindings de Python de GPT4All
Etiquetas
desktopcpuragbindings