GPT4All

Esegui LLM privati e locali su desktop e laptop comuni, senza GPU richiesta.

GPT4All è un ecosistema open-source di Nomic AI per eseguire LLM locali su CPU e GPU consumer, inclusa un'applicazione desktop di chat curata. Include un installer one-click, un catalogo di modelli selezionati e una funzionalità LocalDocs integrata per la chat con retrieval-augmented generation sui propri file. Fornisce anche binding Python e per altri linguaggi, così gli sviluppatori possono incorporare l'inferenza locale nelle loro app.