GPT4All

Kör privata, lokala LLMs på vanliga stationära datorer och bärbara, ingen GPU krävs.

GPT4All är ett open source-ekosystem från Nomic AI för att köra lokala LLMs på konsument-CPU:er och GPU:er, inklusive en polerad desktop-chattapplikation. Det levereras med ett installationsprogram med ett klick, en kurerad modellkatalog och en inbyggd LocalDocs-funktion för RAG-baserad chatt över dina egna filer. Det tillhandahåller även Python- och andra språkbindningar så att utvecklare kan bädda in lokal inferens i sina appar.