Åpen kildekodeLokal74k
GPT4All
Kjør private, lokale LLM-er på vanlige stasjonære datamaskiner og bærbare, uten GPU.
GPT4All er et åpen kildekode-økosystem fra Nomic AI for kjøring av lokale LLM-er på forbrukeres CPU-er og GPU-er, inkludert en polert skrivebordsapplikasjon for chat. Den leveres med en ett-klikks-installasjon, en kuratert modellkatalog og en innebygd LocalDocs-funksjon for RAG-chat over egne filer. Den tilbyr også Python og andre språkbindinger slik at utviklere kan bygge inn lokal inferens i appene sine.
Kodelager
nomic-ai/gpt4allSpråk
C++Det du kan bygge med den
- La sluttbrukere kjøre private modeller på en bærbar med en enkel installasjon og uten kommandolinje
- Chatte over lokale dokumenter med den innebygde LocalDocs RAG uten å sende data til skyen
- Bygge inn enhetsbasert inferens i apper via GPT4All Python-bindingene
Tagger
desktopcpuragbindings