Açık KaynakYerel74k
GPT4All
GPU gerektirmeden sıradan masaüstü ve dizüstü bilgisayarlarda özel yerel LLM'ler çalıştırın.
GPT4All, Nomic AI'ın tüketici CPU ve GPU'larında yerel LLM'ler çalıştırmak için geliştirdiği açık kaynaklı bir ekosistem olup şık bir masaüstü sohbet uygulamasını içerir. Tek tıkla yükleyici, küratörlü model kataloğu ve kendi dosyalarınız üzerinde alım artırmalı sohbet için yerleşik LocalDocs özelliğiyle birlikte gelir. Ayrıca geliştiricilerin yerel çıkarımı uygulamalarına gömebilmesi için Python ve diğer dil bağlamaları sunar.
Depo
nomic-ai/gpt4allDil
C++Bununla neler kurabilirsin
- Son kullanıcıların komut satırına gerek kalmadan basit bir yükleyiciyle dizüstü bilgisayarlarında özel modelleri çalıştırmasını sağlama
- Veriyi buluta göndermeden yerleşik LocalDocs RAG ile yerel belgeler üzerinde sohbet etme
- GPT4All Python bağlamaları aracılığıyla cihaz üzerinde çıkarımı uygulamalara gömme
Etiketler
desktopcpuragbindings