llama.cpp

llama.cpp

AI Platformları & ModellerAI Model Platformları & API
github.com

Bu AI aracı ne işe yarar?

Tüketici sınıfı donanımlarda ve CPU üzerinde açık modelleri en hafif ve hızlı çalıştıran çekirdek.

Altyapı & Modeller

GGUF formatındaki tüm transformer modelleri

Veri Gizliliği

Saf C/C++ ile internetsiz çalışır; harici telemetri ve izleme içermez.

Güvenlik

Sertifika / StandartAçık Kaynak / MIT Lisansı

Bu aracı faydalı buldun mu?