ExLlamaV2
AI Platformları & ModellerAI Model Platformları & APIBu AI aracı ne işe yarar?
Modern NVIDIA ekran kartlarında açık modelleri ultra yüksek hız ve düşük VRAM kullanımıyla çalıştırma.
Altyapı & Modeller
EXL2 formatındaki kuantize modeller
Veri Gizliliği
Saf yerel Python/C++ kütüphanesidir; dış ağ bağlantısı içermez.
Güvenlik
Sertifika / StandartAçık Kaynak / MIT Lisansı