LDAI-1.5B-DE-GGUF
LDAI-1.5B-DE-gguf ist eine quantisierte Version des Modells LDAI-1.5B-DE, entwickelt von LakoMoor. Dieses Modell ist speziell für deutsche Anwendungen optimiert und kann effizient auf Geräten mit begrenzten Ressourcen ausgeführt werden, dank der gguf-Quantisierung.
Training:
Der Datensatz wurde manuell gesammelt und durch synthetische Daten ergänzt.
- Basis-Modell: Qwen2.5-1.5B-Instruct
- Feintuning: Supervised Fine-Tuning (SFT)
- Trainingsdauer: 4 Stunden auf einer Nvidia Tesla P40 24GB
Vorteile der gguf-Quantisierung:
- Geringerer Speicherverbrauch
- Schnelle Inferenz auch auf Geräten ohne GPU
- Reduzierter Ressourcenbedarf ohne signifikanten Qualitätsverlust
Weitere Informationen:
LDAI-1.5B-DE-gguf ist unter der Apache-2.0-Lizenz veröffentlicht und speziell für deutschsprachige Anwendungsfälle optimiert.
Referenzen
- Downloads last month
- 14
Hardware compatibility
Log In to add your hardware
2-bit
3-bit
4-bit
5-bit
6-bit
8-bit
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support