🐳DeepSeek-R1 Dynamisch 1,58-Bit
Sieh Vergleichstabellen zur Leistung von Unsloths dynamischen GGUF-Quants gegenüber standardmäßigen IMatrix-Quants.
1-Bit (Klein) - Dynamisch vs. Basis
GGUF-Typ
Quant
Größe (GB)
Seed
Pygame
Hintergrund
Beschleunigen LEERTASTE
Vogelform
Land
Punktestand oben rechts
Rohre
Bester Punktestand
Beenden
Ausführbar
Punktestand
Durchschn. Punktestand
Fehler
Notizen
1-Bit (Mittel) - Dynamisch vs. Basis
GGUF-Typ
Quant
Größe (GB)
Seed
Pygame
Hintergrund
Beschleunigen LEERTASTE
Vogelform
Land
Punktestand oben rechts
Rohre
Bester Punktestand
Beenden
Ausführbar
Punktestand
Durchschn. Punktestand
Fehler
Notizen
2-Bit (Extra extra klein) - Dynamisch vs. Basis
GGUF-Typ
Quant
Größe (GB)
Seed
Pygame
Hintergrund
Beschleunigen LEERTASTE
Vogelform
Land
Punktestand oben rechts
Rohre
Bester Punktestand
Beenden
Ausführbar
Punktestand
Durchschn. Punktestand
Fehler
Notizen
Ausgabe des Tests für dynamische Quantisierung
Ausgabe des Tests für nicht-dynamische Quantisierung
Zuletzt aktualisiert
War das hilfreich?

