🖥️

VRAM-Rechner

GPU-Speicher für verschiedene Modellgrößen und Quantisierungsstufen berechnen.

VRAM-Rechner

Geschätzter VRAM-Bedarf

126.0 GB

GPU-Kompatibilität

RTX 4090

24 GB VRAM

A100

80 GB VRAM

H100

80 GB VRAM