Welke GPU heb je nodig voor lokale AI?
Kies een GPU voor lokale AI aan de hand van je toepassing, software, videogeheugen en complete computer. Met een praktische aankoopcheck.
Welke GPU past bij jouw plannen? Begrijp het geheugen, vergelijk de kosten en draai je eerste model. Praktische uitleg voor jouw volgende stap.
Vier routes. Van de eerste vraag
naar een onderbouwde keuze.
Reken de theoretische modelgewichten uit. Voeg je eigen ruimte voor cache en uitvoering toe en zie hoe je scenario zich tot je beschikbare geheugen verhoudt.
Open de VRAM-calculator ↗Modelgewichten zijn de ondergrens.
Context, cache en runtime komen daar nog bij.
Kies een GPU voor lokale AI aan de hand van je toepassing, software, videogeheugen en complete computer. Met een praktische aankoopcheck.
Bereken een ondergrens voor modelgewichten en begrijp waarom context, KV-cache en runtime extra VRAM vragen. Met voorbeelden in GB en GiB.
Installeer Ollama via de officiële download, kies een lokaal model en controleer met ollama ps of het op je GPU draait.
Vergelijk GPU-aanschaf met huren op basis van werkelijke draaiuren, stroom, restwaarde, cloudtarief en een gelijkwaardige taak.
Vergelijk NVIDIA en AMD voor lokale AI op softwareondersteuning, besturingssysteem, geheugen en onderhoud. Gebruik een concrete compatibiliteitscheck.
Wat doet quantisatie met geheugen, kwaliteit en snelheid van lokale taalmodellen? Leer varianten eerlijk vergelijken met je eigen proefopdrachten.
Je invoer blijft in je browser.
Formules en beperkingen staan erbij.
Onze gidsen vertrekken vanuit officiële documentatie en zichtbare aannames. Bij iedere gids vind je de bronnen. Rekenvoorbeelden zijn herkenbaar; eigen hardwaretests worden niet geclaimd.
Lees onze werkwijze ↗