KI auf dem eigenen Rechner: was 2026 wirklich geht

Eine Grafikkarte mit 32 GB Videospeicher kostet in Deutschland gerade rund 5.000 Euro. Eine mit 16 GB kostet 630. Wer zum ersten Mal darüber nachdenkt, künstliche Intelligenz auf dem eigenen Rechner laufen zu lassen, landet fast immer bei der teuren Karte, weil überall steht, man brauche möglichst viel Speicher.

Das stimmt, aber nicht so, wie die meisten es verstehen. Der Unterschied zwischen den beiden Karten ist nicht der Unterschied zwischen "es geht" und "es geht nicht". Er ist der Unterschied zwischen "fast alles" und "wirklich alles". Und "fast alles" ist mehr, als die meisten je brauchen.

Was heute lokal läuft

Lokal heißt: Das Modell liegt auf deiner Festplatte und rechnet auf deiner Grafikkarte. Kein Konto, kein Abo, keine Internetverbindung, keine Daten, die das Haus verlassen.

Drei Dinge funktionieren inzwischen zuverlässig auf normaler Hardware:

Sprachmodelle. Also das, was die meisten unter KI verstehen: Texte schreiben, zusammenfassen, übersetzen, Code erklären, Fragen beantworten. Die offenen Modelle heißen Llama, Qwen, Gemma, Mistral oder gpt-oss. Man lädt sie einmal herunter und sie gehören einem.

Bildgenerierung. SDXL und neuere Modelle erzeugen auf einer Mittelklassekarte ein Bild in etwa vierzig Sekunden. Das ist die Art Aufgabe, für die Grafikkarten gebaut sind.

Videogenerierung. Der neueste der drei Bereiche und der einzige, bei dem der Speicher wirklich eng wird. Hier merkt man als Erstes, wenn die Karte zu klein ist.

Die einzige Zahl, die zählt

Nicht die Taktrate, nicht die Anzahl der Recheneinheiten, nicht der Prozessor. Videospeicher. Ein Modell muss vollständig in den Speicher der Grafikkarte passen, sonst läuft es entweder gar nicht oder es fällt auf den Hauptspeicher zurück und wird zäh.

Die Faustformel dafür ist einfach: Anzahl der Parameter in Milliarden mal 0,6 ergibt ungefähr den Speicherbedarf in Gigabyte. Ein Modell mit 8 Milliarden Parametern braucht also rund 5 GB, eines mit 27 Milliarden rund 16 GB. Dazu kommt etwas Platz für den Textverlauf. Wer lange Dokumente verarbeiten will, braucht spürbar mehr.

Der Haken, den fast niemand erwähnt

Wir bauen Rechner, und wir betreiben dieselben Modelle selbst. Auf einer Karte mit 16 GB, in einem System mit 32 GB Arbeitsspeicher. Dabei ist uns etwas aufgefallen, das in keiner Kaufberatung steht.

Die Grafikkarte war nie das Problem. Der Arbeitsspeicher war es.

Beim Erzeugen einer Bildserie lagen die ersten Bilder bei 18 Sekunden. Das vierte bei 22. Das siebte bei 69. Gleiches Modell, gleiche Einstellungen, gleiche Auflösung. Der Grund: Die Software lädt Modelle in den Hauptspeicher und gibt ihn nicht sauber wieder frei. Sobald die 32 GB voll sind, fängt Windows an auszulagern, und dann rechnet die Karte nicht mehr, sie wartet.

Bei einem anderen Modell wurde aus 111 Sekunden für das erste Bild ein Wert von 250 Sekunden für das zweite.

Merke: Eine große Grafikkarte in einem Rechner mit 16 GB Arbeitsspeicher ist rausgeworfenes Geld. Für lokale KI gilt als Untergrenze 32 GB, und 64 GB sind der eigentliche Komfortpunkt. Das kollidiert gerade mit den Speicherpreisen, aber die Reihenfolge ist eindeutig: erst genug Arbeitsspeicher, dann eine größere Karte.

Es geht nicht ums Sparen

Hier muss man ehrlich sein, sonst rechnet es der Erste nach und hat recht.

Ein Abo bei einem der großen Anbieter kostet rund 23 Euro im Monat, also 276 Euro im Jahr. Ein Rechner, der lokale KI ordentlich stemmt, liegt bei den heutigen Preisen im vierstelligen Bereich. Rein rechnerisch zahlst du das Abo also viele Jahre, bevor du den Kaufpreis erreichst. Und das Abo liefert dir in dieser Zeit Modelle, die größer sind als alles, was bei dir zu Hause passt.

Wer lokale KI mit dem Sparargument verkauft, verkauft dir etwas Falsches. Die drei echten Gründe sind andere:

Deine Daten bleiben bei dir. Kein Dokument, kein Kundenname, keine Krankenakte, kein Vertragsentwurf verlässt den Rechner. Für alle, die mit fremden Daten arbeiten, ist das kein Komfort, sondern die Voraussetzung.

Kein Limit und keine Abschaltung. Keine Nachricht pro Stunde, kein Anbieter, der ein Modell ohne Vorwarnung ersetzt oder abkündigt. Ein heruntergeladenes Modell funktioniert in fünf Jahren noch genauso.

Es läuft offline. Und der Rechner kann nebenbei noch alles andere: spielen, schneiden, rendern, arbeiten. Die Grafikkarte steht nicht herum, wenn du gerade keine KI brauchst.

So fängst du an, ohne etwas zu kaufen

Der beste erste Schritt kostet nichts und dauert zwanzig Minuten.

Lade dir LM Studio herunter, ein kostenloses Programm für Windows und Mac. Es zeigt dir beim Herunterladen eines Modells direkt an, ob es auf deine Karte passt. Nimm ein Modell der 8B-Klasse in der Quantisierung Q4, das läuft schon auf 12 GB. Stelle im Reiter für die Hardware den Regler für die Auslagerung auf die Grafikkarte hoch, sonst rechnet der Prozessor mit und es wird langsam.

Dann schreib ihm etwas. Nicht "erzähl mir einen Witz", sondern etwas aus deinem Alltag: eine E-Mail umformulieren, einen Text kürzen, eine Tabelle sortieren. Nach zwanzig Minuten weißt du zwei Dinge, die dir kein Testbericht sagen kann: ob dir die Antwortqualität reicht, und ob deine Karte zu klein ist.

Genau in dem Moment ist die Kaufentscheidung eine echte Frage. Vorher ist sie Spekulation.

Und was ist mit dem Mac mini?

Die Frage kommt immer, und sie ist berechtigt. Apple baut den Speicher nicht getrennt ein, sondern als gemeinsamen Speicher für Prozessor und Grafikeinheit. Ein Mac mini mit 64 GB kann davon fast alles für ein Modell verwenden. Auf einem PC bräuchtest du dafür eine Grafikkarte mit 64 GB, und die gibt es für Privatleute nicht.

Deshalb die klare Antwort: Wenn du ausschließlich Texte willst und möglichst große Sprachmodelle, kauf einen Mac mini. Ein M5 Pro mit 64 GB liegt bei rund 2.400 Euro und schafft Modelle, für die auf dem PC keine Karte reicht. Er ist dabei lautlos und zieht 60 bis 100 Watt statt 300 bis 450.

Es gibt aber drei Dinge, bei denen er verliert, und sie sind nicht klein.

Tempo bei allem, was ohnehin passt. Ein Modell der 8B-Klasse läuft auf dem Mac mit 50 bis 120 Zeichenfolgen pro Sekunde, auf einer Desktop-Grafikkarte mit 130 bis 160. Beim 70B-Modell, dem einzigen, wo der Mac überhaupt allein dasteht, sind es 6 bis 16. Das ist Lesetempo eines langsamen Vorlesers.

Bilder und Video. Das ist der eigentliche Unterschied. Die gesamte Software für Bildgenerierung, Videomodelle und eigenes Modelltraining ist auf Nvidias Rechenplattform gebaut. Auf dem Mac läuft davon ein Teil gar nicht und der Rest ein Vielfaches langsamer. Wo unsere Karte vierzig Sekunden für ein Bild braucht, redet man auf dem Mac über Minuten.

Nichts davon ist nachrüstbar. Der Speicher ist verlötet. Du kaufst die Konfiguration für die gesamte Lebensdauer des Geräts. Beim PC tauschst du in drei Jahren die Grafikkarte und behältst alles andere. Und der PC spielt, schneidet und arbeitet nebenbei, der Mac mini nicht.

Kurz: Der Mac mini ist die bessere Textmaschine. Der PC ist die bessere Kreativmaschine. Wer nur reden will, soll den Mac nehmen. Wer etwas erzeugen will, kommt an Nvidia nicht vorbei.

Was wir empfehlen

Wenn du nur Texte willst, reichen 12 GB Videospeicher und 32 GB Arbeitsspeicher. Das ist keine Spezialmaschine, das ist ein guter Spielerechner.

Wenn Bilder und Video dazukommen, sind 16 GB Videospeicher der sinnvolle Einstieg und 64 GB Arbeitsspeicher der Unterschied zwischen 18 und 69 Sekunden. Das ist die Klasse, auf der wir selbst arbeiten.

Wenn du Video erzeugen oder eigene Modelle trainieren willst, brauchst du 32 GB Videospeicher, und dann redest du über eine Karte, die allein so viel kostet wie ein kompletter guter Rechner. Das ist eine Entscheidung, die man trifft, weil man sie treffen will, nicht weil man sie treffen muss. Für reine Textarbeit lohnt sie sich nicht, dafür ist der Mac der bessere Kauf.

Wir bauen zwei davon, den Einstieg mit 16 GB und die große Maschine mit 32. Und wir sagen dir vorher, in welche Klasse du wirklich gehörst, statt dir die teuerste zu verkaufen. Auch wenn die Antwort manchmal lautet: nimm den Mac mini.