Lokale LLMs haben einen Vorteil, den ChatGPT und Claude nicht bieten können, und genau deshalb wechsle ich.

Oft schlagen Menschen ein lokales LLM als Alternative zu großen KI-Chatbots wie ChatGPT, Claude oder Gemini vor, weil es scheinbar kostenlos ist. Man muss kein Abonnement bezahlen. Man lädt es einfach herunter und führt es aus.

Und obwohl das auf den ersten Blick wie ein großer Vorteil erscheint, gibt es noch weitere Vorteile. Ein weiterer ist natürlich die Privatsphäre. Mit einem lokalen LLM, wenn Sie ausschließlich an Ihrem Computer arbeiten, müssen Ihre Materialien und Ihre Arbeit Ihren Computer nicht verlassen, auf einen Server gehen und dann zurückkommen. Keine dritte Partei sammelt oder speichert Ihre Informationen — sie bleiben vollständig auf Ihrem Gerät.

Aber abgesehen von all dem habe ich begonnen, lokale LLMs zu schätzen, wegen eines weiteren Vorteils, den sie bieten. Um es ins rechte Licht zu rücken, müssen wir zunächst das offensichtliche Problem ansprechen.

Große KI-Unternehmen werden für immer testen und abstimmen

Abgesehen vom Modell bist du auch das Produkt

Die Vorstellung, dass ein KI-Modell am Veröffentlichungstag ein festes Softwarestück ist, ist eine Illusion. Diese Modelle sind lebende Experimente. Die Labors dahinter passen ständig Parameter im Hintergrund an. Dazu gehören versteckte Systemprompt-Anpassungen, A/B-Tests und Rechenleistungsbegrenzungen.

Das beste Beispiel dafür, das wir alle gesehen haben, ist in ChatGPT vorhanden. Gelegentlich, wenn Sie ChatGPT verwenden, erhalten Sie zwei Antworten statt einer, und Sie haben die Möglichkeit zu wählen, welche besser ist. Stellen Sie sich vor, es gäbe einen deutlichen Unterschied zwischen den Optionen, und Option A wäre eindeutig überlegen. Was würde passieren, wenn sie Sie nie fragen würden und nur Option B zeigen würden? Genau das passiert in der Praxis.

Die meiste Zeit sieht jeder Nutzer eine einzelne Version mit einem spezifischen System-Prompt, Parametersatz und Rechenlevel. Jemand anderes könnte etwas anderes sehen. Anstatt direkt zu fragen, schließt das System anhand des Verhaltens auf Zufriedenheit: Hat der Nutzer aufgehört? Waren sie zufrieden? Wie lauteten die Semantiken ihrer Antwort? Alles davon.

Selbst wenn Sie also Unterschiede bemerken, merken Sie selten, dass Sie Teil eines Live-Tests sind. Diese Experimente laufen ständig, bei allen Nutzern und Einstellungen. Auch die API schützt Sie davor nicht.

Ein weiteres Beispiel ist Anthropic, das ethische KI-Unternehmen. Im April 2026 gaben sie zu, die Rechenleistung ihrer Modelle reduziert zu haben. Am 4. März senkten sie stillschweigend den Standardaufwand für das Denken von hoch auf mittel, um Kosten und Serverlast zu reduzieren, da die Zahl der neuen Nutzer stark anstieg. Die Änderung fiel auf, weil der Intelligenzverlust erheblich war, was sie zwang, sie rückgängig zu machen. Aber was, wenn es unbemerkt geblieben wäre und Sie stattdessen Ihr System beschuldigt hätten? Ich weiß, dass ich es getan habe.

Jedes KI-Unternehmen macht das

Es ist eine Tatsache

Dieses Verhalten beschränkt sich nicht auf ein Unternehmen, und es ist nicht anekdotisch. Es wurde dokumentiert.

Forscher an der Stanford-Universität und der UC Berkeley haben ein Papier mit dem Titel „Wie verändert sich das Verhalten von ChatGPT im Laufe der Zeit?“ geschrieben. Sie haben systematisch OpenAIs GPT-3.5 und GPT-4 über einen Zeitraum von drei Monaten mithilfe exakt derselben API-Endpunkte getestet.

Einer der Tests, die sie für GPT-4 durchgeführt haben, war die Identifizierung von Primzahlen. Die Genauigkeit von GPT-4 bei der Identifizierung von Primzahlen sank katastrophal von 84 % im März auf 51 % im Juni. Also, zu der Zeit, als Sie es im Juni benutzten, erkannte es die Zahl nur die Hälfte der Zeit korrekt.

Auch andere Fähigkeiten litten. Die Fähigkeit des Modells, direkt ausführbaren Code zu erzeugen, ging deutlich zurück, weil sich der Systemprompt verschoben hatte; ChatGPT bevorzugte zunehmend Kommentare und Erklärungen gegenüber tatsächlichem Codieren. Auch mehrstufiges Denken wurde gestört.

Also, obwohl beide GPT-4 genannt wurden, boten die März- und Juni-Versionen zwei sehr unterschiedliche Erfahrungen.

KI-Anbieter betreiben ein Geschäft

Maximieren. Aktien. Wert.

Das ist die Realität. Ein neues Modell erscheint - Claude Opus 5, ChatGPT 6, Gemini 4, was auch immer es ist. Benchmarks werden veröffentlicht, und es schlägt jedes andere Modell in jeder Hinsicht. Du vertraust den Benchmark-Zahlen nicht, also testest du das Modell selbst. Und ja, es ist wirklich besser. Also wechselst du vielleicht wieder von Claude zu ChatGPT, weil du vor zwei Monaten ChatGPT für Claude verlassen hast, und jetzt ist Claudes Leistung gesunken. Das machst du. Du hast eine großartige Zeit, aber nach einer Woche... sinkt die Leistung wieder.

Innerhalb einer Woche ist das GPT, das Sie auf seinem Höhepunkt verwendet haben, nicht mehr dasselbe. Bei der Veröffentlichung zeigen die Anbieter das Modell in seiner besten Form: Alle Server laufen auf voller Kapazität, Rechenlimits werden vorübergehend aufgehoben, jede Antwort ist optimiert. Das Ziel ist es, Sie zu beeindrucken und abhängig zu machen.

Sobald du und ich investiert sind — wir haben den Wechsel vollzogen und unsere Abonnements gekauft — ist es eine andere Geschichte, weil sie den Verkauf gemacht haben.

Das wird immer passieren. Und kein LLM-Anbieter ist davon ausgenommen. Gemini, ChatGPT, Claude. Sie führen alle immer noch ein Geschäft. Und wenn es eine Möglichkeit gibt, die Kunden zu halten und Geld zu verdienen, ohne so viel davon auszugeben, werden sie sie nutzen.

Ein lokales LLM ist davon ausgenommen

und deshalb solltest du wechseln

Hier zeigt sich, wo ein lokales LLM glänzt: Es ist eines, das Sie wirklich kontrollieren. Ja, wenn Sie keinen Supercomputer haben, wird es nicht dasselbe Erlebnis wie bei einer Cloud-KI sein. Selbst wenn Sie einen Supercomputer haben, wird es nicht dasselbe sein. Es gibt schlichtweg keine Möglichkeit, das, was zum Beispiel OpenAI mit all diesen Serverfarmen hat, mit dem, was Sie zu Hause haben, zu erreichen.

Ein lokales Modell wird wahrscheinlich kleiner und weniger scharf sein als das neueste Cloud-LLM bei Spitzenleistung. Aber es bietet Ihnen Stabilität und damit Zuverlässigkeit. Es läuft auf Ihrem eigenen Gerät. Sie kontrollieren den Systemprompt, die Parameter und die Zuweisung der Rechenressourcen.

Also selbst wenn Ihr Modell mittelmäßig ist, wird es in einem Jahr immer noch mittelmäßig sein. Es wird sich nicht ändern und verschlechtern und reduzieren und Aufs und Abs haben. Es wird dasselbe mittelmäßige Modell sein.

Für jeden, der es mit KI ernst meint, besonders wenn Arbeitsabläufe davon abhängen, ist diese Konsistenz unbezahlbar. Deshalb richte ich ein ordentliches Setup ein, um vollständig umzusteigen, und deshalb sollten Sie in Erwägung ziehen, dasselbe zu tun.