Qwen3.8-27B: Warum dieses Modell die Rechnung für lokale KI verändert

Kurz gesagt

Am 13. August 2026 hat Alibaba Qwen3.8-27B veröffentlicht — ein Sprachmodell, dessen Gewichte frei herunterladbar sind und das unter der Apache-2.0-Lizenz auch kommerziell genutzt werden darf. Es versteht Text, Bilder und Video, denkt vor dem Antworten in nachvollziehbaren Schritten und passt verkleinert auf eine einzelne Grafikkarte für wenige tausend Euro.

Bemerkenswert ist nicht ein einzelner Bestwert, sondern das Verhältnis: Diese Leistung stand bisher am Ende einer Internetleitung, bei einem Anbieter, dem man seine Unterlagen schicken musste. Jetzt steht sie in einem Serverschrank.

Warum die Größe hier die eigentliche Nachricht ist

Ein Sprachmodell wird in Parametern gemessen — vereinfacht gesagt in der Zahl der Stellschrauben, die beim Training justiert wurden. Mehr Parameter bedeuten grundsätzlich mehr Können, aber auch mehr Speicher und teurere Hardware. Die starken Modelle der vergangenen Jahre lagen bei mehreren hundert Milliarden Parametern; sie brauchen ganze Serverschränke und sind für ein mittelständisches Unternehmen oder eine Stadtverwaltung praktisch unerreichbar.

Qwen3.8-27B hat rund 27,8 Milliarden Parameter. Rechnet man den mitgelieferten Bild-Encoder hinzu, der Bilder und Videos für das Modell aufbereitet, sind es etwa 28 Milliarden — daher tauchen in Berichten beide Zahlen auf. Entscheidend ist, was daraus folgt: In verkleinerter Rechengenauigkeit — ein Verfahren, das die Zahlen im Modell gröber speichert und dafür deutlich weniger Platz braucht — belegt das Modell rund 14 bis 16 GB. Das ist die Größenordnung einer einzelnen Grafikkarte, die man kaufen und in einen vorhandenen Server bauen kann.

Einmal durchgerechnet: zehn Mitarbeiter, eine Karte

Der Gesprächsspeicher ist die Stelle, an der Planungen schiefgehen. Er hält den laufenden Gesprächsverlauf vor und wächst mit der Textlänge — und zwar für jeden Nutzer einzeln. Bei voller Kontextlänge, also rund 500 Seiten in einem Vorgang, sind das etwa 16 GB pro Person. Bei einem kurzen Chat über 15 Seiten sind es rund 0,5 GB.

Ein realistischer Fall: zehn Mitarbeiter, die typischerweise mit Vorgängen von rund 30 Seiten arbeiten — ein Antrag, ein Vertrag, ein Sitzungsprotokoll:

• Modell in 4 Bit: rund 15 GB — einmalig, unabhängig von der Nutzerzahl.
• Gesprächsspeicher: rund 0,9 GB je Person × 10 = etwa 9 GB.
• Summe: rund 24 GB. Das passt auf eine Karte mit 32 GB; auf einer 24-GB-Karte wird es knapp, sobald jemand ein längeres Dokument hineingibt.

Derselbe Aufbau mit voller Kontextlänge für alle zehn — also 160 GB allein für den Gesprächsspeicher — wäre dagegen eine ganz andere Anschaffung. Die brauchbare Faustregel lautet deshalb: Nicht die Nutzerzahl treibt die Hardware, sondern die Länge der Dokumente, die gleichzeitig offen sind. Wer das weiß, kauft passend statt zu groß oder zu klein.

Was das an tatsächlicher Hardware bedeutet, rechnet unser Hardware-Rechner für den eigenen Fall durch.

Das Denken vor der Antwort

Der auffälligste Fortschritt liegt nicht im Wissen, sondern im Vorgehen. Das Modell arbeitet standardmäßig mit einem Denkschritt: Bevor es antwortet, zerlegt es die Aufgabe, prüft Zwischenergebnisse und verwirft Ansätze. Wie viel Aufwand es dafür treiben soll, lässt sich in drei Stufen einstellen — von schnell und knapp bis gründlich. Bei einer einfachen Frage spart das Zeit, bei einer verschachtelten Prüfaufgabe wird sie überhaupt erst lösbar.

Dazu kommt etwas, das im Alltag mehr zählt als jede Rangliste: Das Modell behält seine früheren Denkschritte über ein längeres Gespräch hinweg. Wer in Schritt sieben nachfragt, warum eine Entscheidung so getroffen wurde, bekommt keine neu erfundene Begründung, sondern die ursprüngliche.

Der Praxistest von heise online beschreibt das Ergebnis als „akribisch“: erzeugter Programmcode ließ sich im ersten Anlauf übersetzen, Sonderfälle wurden von selbst bedacht, überflüssige Stellen aufgeräumt — ohne dass jemand danach gefragt hatte.

Was man damit tatsächlich machen kann

Das Modell nimmt Text, Bilder und Video entgegen und antwortet in Text. Daraus ergibt sich eine ungewöhnlich breite Liste — hier die Anwendungen, die im Unternehmens- und Verwaltungsalltag zählen:

• Texte erstellen und überarbeiten. Entwürfe für Schreiben, Vermerke, Angebote, Protokolle; vorhandene Texte kürzen, umformulieren oder auf eine andere Leserschaft zuschneiden.
• Lange Unterlagen erschließen. Das Modell fasst rund 262.000 Zeichenbausteine auf einmal — das entspricht mehreren hundert Seiten in einem Durchgang. Ein Vertragswerk, eine Ausschreibung oder ein Sitzungspaket muss also nicht in Häppchen zerlegt werden.
• Bilder und Scans auswerten. Gescannte Post, abfotografierte Formulare, Tabellen, Diagramme aus einem Bericht. Beim Dokumentenverständnis erreicht das Modell in den veröffentlichten Tests 91,1 von 100 Punkten.
• Zahlen aus Schaubildern lesen. Ein Diagramm aus einem PDF vorlegen und die zugrunde liegenden Werte abfragen — eine Aufgabe, an der ältere Modelle regelmäßig scheiterten.
• Aus Dokumenten strukturierte Daten ziehen. Rechnungsnummer, Datum, Betrag, Absender — aus einem Stapel unterschiedlich aufgebauter Belege in ein einheitliches Feld.
• Programmieren und Fehler suchen. In den Herstellertests löst das Modell 61,7 Prozent gestellter Reparaturaufgaben an echtem Programmcode.
• Mehrschrittige Aufgaben abarbeiten. Nicht nur antworten, sondern Werkzeuge bedienen: nachschlagen, rechnen, eine Datei öffnen, das Ergebnis prüfen. Genau hier ist der Sprung gegenüber dem Vorgänger am größten.
• Übersetzen und Fachtexte einordnen. Der übliche Bürobedarf — mit der Einschränkung, dass die Qualität im Deutschen noch offen ist.

Der gemeinsame Nenner: Für keine dieser Aufgaben muss ein Dokument, ein Bild oder eine Frage das eigene Netz verlassen.

Die Zahlen — und was sie wert sind

Die veröffentlichten Werte sind bemerkenswert. Bei Aufgaben, in denen das Modell selbstständig einen Rechner bedienen muss, erreicht es 84,3 von 100 Punkten — gut zwanzig Punkte mehr als der Vorgänger. Beim Arbeiten in der Kommandozeile stehen 73,0 Punkte, beim Programmieren unter Zeitdruck 90,3.

Diese Zahlen stammen allerdings überwiegend vom Hersteller, teils aus Prüfverfahren, die Alibaba selbst entworfen hat. Ein technischer Bericht fehlt, die Trainingsdaten sind nicht offengelegt, unabhängige Wiederholungen der Messungen standen bei Redaktionsschluss aus. Bestätigt sind bislang vor allem Platzierungen auf öffentlichen Ranglisten: erster Platz unter den frei verfügbaren Modellen bei einem juristischen Prüfverfahren, erster Platz unter den freien Modellen beim Erzeugen von Weboberflächen aus einem Bild.

Und der Abstand nach oben besteht weiter. Beim Arbeiten in der Kommandozeile liegt das derzeit führende kommerzielle Modell bei 88,8 Punkten gegenüber 73,0. Wer die absolute Spitzenleistung braucht, findet sie nach wie vor nicht hier.

Was daran der Wendepunkt ist

Die interessante Frage lautet ohnehin selten, wer eine Rangliste anführt. Sie lautet: Reicht die Leistung für die Arbeit, die bei uns anfällt — und was kostet es, sie im eigenen Haus zu haben?

Genau diese Rechnung hat sich verschoben. Bisher hieß die Wahl: entweder gute Ergebnisse bei einem externen Anbieter, oder Datenhoheit mit spürbaren Abstrichen. Ein Modell dieser Leistungsklasse auf einer einzelnen Karte macht aus dem Entweder-oder für viele Aufgaben ein Sowohl-als-auch. Dass die Lizenz die kommerzielle Nutzung ausdrücklich erlaubt, gehört zur selben Rechnung: Es gibt keine Nutzungsgebühr pro Anfrage und keinen Vertrag, der gekündigt werden kann.

Wie schnell diese Frage praktisch werden kann, hat der Juni gezeigt, als ein Anbieter seine stärksten Modelle über Nacht abschalten musste — nachzulesen in unserem Beitrag KI-Blackout per Dekret. Ein Modell, das im eigenen Serverschrank liegt, kann niemand abschalten.

Wo wir zurückhaltend bleiben

Drei Punkte gehören zur ehrlichen Bilanz:

• Die Speicherangaben sind eine Untergrenze. Die 14 bis 16 GB gelten allein für die Modellgewichte. Voll ausgereizt sieht die Rechnung anders aus: in voller Genauigkeit rund 52 GB Gewichte plus 16 GB Gesprächsspeicher, also gut 68 GB — für einen einzigen Nutzer. Beim Planen also nicht die Werbezahl ansetzen, sondern den eigenen Fall rechnen.
• Deutsch ist ungeprüft. Kein bekanntes Prüfverfahren misst deutsche Verwaltungs- oder Geschäftssprache, und der Hersteller schweigt zur Sprachverteilung im Training. Für unsere Zielgruppen ist das die wichtigste offene Frage.
• Frei verfügbar heißt auch: frei veränderbar. Innerhalb weniger Tage kursierten Fassungen, aus denen die eingebauten Schutzmechanismen entfernt wurden. Für den betrieblichen Einsatz heißt das: Es zählt, welche Fassung aus welcher Quelle installiert wird — und dass das jemand nachvollziehbar festhält.

Häufige Fragen

Was ist Qwen3.8-27B?

Ein frei verfügbares Sprachmodell von Alibaba, veröffentlicht Mitte August 2026 unter der Apache-2.0-Lizenz. Es versteht Text, Bilder und Video und antwortet in Text. Mit rund 27 Milliarden Parametern ist es klein genug, um auf einer einzelnen leistungsfähigen Grafikkarte im eigenen Haus zu laufen.

Warum ist von 27 und von 28 Milliarden die Rede?

Das Sprachmodell selbst hat rund 27,8 Milliarden Parameter — daher der offizielle Name mit der 27. Zählt man den mitgelieferten Bild-Encoder dazu, der Bilder und Videos für das Modell aufbereitet, kommt man auf etwa 28 Milliarden. Gemeint ist beide Male dasselbe Modell.

Welche Hardware braucht das Modell?

In verkleinerter Rechengenauigkeit — üblicherweise 4 Bit — belegen die Gewichte etwa 14 bis 16 GB und passen damit auf eine Karte der Klasse RTX 4090 oder 5090. Dazu kommt Speicher für den laufenden Gesprächsverlauf: rund 0,5 GB je Nutzer bei 15 Seiten, rund 4 GB bei 130 Seiten und rund 16 GB bei voller Kontextlänge von etwa 500 Seiten. Zehn Mitarbeiter mit Vorgängen von je 30 Seiten kommen samt Modell auf rund 24 GB.

Kann das Modell Bilder auswerten?

Ja. Es nimmt Bilder und Video als Eingabe entgegen. In den veröffentlichten Tests zum Dokumentenverständnis erreicht es 91,1 von 100 Punkten — das umfasst gescannte Seiten, Tabellen, Formulare und Diagramme. Fotos vom Bildschirm, ein abfotografiertes Formular oder ein Diagramm aus einem Bericht sind damit auswertbar, ohne dass das Bild das Haus verlässt.

Sind die Leistungswerte unabhängig geprüft?

Überwiegend nicht. Die meisten Werte stammen aus den Tests des Herstellers, teils aus selbst entworfenen Prüfverfahren. Unabhängig bestätigt sind bisher vor allem Platzierungen auf öffentlichen Ranglisten. Wir behandeln die Zahlen deshalb als Hinweis, nicht als Beleg — und prüfen selbst nach.

Ist das Modell besser als ChatGPT oder Claude?

Nein, nicht überall. Bei den anspruchsvollsten Programmier- und Agentenaufgaben liegen die führenden kommerziellen Modelle weiter vorn, teilweise deutlich. Die entscheidende Frage lautet aber nicht, wer die Rangliste anführt, sondern ob die Leistung für die eigene Aufgabe reicht — und dort hat sich der Abstand stark verkleinert.

Wie gut ist das Modell im Deutschen?

Das ist offen. Der Hersteller hat weder die Trainingsdaten noch die Sprachverteilung veröffentlicht, und keines der bekannten Prüfverfahren misst deutsche Verwaltungs- oder Geschäftssprache. Genau das ist einer der Punkte, die wir in den nächsten Wochen selbst testen.