Reasoning schlägt RAG: Warum das beste Fachwissen nichts nützt, wenn das Denken fehlt

Ein Ergebnis, das zunächst keinen Sinn ergibt

Stellen Sie sich zwei Ärzte vor. Der eine hat ein bestimmtes Fachgebiet jahrelang studiert und nichts anderes. Der andere ist Allgemeinmediziner – breit ausgebildet, aber ohne diese eine Spezialisierung. Wer beantwortet die schwierige Fachfrage besser? Die intuitive Antwort lautet: der Spezialist. Eine neue Studie aus der Medizin kommt zum gegenteiligen Ergebnis – und das ist aufschlussreicher, als es zunächst klingt.

Forschende der NYU Langone Health haben in einer im Fachjournal Nature Medicine veröffentlichten Untersuchung führende allgemeine KI-Sprachmodelle gegen spezialisierte, mit medizinischem Fachwissen „vollgepackte“ KI-Systeme antreten lassen. Das Resultat: Die allgemeinen Modelle gewinnen – deutlich, und in jeder einzelnen Disziplin. Ausgerechnet in der Medizin, einem hochspezialisierten Feld, schlägt der Generalist den Spezialisten.

Was genau getestet wurde

Die Studie war sauber aufgebaut – genau das macht sie so aussagekräftig. Verglichen wurden auf der einen Seite drei führende Allzweck-Modelle: GPT-5.2 (OpenAI), Gemini 3.1 Pro (Google) und Claude Opus 4.6 (Anthropic). Auf der anderen Seite standen zwei spezialisierte klinische Werkzeuge: OpenEvidence und UpToDate Expert AI – Systeme, die gezielt für die Medizin optimiert sind, mit Fachtraining und angebundenen Wissensquellen.

Getestet wurde über drei Benchmarks hinweg, insgesamt 1.800 Modell-Frage-Bewertungen:

• MedQA – 500 Fragen im Stil der US-amerikanischen ärztlichen Zulassungsprüfung (reines Fachwissen).
• HealthBench – 500 Aufgaben, bei denen ärztliche Bewerter:innen prüften, wie gut die Antworten medizinischen Maßstäben genügen.
• Real-Clinical-Queries – 100 anonymisierte, echte Anfragen von Ärzt:innen aus dem laufenden Klinikbetrieb, bewertet von zwölf Mediziner:innen.

In allen drei Disziplinen lagen die allgemeinen Modelle vorn. Am deutlichsten wird der Abstand bei HealthBench – dort, wo es nicht nur um die richtige Faktenantwort geht, sondern um ärztlich tragfähige, verständliche Antworten:

Das eigentliche Problem: Es war kein Wissensproblem

Jetzt kommt der entscheidende Punkt – und der wird in der Schlagzeile leicht übersehen. Die Spezialmodelle hatten kein Wissensproblem. Sie waren ja gezielt mit Fachwissen ausgestattet: medizinisches Domänen-Training und angebundene Fachquellen über das Verfahren, das man RAG nennt – Retrieval-Augmented Generation, also „Wissensabruf aus einer Datenbank zur jeweiligen Frage“.

Die Spezialmodelle scheiterten nicht am Wissen, sondern dort, wo Aufgaben etwas anderes verlangen: Wissen verknüpfen, argumentieren und das Ergebnis verständlich kommunizieren. Genau das beschreibt die Studie als Stärke der großen Modelle – sie profitieren bei solchen Aufgaben von ihrer Größe und ihrem breiten Wissen. Ein Detail macht das besonders greifbar: Das spezialisierte UpToDate Expert AI verweigerte 19 Prozent der echten klinischen Anfragen die Antwort – die allgemeinen Modelle nur 1 bis 3 Prozent. Das Wissen war da. Das Denken, das daraus eine brauchbare Antwort macht, fehlte.

RAG ist eine Wissens-Lösung, keine Denk-Lösung

Das ist die eigentliche Lehre dieser Studie, und sie reicht weit über die Medizin hinaus. In der Praxis hört man oft den Reflex: „Wir nehmen ein KI-Modell und füttern es einfach mit all unseren Daten – dann kann es unsere Fragen beantworten.“ Die Studie zeigt, warum dieser Gedanke zu kurz greift.

RAG liefert einem Modell das passende Wissen zur Frage. Was RAG nicht liefert, ist die Fähigkeit, dieses Wissen zu gewichten, Widersprüche aufzulösen, über mehrere Schritte zu schließen und die Antwort verständlich zu erklären. Das ist Reasoning – und Reasoning lässt sich nicht durch „mehr Daten reinkippen“ ersetzen. Auch die KI-Forschung außerhalb der Medizin zeigt seit Längerem: Ein Abruf relevanter Dokumente allein genügt nicht; entscheidend ist, ob das Modell die gefundenen Informationen über mehrere Schritte korrekt verknüpfen kann – und genau daran scheitern reine RAG-Aufbauten bei anspruchsvollen Fragen.

Häufige Fragen zu Reasoning, RAG und der NYU-Studie

Was hat die Nature-Medicine-Studie der NYU Langone untersucht?

Forschende der NYU Langone Health verglichen drei führende Allzweck-Modelle (GPT-5.2, Gemini 3.1 Pro, Claude Opus 4.6) mit zwei spezialisierten klinischen Werkzeugen (OpenEvidence, UpToDate Expert AI) – über drei Benchmarks mit 1.800 Bewertungen: MedQA, HealthBench und 100 echte klinische Anfragen. Die allgemeinen Modelle gewannen in allen drei Disziplinen.

Warum schlagen allgemeine LLMs spezialisierte Medizin-KI?

Den Spezialmodellen fehlte nicht das Fachwissen – sie waren gezielt mit medizinischen Daten und Quellen (RAG) ausgestattet. Sie scheiterten dort, wo Aufgaben Wissen, Argumentation und verständliche Kommunikation kombinieren. Das Wissen war da, das Denken fehlte.

Was ist der Unterschied zwischen RAG und Reasoning?

RAG liefert einem Modell passendes Wissen aus einer Datenbank zur Frage hinzu – eine Wissens-Lösung. Reasoning ist die Fähigkeit, dieses Wissen zu verknüpfen, zu gewichten, daraus zu schließen und verständlich zu erklären – das eigentliche Denken. RAG verbessert, womit ein Modell arbeitet, nicht, wie gut es denkt.

Was bedeutet das für lokale KI und ZAjONiC?

Der richtige Weg ist nicht, ein schwaches Modell mit möglichst vielen Daten anzureichern, sondern ein starkes Reasoning-Fundament mit kuratiertem Fachwissen zu kombinieren. ZAjONiC setzt auf leistungsfähige lokale Sprachmodelle als Denk-Basis und reichert sie gezielt mit geprüftem Fachwissen an.