Was ist Model Collapse und warum ist es ein Problem für AI

Derzeit läuft eine seltsame Schleife im Internet ab.

KI-Tools generieren Inhalte. Diese Inhalte werden online veröffentlicht. Web-Scraper sammeln sie ein. KI-Modelle trainieren auf ihnen. Diese Modelle generieren mehr Inhalte. Die Scraper sammeln sie erneut ein.

Mit jedem Zyklus wird etwas ein wenig schlechter. Die Ausgaben werden fader. Nischenwissen beginnt zu verschwinden. Das Verständnis der Welt durch das Modell wird still und leise enger.

Das ist Modellkollaps, und es ist kein zukünftiges Risiko; es passiert bereits.

Was genau ist Modellkollaps?

Modellkollaps ist das, was passiert, wenn ein KI-Modell weiterhin auf Inhalte trainiert, die selbst von einer KI erstellt wurden.

Der Begriff stammt aus einem Forschungspapier von 2023 mit dem Titel "The Curse of Recursion" von Forschern wie Ilia Shumailov bei Google DeepMind. Ihre Arbeit, die später in Nature veröffentlicht wurde, zeigte ein klares Muster: Wenn KI-Modelle wiederholt auf KI-generierten Daten trainieren, verschlechtern sie sich. Das Weltbild des Modells wird enger. Seltene oder ungewöhnliche Informationen verschwinden zuerst. Die Antworten driften in Richtung sichere, durchschnittliche Antworten. Irgendwann, nach genug Zyklen, ergeben die Ausgaben überhaupt keinen Sinn mehr.

Stellen Sie sich einen Fotokopierer vor, der Kopien von Kopien macht. Die erste sieht gut aus. Bei der zehnten Generation sind die Details verschwommen, und etwas Wesentliches ging verloren. Bei KI ist dieses Wesentliche die Vielfalt, die volle Bandbreite menschlichen Wissens, Grenzfälle, nuancierte Standpunkte. Sobald diese aus den Trainingsdaten verschwinden, verschwinden sie auch aus den Antworten des Modells.

Warum passiert das jetzt?

Weil das Internet sich mit KI-generierten Inhalten viel schneller füllt, als die meisten Menschen realisierten.

Ahrefs analysierte im April 2025 knapp eine Million neu veröffentlichter Webseiten und fand heraus, dass 74,2 % nachweislich KI-generierte Inhalte enthielten. Eine separate Studie mit 65.000 Artikeln fand heraus, dass KI-geschriebene Stücke Ende 2024 kurzzeitig die Menge der von Menschen geschriebenen übertroffen hatten. Europol schätzt, dass bis 2026 bis zu 90 % der Online-Inhalte synthetisch generiert sein könnten.

Gleichzeitig wird die Versorgung mit hochwertigem, von Menschen geschriebenem Text zum Trainieren knapp. KI-Labore haben bereits den größten Teil des nutzbaren öffentlichen Internets gescraped. Die nächste Generation von Modellen wird unweigerlich auf mehr synthetischen Inhalten trainieren – nicht aus Wahl, sondern weil das zunehmend das ist, woraus das Web besteht.

Das Ergebnis ist eine Rückkopplungsschleife: KI trainiert auf KI-generierten Daten, die auf früheren KI-generierten Daten trainiert wurden, wobei jede Runde komprimiert und vereinfacht, was davor kam.

Wie sieht das eigentlich aus?

Die Zeichen sind nicht dramatisch. Das ist ein Teil dessen, was es schwer macht, es zu erkennen.

Im Juli 2025 bemerkte ein Reddit-Benutzer etwas Seltsames: Dutzende von Blog-Posts über Quantencomputer waren auf verschiedenen Websites aufgetaucht, alle zitieren denselben Journalartikel, einen, der nicht existiert. Die Posts waren gut geschrieben und selbstbewusst. Die meisten waren KI-generiert. Sie hatten nicht voneinander kopiert. Sie hatten unabhängig voneinander dieselbe gefälschte Zitierung halluziniert, weil sie alle aus demselben ausgedünnten Datenschatz gezogen hatten.

Das ist Modellkollaps in der Praxis. Es zeigt sich nicht als fehlerhaftes Englisch oder offensichtliche Fehler. Es zeigt sich als Wiederholung, falsches Selbstbewusstsein und die stille Erosion der Tiefe.

Forschung beschreibt den Prozess in zwei Phasen. Zuerst beginnt seltene und Nischenwissen zu verschwinden, das lange Ende des Wissens, das nicht in den meisten Dokumenten erscheint. Dann verlieren Ausgaben breiter an Kohärenz. Eine Studie von Apple aus dem Jahr 2025 fand heraus, dass große Reasoning-Modelle nach rekursivem Training auf komplexen Aufgaben was die Studie „vollständigen Genauigkeitskollaps" nannte erreichten. Der beunruhigende Teil: Der Fehler zeigte sich nicht in standardmäßigen Benchmark-Tests, weil diese Benchmarks selbst KI-generierte Inhalte enthielten.

Warum sollten Startups und Builder sich dafür interessieren?

Weil die Tools, mit denen Sie bauen, stromabwärts dieses Problems sind.

Wenn die KI-Modelle, die Ihr Produkt antreiben, auf degradierten, sich wiederholenden synthetischen Daten trainiert wurden, zeigt sich das in Ihren Ausgaben. In einem Coding-Tool bedeutet das selbstbewusst falsche Vorschläge bei Edge-Fällen. In einem Chatbot bedeutet das polierte Antworten, die subtil falsch sind. In einem Daten-Tool bedeutet das Ausgaben, die in Ordnung aussehen, aber die ungewöhnlichen Muster verpassen, die eigentlich wichtig sind.

Es gibt auch ein spezifisches Risiko für Teams, die Inhalte in großem Maßstab generieren: Blog-Posts, Produktbeschreibungen, Supportantworten. Wenn dieser Inhalt indexiert und zurück in zukünftige Trainingsdatensätze gescraped wird, werden Ihre Ausgaben Teil der Schleife. Sie verbrauchen nicht nur synthetische Daten. Sie speisen sie zurück ein.

Das andere Problem ist Benchmarking. Ein Modell, das durch Kollaps geht, kann immer noch Standard-Leistungstests bestehen, während es sich in der realen Welt still und leise verschlechtert, weil die Tests selbst KI-generierte Inhalte enthalten könnten. Veröffentlichte Genauigkeitswerte werden es nicht immer erfassen.

Ist es unvermeidlich?

Nein, aber es zu vermeiden erfordert bewusstes Bemühen.

Eine Studie von 2024 mit dem Titel "Is Model Collapse Inevitable?" fand eine klare Antwort: Kollaps passiert, wenn synthetische Daten in jeder Trainingsrunde echte Daten ersetzen. Wenn synthetische Daten neben den ursprünglichen menschengenerrierten Daten hinzugefügt werden, statt sie zu ersetzen, bleiben Modelle stabil. Der Schlüssel ist, echte Daten nie aus dem Mix verdrängen zu lassen.

Ein paar Dinge, die wirklich helfen:

• Halten Sie von Menschen generierte Daten im Mix: Forschungsinstitutionen und Organisationen wie das Internet Archive bewahren aktiv Pre-KI-Web-Inhalte aus diesem Grund auf. Einige Unternehmen bauen proprietäre von Menschen geschriebene Datenpipelines durch Publisher-Partnerschaften auf.
• Verfolgen Sie, woher Ihre Daten stammen: Datenherkunft – das Wissen darüber, was von Menschen geschrieben ist versus KI-generiert – wird zu einem ernsthaften Teil der verantwortungsvollen KI-Entwicklung, nicht zu einem Nice-to-Have.
• Verwenden Sie menschliches Feedback während des Trainings: Die Integration menschlicher Überprüfung in das Fine-Tuning hilft, Modelle mit echtem Wissen wieder auszurichten und erfasst die Edge-Fälle, die synthetische Daten still und leise löschen.
• Filtern Sie, bevor Sie trainieren: Nicht alle synthetischen Daten richten den gleichen Schaden an. Inhalte, die mit Qualitätskontrollen generiert werden, verschlechtern Modelle bei weitem weniger als ungefilterte Massenausgaben. Das Problem ist unkritische Skalierung, nicht synthetische Daten selbst.

Gehen wir auf die Fragen ein

1. Betrifft Modellkollaps die KI-Tools, die ich heute verwende?

Möglicherweise an den Rändern. Die neuesten Frontier-Modelle wurden größtenteils vor der Explosion synthetischer Inhalte trainiert und filtern aktiv danach. Aber wenn Trainingsdatensätze mit aktuelleren Web-Daten aktualisiert werden, wächst das Risiko, besonders für kleinere oder fein abgestimmte Modelle, die stark auf aktuelle Scrapes angewiesen sind.

2. Ist Modellkollaps dasselbe wie Halluzination?

Verwandt, aber unterschiedlich. Halluzination ist, wenn ein Modell selbstbewusst falsche Ausgaben produziert, etwas, das jedes Modell tun kann. Modellkollaps ist ein strukturelles, generationenübergreifendes Problem, das durch rekursives Training auf synthetischen Daten verursacht wird. Kollaps neigt dazu, Halluzinationen schlimmer zu machen und im Laufe der Zeit schwerer zu erkennen.

3. Was können Startups, die KI-Produkte bauen, dagegen tun?

Verwenden Sie nicht KI-generierte Inhalte als Fine-Tuning-Daten ohne Qualitätsfilterung. Behalten Sie ein von Menschen überprüftes Dataset für alle domänenspezifischen Trainings. Testen Sie die Leistung gegen realistische Edge-Fälle, nicht saubere Benchmarks. Und fragen Sie die Foundation-Model-Anbieter, auf denen Sie aufbauen, wie ihre tatsächlichen Trainingsdaten-Filterpraktiken aussehen.

Die Kurzversion

Modellkollaps ist die langfristigen Kosten einer kurzfristigen Bequemlichkeit. KI-Inhalte in großem Maßstab zu generieren ist einfach. Die Vielfalt und Tiefe des menschlichen Wissens, auf dem Modelle aufgebaut wurden, zu bewahren, ist viel schwieriger.

Für jeden, der mit KI baut, ist die praktische Erkenntnis einfach: Die Qualität von dem, was Sie versenden, ist nur so gut wie die Daten, die in die Modelle darunter fließen. Trainingsdaten sind Infrastruktur. Sie verdienen es, als solche behandelt zu werden.

TL;DR

KI-Modelle werden auf Internet-Daten trainiert. Das Internet ist jetzt zunehmend voll mit KI-generierten Inhalten. Also werden neuere Modelle auf KI-Ausgaben trainiert, die auf früheren KI-Ausgaben trainiert wurden, und bei jeder Runde verschlechtert sich die Qualität still und leise. Seltenes Wissen verschwindet zuerst. Antworten werden fader und weniger zuverlässig. Das ist Modellkollaps, und es zeigt sich bereits in der Praxis. Die Lösung ist nicht kompliziert: Halten Sie echte menschliche Daten im Trainingsmix, lassen Sie nicht zu, dass synthetischer Inhalt ihn verdrängt, und behandeln Sie Datenqualität wie die Infrastruktur, die sie tatsächlich ist.

Möchten Sie ein leistungsstarkes Remote-Tech-Team aufbauen?

Schauen Sie sich MyNextDeveloper an, eine Plattform, auf der Sie die besten 3 % der Softwareentwickler finden können, die tiefe Leidenschaft für Innovation haben. Unsere On-Demand-, dedizierten und gründlichen Softwaretalent-Lösungen bieten eine umfassende Lösung für all Ihre Softwareanforderungen.

Besuchen Sie unsere Website, um zu erkunden, wie wir Ihnen helfen können, Ihr perfektes Team zusammenzustellen.