Model collapse: qué probó Nature y cuánta web ya es IA

Esta nota es la evidencia detrás de una de las profecías del Oráculo IA: "La IA genera tanto contenido que dejamos de pensar por cuenta propia."

Nivel de evidencia: Establecido (el mecanismo) / Emergente (las cifras de "% de la web")

El chiste

El chiste asume que ya vivimos rodeados de contenido generado por IA. La pregunta seria es cuánto, y qué le hace eso al ecosistema de información.

Lo que dice la evidencia

Shumailov, Shumaylov, Zhao, Papernot, Anderson & Gal, "AI models collapse when trained on recursively generated data", Nature 631:755–759 (2024), DOI 10.1038/s41586-024-07566-y. Entrenar modelos generativos recursivamente con sus propios datos sintéticos causa "defectos irreversibles" y la desaparición de las colas de la distribución (eventos raros, voces minoritarias). Demostrado para LLMs, VAEs y modelos de mezcla gaussiana.
Matiz importante: el colapso se demostró en un escenario totalmente sintético. Trabajos posteriores (Gerstgrasser et al. 2024; Dey & Donoho) muestran que si los datos reales se acumulan junto con los sintéticos, el colapso se puede evitar. No es una fatalidad automática.
Graphite, "Five Percent" (nov. 2024). Sobre 65.000 URLs en inglés de Common Crawl: "As of November 2024, 50.3% of new web articles were generated primarily by AI" — antes del boom de ChatGPT esa cifra era ~5%. Es una empresa de detección de IA; los detectores tienen tasas de error no triviales.
Ahrefs (abril 2025). Sobre ~900.000 páginas nuevas: 74,2% contenían algo de contenido IA, pero solo ~2,5% eran "puro IA" y ~25,8% puro humano — la distinción entre "contiene algo" y "es primariamente IA" cambia mucho la lectura.

Lo que está en disputa

El mecanismo de model collapse está establecido teóricamente y demostrado en laboratorio. Su inevitabilidad en la práctica del internet real NO está probada — depende de si el contenido sintético desplaza o se mezcla con contenido humano nuevo. Las cifras de "% de la web que es IA" varían fuerte según si se mide "primariamente IA" o "contiene algo de IA".

El mito que conviene desactivar

"El 57% del texto de internet es generado por IA": la cifra original (Thompson et al.) se refiere a texto traducido automáticamente, no escrito por IA generativa — está sistemáticamente mal resumida en su circulación popular.
"El 90% del contenido online será IA para 2026": es una predicción de Gartner (2022), no una medición.
Que la mitad de la web sea IA no equivale a que la mitad de lo que la gente lee sea IA: Ahrefs estima que solo ~14% del contenido que efectivamente rankea en Google es IA.