Esta nota es la evidencia detrás de una de las profecías del Oráculo IA: "La IA nos convence a fuerza de notificaciones push."
Nivel de evidencia: Establecido
El chiste
Que un sistema optimizado para engagement puede terminar optimizando tu atención más que tu bienestar no es una ocurrencia — es, literalmente, lo que estos sistemas están entrenados para hacer.
Lo que dice la evidencia
- El Reglamento (UE) 2024/1689 (AI Act), Artículo 5, prohíbe comercializar o usar sistemas de IA que desplieguen "técnicas subliminales que trasciendan la consciencia de una persona" o "técnicas deliberadamente manipuladoras o engañosas" con el objeto o efecto de distorsionar materialmente el comportamiento causando daño físico o psicológico. Es ley vigente, no una declaración de intenciones. (eur-lex.europa.eu)
- Un análisis académico de esa misma norma — Bermúdez et al., "Strengthening the EU AI Act: Defining Key Terms on AI Manipulation", arXiv:2308.16364 (2023) — señala que la prohibición es difícil de aplicar en la práctica por la ambigüedad de términos como "subliminal" o "manipulador".
- El Reglamento (UE) 2022/2065 (Digital Services Act) regula explícitamente los dark patterns en interfaces de plataformas online — la otra pata regulatoria del mismo problema.
- El marco divulgativo de Tristan Harris y el Center for Humane Technology popularizó la idea de "economía de la atención" aplicando el condicionamiento operante de Skinner (recompensas variables) al diseño de notificaciones y feeds. Es influyente, pero es un marco de divulgación, no un cuerpo de evidencia experimental propio.
Lo que está en disputa
Que los recomendadores de ML optimizan engagement mediante A/B testing continuo a escala de millones de usuarios está bien establecido. Lo que es difícil de aislar es el tamaño del efecto causal de las notificaciones sobre el bienestar o la productividad — buena parte de esa evidencia es correlacional o de laboratorio, no experimentos controlados a gran escala e independientes de las propias plataformas.
El mito que conviene desactivar
"El scroll infinito nos vuelve adictos" se presenta a veces con certeza clínica. La "adicción" a redes sociales no es un diagnóstico consensuado en psiquiatría, y la magnitud del daño sigue siendo objeto de debate académico activo — no es un hecho cerrado.
Para seguir leyendo
- EU AI Act, Artículo 5 (texto consolidado)
- Bermúdez et al., "Strengthening the EU AI Act", arXiv:2308.16364
- Digital Services Act, Reglamento (UE) 2022/2065