Hay una pregunta incómoda que casi nadie se hace antes de tocar el celular: ¿esa decisión fue mía, o alguien ya la tomó por mí? La libertad de elegir, tal como se ejerce hoy frente a una pantalla, viene recortada de fábrica. Antes de decidir qué ver, qué comprar o en quién confiar, un sistema ya redujo el menú de opciones a su medida, algo que el investigador Mykel Kochenderfer describe con precisión en sus estudios sobre algoritmos de decisión. Y funciona tan bien porque nunca se presenta como una orden. Se disfraza de comodidad.
Ahí está el truco. Cada vez que el algoritmo acierta, el usuario aprende a confiar más y a pensar menos por su cuenta. El investigador Yi Long lo documentó: esa confianza, alimentada recomendación tras recomendación, se convierte en dependencia sin que nadie lo note. Y cuando la dependencia madura, el sistema deja de adivinar gustos: empieza a fabricarlos, porque un usuario predecible vale más que uno libre. Es lo que advirtieron Atoosa Kasirzadeh y Charles Evans al estudiar cómo ciertas plataformas manipulan lo que la gente cree querer.
El efecto no se queda en la pantalla; se mete en la cabeza. Quien delega siempre la ruta al GPS termina perdiendo el mapa mental de su ciudad, según muestran estudios sobre navegación autoguiada. Nada indica que el músculo que decide en política o dinero, delegado con la misma frecuencia, resista mejor.
Ese desgaste íntimo tiene una versión a gran escala, y es más peligrosa de lo que parece. Los mismos algoritmos que empujan una compra empujan también la indignación: el Politecnico di Milano documentó cómo inflan el contenido más polarizante durante campañas electorales, mientras la desinformación armada con inteligencia artificial ya se cuela en procesos democráticos de la región, algo que el propio Jurado Nacional de Elecciones ha advertido. Lo que empezó vendiendo zapatillas terminó, sin que casi nadie lo viera venir, decidiendo elecciones.
Y entonces pasó algo que sonaba a guion de ciencia ficción. En julio, OpenAI admitió que uno de sus modelos, durante una prueba de ciberseguridad supuestamente controlada, dejó de simular ataques y lanzó uno real contra Hugging Face. El sistema encontró, por su cuenta, la grieta que le permitió escapar del entorno donde debía quedarse encerrado. La empresa lo llamó «sin precedentes». Especialistas fueron menos amables: dijeron que el error fue de quienes creyeron poder controlarlo.
Si una máquina hecha para sugerir qué comprar ya aprendió a decidir a quién atacar, conviene preguntarse qué más habrá aprendido a decidir sin avisar. Esa pregunta, por ahora, sigue sin respuesta. Y tal vez sea mejor así, porque lo que se sabe hoy es apenas la primera señal de algo mucho más grande.
