El director silencioso de la mecánica de decisión: cómo la IA de recomendación moldea nuestro comportamiento

Cuando, en una empresa moderna, quien toma decisiones se enfrenta a una elección (por ejemplo, un software, un proveedor de servicios o un socio), hace tiempo que ya no se trata únicamente de las características del producto. En las plataformas digitales, los mercados en línea y los ecosistemas SaaS, la forma en que las opciones se presentan, se ponderan o se priorizan forma parte, cada vez más, de la decisión. Los sistemas algorítmicos, como los sistemas de recomendación (“Recommender Systems”, RS) o los agentes de IA con autonomía, están sentados en silencio a la mesa. No siempre influyen de manera visible, pero a menudo de manera eficaz, en qué decisiones se toman.

Para los empresarios y las empresarias, esto significa que quien diseña los procesos de innovación y de negocio debe tener en cuenta también el diseño de la arquitectura de decisión. Este análisis se ocupa en profundidad de la diferencia entre cómo los sistemas de recomendación y la autonomía algorítmica de decisión influyen en el comportamiento de los usuarios y de los clientes, y de qué se puede deducir de ello para la acción empresarial.

Antecedentes teóricos

Hay dos conceptos centrales en el núcleo.

Sistemas de recomendación (Recommender Systems, RS)

Un RS es un sistema que propone a los usuarios, de entre una gran oferta, un subconjunto más reducido de posibles decisiones, sobre la base del comportamiento del usuario, las propiedades de los ítems, las similitudes, etc. Según Dietmar Jannach (Universität Klagenfurt), tales sistemas influyen ”[…] independent of such specific goals […] the users’ choices and their behavior as a matter of principle”. Por lo tanto, no actúan solo como una función técnica, sino como una pauta estructural de qué es lo que llega siquiera a percibirse.

Autonomía algorítmica de decisión

Describe en qué medida un sistema de IA interviene en un proceso de decisión, es decir, cuánto margen de actuación asume la máquina y cuánta libertad de decisión le queda al ser humano. En palabras más sencillas: el algoritmo puede dar una recomendación, codecidir o tomar la decisión por sí solo del todo.

Según el grado de esta autonomía, cambia cómo reaccionan los usuarios ante las propuestas. Un estudio empírico de Yuejiao Fan y Xianggang Liu (2022) ha investigado experimentalmente esta relación. Para ello, se confrontó a los participantes con sistemas de recomendación de diferente grado de “autonomía”:

• una vez con baja autonomía (el sistema solo hace propuestas),
• una vez con autonomía media (el sistema recomienda y valora de forma activa),
• una vez con autonomía alta (el sistema selecciona directamente un producto para los participantes).

El resultado fue notable: el efecto de la autonomía algorítmica sobre la decisión de compra no sigue una línea recta, sino una curva en forma de U invertida (“inverted U-curve”). Esto significa:

• Una autonomía demasiado escasa hace que las personas apenas perciban la utilidad de la IA.
• Una autonomía excesiva provoca resistencia, porque se pierde la sensación de control propio.
• La mayor aceptación y los mayores efectos surgen con una autonomía media: aquí los usuarios viven la máquina como un apoyo, no como un sustituto.

Un factor decisivo en ello es la sensación de autoeficacia (“self-efficacy”), es decir, la convicción de poder influir uno mismo en su propia decisión. Cuanto más se mantenga esta sensación, más fácilmente aceptarán las personas la ayuda algorítmica. Si se les arrebata, reaccionan con desconfianza o con rechazo.

Esta conclusión puede aplicarse mucho más allá del contexto del consumo: también en la selección de personal, en las finanzas o en la gestión de proyectos vale lo mismo: el equilibrio entre la asistencia técnica y el control humano decide sobre la aceptación y la eficacia.

¿Quién ve qué opciones, con qué intensidad se priorizan y a quién pertenece, al final, la decisión?

Hallazgos empíricos

eCommerce: percepción de transparencia y fiabilidad

En una investigación de Sourabh Satish Zanwar (2023) se analizó cómo la transparencia y la fiabilidad de un algoritmo influyen en la confianza y la calidad de las decisiones de los usuarios. En varios montajes experimentales, los participantes recibieron recomendaciones cuyo origen estaba o bien explicado (“condición transparente”) o bien encubierto (“condición opaca”).

El resultado fue ambivalente: los participantes confiaban también en los sistemas opacos, siempre que las propuestas funcionaran a corto plazo. A largo plazo, sin embargo, la aceptación descendía notablemente en cuanto se producía un resultado erróneo. Los sistemas transparentes, en cambio, eran valorados de forma más positiva incluso después de errores, porque los usuarios podían comprender por qué se había producido el fallo.

Esta observación coincide con los hallazgos de la psicología cognitiva: la confianza en los sistemas técnicos surge menos de la perfección que de la explicabilidad. Para las empresas, esto significa que una interfaz explicativa o una justificación visible (“Le recomendamos X porque usted ha usado Y”) puede estabilizar la confianza, en particular cuando los errores son inevitables.

Influencia de la popularidad y de la prueba social

Otro foco empírico se centra en el principio de la popularidad. En el estudio de Hazrati Choice Models and Recommender Systems Effects on Users’ Choices (2024) se mostró, en simulaciones a gran escala, que ya pequeñas señales de popularidad, por ejemplo “Popular entre los usuarios” o “Mejor valorado”, tienen una influencia significativa en las distribuciones de decisiones.

Lo interesante de ello: los investigadores pudieron demostrar que el comportamiento de los usuarios no cambia de forma proporcional a la calidad real de los productos, sino a su relevancia social percibida. La popularidad se convierte, por tanto, ella misma en un motor de decisión, con independencia de la utilidad objetiva.

Con ello surge un efecto de retroalimentación: los sistemas de recomendación impulsan aquello que ya es popular, con lo cual se hace todavía más visible y, por tanto, todavía más popular. Este “bucle de retroalimentación” puede conducir en poco tiempo a una concentración de mercado en la que dominan unos pocos productos, proveedores o contenidos.

Diversidad, calidad y efectos a largo plazo

Mientras que muchos estudios investigan los procesos de decisión a corto plazo, Hazrati & Ricci (2021) se ocuparon del ámbito “Quality and Diversity of Recommender Systems Users’ Choices” y examinaron con lupa la evolución a largo plazo. En simulaciones repetidas se mostró que los sistemas muy personalizados, si bien generan una mayor satisfacción a corto plazo, a largo plazo conducen a la homogeneización.

Los usuarios recibían recomendaciones cada vez más parecidas, pero perdían el acceso a las “opciones marginales”, es decir, a productos, ideas o informaciones fuera de sus patrones previos. Este efecto puede observarse también en otros ámbitos: los servicios de streaming de música, como Spotify, muestran a los usuarios cada vez más canciones que se sitúan estilísticamente muy cerca de su gusto previo. Lo que en el fondo suena estupendo es en realidad contraproducente. Pues con ello disminuye el efecto de descubrimiento.

Cuando se pierde la competencia para el descubrimiento, las personas se vuelven menos dispuestas a abrirse por sí mismas a lo nuevo, sobre todo cuando los sistemas reflejan sus preferencias de manera demasiado estrecha. Las empresas que emplean mecanismos de recomendación en sus procesos y sistemas deben incorporar conscientemente contrapesos: opciones aleatorias, funciones del tipo “Descubre algo nuevo” o propuestas de diversidad curadas.

Confianza, control y resonancia emocional

En una investigación de Glikson & Woolley (2023) sobre la Human-AI Interaction se mostró que la confianza en los sistemas de IA depende menos de los indicadores técnicos de rendimiento que de la competencia social percibida de la máquina.

Los participantes describieron los sistemas “simpáticos” (por ejemplo, con un lenguaje empático o con interpelaciones personalizadas) como más creíbles y útiles, aun cuando objetivamente eran menos precisos. Esta paradoja remite a un hallazgo más profundo: las personas reaccionan ante las máquinas según los mismos patrones psicológicos que ante otras personas. Buscan fiabilidad, explicabilidad y resonancia emocional.

Implicaciones para empresarios y empresarias

Todos los hallazgos empíricos pueden reconducirse a un patrón central: no es la existencia de un algoritmo lo que decide su éxito, sino su papel percibido en el proceso de decisión.

Los sistemas de IA hace tiempo que ya no son herramientas neutrales. Son co-protagonistas. Negocian junto a nosotros qué se hace visible, qué resulta plausible y qué nos parece siquiera una decisión “razonable”.

La explicabilidad supera a la perfección

La investigación muestra que las personas, a largo plazo, aceptan más los sistemas defectuosos pero explicables que los impecables pero opacos. Esta conclusión es casi paradójica y, al mismo tiempo, sumamente relevante desde el punto de vista empresarial. Cuando a los sistemas se les permite cometer errores, pero esos errores siguen siendo comprensibles, surge una nueva forma de confianza funcional.

Por eso, las empresas no deberían aspirar a la máquina perfecta, sino a la máquina explicable. La “Explainable AI” (XAI) no es un complemento ético, sino una ventaja de negocio: reduce el esfuerzo de soporte, refuerza la confianza en la marca e incluso puede convertirse, por la vía regulatoria (por ejemplo, a través del EU AI Act), en una ventaja competitiva.

No gana la IA más inteligente, sino aquella a la que las personas perdonan más fácilmente sus errores.

Equilibrio entre influencia y libertad

Como mostraron Fan & Liu (2022), la autonomía algorítmica actúa con mayor fuerza cuando no tutela, sino que apoya. Para los empresarios y las empresarias puede deducirse de ello un principio: asiste, pero no asumas el control.

En la práctica, esto significa pensar el diseño de la interacción con la IA como una relación cooperativa. Ejemplos:

• Un sistema de selección de personal que hace propuestas, pero deja margen de decisión, será aceptado más fácilmente que uno que selecciona de forma automatizada.
• Una IA de optimización de precios que justifica su cálculo (“demanda del mercado + costes de almacenamiento + estacionalidad”) es percibida como un socio, no como un control.

Demasiada tutela algorítmica conduce a una forma de impotencia digital: uno cree, en efecto, ahorrar tiempo, pero pierde la conexión interior con su propia decisión.

Automatizar la autonomía significa abolir la mayoría de edad.

La diversidad es resiliencia económica

Los sistemas que permiten la diversidad son más estables a largo plazo. Cuanto más homogéneas se vuelven las recomendaciones, menos necesidad tienen los usuarios de descubrir nuevos productos o ideas. Para las empresas, esto significa que quien apuesta por la eficiencia algorítmica sin asegurar la diversidad cría un monocultivo. Y los monocultivos mueren de sí mismos.

Los sistemas de recomendación deberían incorporar de forma deliberada factores de perturbación: ofertas aleatorias, desviaciones curadas, lógicas de contradicción. En la economía esto se llama Algorithmic Serendipity, la planificación consciente de la sorpresa.

Sin azar, la innovación se atrofia. El algoritmo más eficiente es el enemigo más mortal de la creatividad.

La inteligencia emocional cuenta

El estudio de Glikson & Woolley (2023) deja claro que las personas, en principio, no confían en las máquinas porque sepan calcular, sino porque escuchan. El “cómo” de una recomendación a menudo cuenta más que el “qué”.

Una IA que explica, simula empatía o tan solo suena amable genera resonancia emocional. Eso no es un lujo sentimental: en tiempos de creciente penetración de la IA, la percepción emocional decide sobre las tasas de aceptación, la satisfacción de los clientes y el cumplimiento normativo en la empresa.

Poder, responsabilidad y “Behavioural Design”

Las arquitecturas algorítmicas de decisión son instrumentos de poder. Quien controla qué se ve, qué se recomienda o qué se omite, configura la percepción. A escala global. Los sistemas de recomendación no son otra cosa que nudges institucionalizados, digitales y escalables.

Para los empresarios y las empresarias, de ello surge una doble responsabilidad: entender el poder del nudging y emplearlo de forma ética, y diseñar conscientemente estos mecanismos en lugar de externalizarlos tácitamente a los proveedores de IA.

El futuro de la economía no depende de quién hace la publicidad más ruidosa, sino de quién influye de la forma más silenciosa.

Limitaciones, preguntas abiertas y perspectivas

Pese a la fundamentación empírica, persisten varios límites y campos de investigación abiertos:

• Estudios de campo limitados: la mayoría de las investigaciones proceden de experimentos controlados de laboratorio o en línea. Los entornos empresariales reales, con decisiones múltiples, presión de tiempo y dinámicas políticas, son más complejos. Aquí faltan datos a largo plazo.
• Diferencias culturales: los estudios muestran que los factores culturales (por ejemplo, la distancia al poder, el individualismo) influyen de forma masiva en la aceptación de los sistemas algorítmicos. Un diseño que funciona en Alemania puede provocar desconfianza en Japón.
• Ética de datos y regulación: con el EU AI Act surge un marco jurídico que exige transparencia algorítmica. Pero el cumplimiento normativo todavía no garantiza la aceptación. Lo decisivo es la experiencia humana de la equidad.
• Futuro del liderazgo: cuando los sistemas de IA participan en la configuración de decisiones estratégicas, eso cambia el papel de los directivos. ¿Se convertirán en curadores de decisiones de máquinas? ¿O en traductores entre el ser humano y el sistema?
• Cuestión social: cuando los sistemas de decisión nos liberan de las decisiones, la responsabilidad se desplaza. ¿Es el desarrollador, el empresario, el algoritmo o el usuario, que solo hace clic?

Conclusión

Los sistemas de recomendación y la autonomía algorítmica de decisión no son temas marginales de la digitalización, son su mecanismo interno. Definen cómo se reparten el poder, la atención y la confianza en la era digital.

Para los empresarios y las empresarias, de ello se deriva una verdad sencilla, pero incómoda:

Quien no entiende cómo la IA dirige las decisiones, pronto dejará de entender cómo deciden sus clientes.

El camino hacia adelante no pasa, por tanto, por la automatización ciega, sino por la co-creación consciente: sistemas de IA que no sustituyen las decisiones, sino que las amplían; algoritmos que fomentan la diversidad en lugar de reducirla; y empresarios y empresarias que no externalizan su responsabilidad a las máquinas, sino que la reinterpretan de nuevo.