AI First.
Del insight a la acción.
Conecte estrategia, tecnología y personas para transformar la experiencia de su cliente.
HablemosDiseño, AI y la reinvención de los modelos de negocio
Resumen: Los modelos de negocio impulsados por AI que optimizan el engagement sin diseñar para un valor humano significativo producen productos inferiores. Además, trasladan sistemáticamente el riesgo a los usuarios, los reguladores y la sociedad. Al mismo tiempo, acumulan una deuda de confianza que solo se hace visible cuando ya resulta costosa de resolver. Este artículo sostiene que la confianza funciona como un activo operativo en los sistemas habilitados por AI. Se acumula o se erosiona con cada acto comunicativo.
El texto también distingue dos elementos. La confianza basada en el cuidado crea las condiciones para que la confianza perdure. A su vez, la agencia humana es lo que la hace sostenible. Algunos sistemas de AI simulan cuidado y reflejo, pero eliminan el espacio para la participación humana genuina. En ese caso, producen un patrón análogo al valle inquietante. Es decir, están lo bastante cerca de una relación genuina como para generar apego, pero vacíos en su núcleo. Por lo tanto, las organizaciones que mantendrán posiciones duraderas en este mercado serán las que diseñen, al mismo tiempo, cuidado y agencia confiables. Esa es la base de una lealtad que crece.
Cuando la adopción no se sostiene
Después de tres años de despliegue comercial generalizado de AI, el patrón ya puede leerse con claridad en los datos.
Muchas organizaciones lideraron con capacidad técnica y asumieron que la confianza llegaría después. Hoy, se enfrentan a un fenómeno específico y costoso: usuarios que adoptan la tecnología y luego la abandonan. Los datos y el conocimiento son sólidos. La construcción de los modelos LLM y de la arquitectura de AI también lo es. Entonces, ¿por qué no llegó la confianza? ¿Y por qué aparecen casos de uso que no reflejan un uso correcto de las herramientas? En términos de rendimiento, el sistema hace aquello para lo que fue diseñado. Sin embargo, hay que analizar si el diseño conductual, relacional e instruccional llegó junto con las funciones o después. Si llegó después, el diálogo en curso probablemente no nace de un modelo cuidadoso de relación entre humanos y AI.
La investigación sobre el abandono de tecnologías de consumo conectadas documenta la forma de este patrón. Por ejemplo, el 65 por ciento de los usuarios de pulseras de actividad dejó de usarlas en dos semanas (Shih et al., 2015). En otro estudio, los resultados fueron aún peores. Los participantes abandonaron en dos meses casi el 80 por ciento de los dispositivos inteligentes que ellos mismos eligieron (Lazar et al., 2015). La causa no fueron los fallos técnicos. En cambio, faltaba una arquitectura relacional capaz de sostener un engagement genuino a lo largo del tiempo. No eran productos de AI, pero el mecanismo es el mismo. Al fin y al cabo, la arquitectura de un engagement consistente es responsabilidad del diseño. Cuando está ausente, ninguna inversión técnica recupera lo que cuesta reconstruirla.
El retorno de una arquitectura bien construida
La evidencia financiera también muestra con claridad qué produce una arquitectura bien construida. Las empresas del cuartil superior en madurez de diseño superaron a su industria en 32 puntos porcentuales en crecimiento de ingresos. Además, la superaron en 56 puntos porcentuales en retorno total para los accionistas durante cinco años (McKinsey & Company, 2018). Estos no son retornos derivados de la estética. En realidad, son retornos de una infraestructura de confianza, es decir, del compromiso de diseñar relaciones y recorridos, no solo productos. Este artículo expone qué requiere esa infraestructura. También explica por qué dos factores deciden si esos retornos crecen: la confianza basada en el cuidado y la agencia humana genuina.
Qué requiere la confianza y por qué el diseño la gobierna
La arquitectura de la mayoría de los productos comerciales de AI se apoya en un tipo específico de promesa. Según ella, el sistema comprende a los usuarios, les responde y les ofrece algo cercano a una inteligencia genuina. Desde el punto de vista comercial, importa menos que esto sea técnicamente exacto. Lo que importa es que se viva como verdadero en cada momento de la interacción. En su mayoría, los modelos de negocio impulsados por AI venden la experiencia de la inteligencia, es decir, una creencia y una percepción esperadas. Así, el diseño es el mecanismo que construye o erosiona esa experiencia en cada elemento con el que el usuario entra en contacto.
El anatomista y el clínico
Dos figuras, el anatomista y el clínico, ayudan a aclarar el papel del diseño en los sistemas de AI. El anatomista conoce el sistema: sus mecanismos, su arquitectura y su lógica operativa, con precisión y rigor. En cambio, el clínico conoce al paciente, una persona específica en un momento específico de necesidad. La respuesta de esa persona a cualquier intervención depende del contexto, de la historia y de la calidad de la relación de cuidado. Ambos son necesarios. La ingeniería de AI produce la precisión del anatomista, mientras que el diseño produce la relación del clínico. No obstante, solo la relación determina si la persona sale confiando más en el sistema que cuando llegó.
Cada elemento comunica
En los productos habilitados por AI, cada elemento comunicativo pertenece al territorio del clínico. Esto incluye el lenguaje de la interfaz, el encuadre de las respuestas y la tolerancia frente a la incertidumbre del usuario. Incluye también la manera en que el sistema comunica sus limitaciones. Cuando ese territorio queda en manos de los valores por defecto de ingeniería, la anatomía puede ser impecable y, aun así, la relación se erosiona.
Gunther Kress explica el mecanismo estructural de la comunicación multimodal. Según él, el significado nunca se construye a través de un único canal (Kress, 2010). Una AI conversacional se comunica mediante sus palabras. Pero también comunica mediante su latencia, el ritmo de sus respuestas y la selección de su vocabulario. Del mismo modo, comunican su disposición a reconocer la incertidumbre y el encuadre visual de sus resultados. Cada canal moldea el comportamiento del usuario, con independencia del contenido de las palabras.
El diseño gobierna todos estos canales, tanto si la organización asignó esa responsabilidad de forma intencional como si no. Cuando el diseño se trata como una capa final, los canales se vuelven incoherentes. Para los usuarios, esa incoherencia se percibe como algo en lo que no se puede confiar, casi nunca como un fallo de diseño. Aun así, es correcto atribuirla al diseño, porque una decisión de diseño, o su ausencia, produjo el desajuste. Al fin y al cabo, el diseño es un lenguaje que comunica. Sin él, o sin un uso adecuado, surge esta situación incómoda.
El contrato psicológico, el cuidado y el requisito de la agencia
Al iniciar una relación con un sistema habilitado por AI, el usuario lleva consigo una serie de expectativas implícitas. Espera que el sistema haga lo que aparenta ser capaz de hacer y que se comporte con una consistencia razonable. Espera también que sus errores sean proporcionales y recuperables. Por último, espera que su tiempo, sus datos y su criterio se traten con algo parecido al respeto. Estas expectativas forman un contrato psicológico. No está expresado ni firmado, y su incumplimiento genera reacciones que las métricas estándar de engagement no pueden ver.
La confianza en los sistemas de AI tiene dos componentes diferenciados (Jacovi et al., 2021). El primero es la confianza basada en la competencia, es decir, la creencia de que el sistema puede cumplir la función que declara. El segundo es la confianza basada en el cuidado. Se trata de la creencia de que el sistema sirve a los intereses del usuario y no a sus propios objetivos operativos. En general, los productos comerciales de AI invierten en demostrar la primera mientras debilitan la segunda. Un sistema que cumple su función, pero optimiza el engagement a costa del usuario, no es digno de confianza en este sentido. Y eso ocurre con independencia de su precisión técnica.
Cuidado sin agencia: el valle inquietante relacional
La confianza basada en el cuidado crea las condiciones para que la confianza perdure en el tiempo. Pero, por sí sola, no la hace sostenible. Pensemos en un modelo de AI bien construido, con los datos y el conocimiento correctos detrás. En ese escenario, la distinción entre cuidado e intervención de la agencia humana tiene peso comercial. En el contexto de la AI, el cuidado no consiste en entregar buenos resultados a un receptor pasivo. Se trata de la orientación genuina del sistema hacia los intereses de una persona específica. Esa orientación se expresa en una arquitectura que preserva e invita el criterio, la agencia y la participación de esa persona.
A veces, los sistemas de AI simulan cuidado mientras bloquean la agencia humana. Parecen servir al usuario, pero ocupan el espacio en el que debería operar su propio razonamiento. Los investigadores de la percepción de la mente y de la AI social lo explican así. Describen este efecto como el equivalente relacional del valle inquietante (Mori, 1970/2012; Gray & Wegner, 2012). El sistema está lo bastante cerca de una relación genuina como para generar apego. Sin embargo, carece de la agencia recíproca que hace real la relación.
Así, los usuarios invierten emocionalmente en algo que no existe tal como lo experimentan. La brecha puede aparecer por fallos, cambios de comportamiento o una conciencia creciente. Cuando eso ocurre, la desconfianza es desproporcionada respecto al desencadenante inmediato, porque es estructural. Al fin y al cabo, lo que se descubre no es un mal funcionamiento, sino una confianza vacía. Por eso, la decepción y la desconfianza afectan a la propia relación.
La agencia humana como condición del cuidado
Por esa razón, la agencia humana no es una restricción ética para el diseño de AI basado en el cuidado. Al contrario, es la condición que hace genuino el cuidado entre humanos y AI. Preservar el espacio del usuario para juzgar, deliberar y participar no entra en conflicto con la construcción de confianza. De hecho, es el mecanismo que hace que la confianza sea sostenible y no meramente funcional (Buijsman et al., 2025; Calvo et al., 2020).
Por qué la confianza se pierde más rápido de lo que se gana
La asimetría entre la formación y la erosión de la confianza agrava estos riesgos. La confianza se construye poco a poco, pero se erosiona de forma exponencial. Los sistemas que simulan cuidado sin permitir la agencia humana son frágiles de maneras invisibles, hasta que colapsan. Una revisión sistemática sobre la calibración de la confianza en la interacción entre humanos y AI llegó a una conclusión clara. Una vez que se produce un fallo de confianza, la recuperación es difícil y costosa (Mehrotra et al., 2024). Por lo tanto, el contrato psicológico debe construirse deliberadamente mediante el diseño. Además, debe contemplar dos dimensiones: servir a los intereses del usuario y depender genuinamente de su participación.
La externalización del riesgo como diseño estructural
Un patrón específico del despliegue actual de AI merece la atención directa de los líderes. Muchas organizaciones despliegan AI en contextos en los que los fallos recaen sobre todo en los usuarios y no en los proveedores. En la práctica, la ausencia de una estrategia de diseño es externalización del riesgo, se reconozca o no como tal.
Imaginemos un sistema de diagnóstico habilitado por AI que muestra una recomendación inexacta. Si el usuario actúa en función de ella, es él quien asume la consecuencia. Lo mismo ocurre con un sistema de orientación financiera entrenado con datos sesgados. La investigación sobre el sesgo algorítmico en la gestión sanitaria muestra que este riesgo suele estar incorporado en la arquitectura (Obermeyer et al., 2019). Es decir, depende de cómo se diseñan los sistemas y para quién, y no es algo accidental. La distribución de la responsabilidad es, por tanto, una cuestión de diseño. ¿Quién recibe cada información, con qué encuadre y con qué capacidad para cuestionar al sistema? Estas decisiones pertenecen al diseño. Cuando se toman por defecto y no de forma intencional, generan una exposición real, aunque nadie señale el diseño como su origen.
Patrones oscuros y sus efectos
La externalización del riesgo también es un fallo, aunque pretenda impulsar los resultados del negocio. Los sistemas que trasladan el riesgo a los usuarios no están, por definición, orientados a sus intereses. En cambio, están orientados a la conveniencia operativa del proveedor. Este efecto está bien documentado desde las técnicas de persuasión descritas por Fogg y otros enfoques de diseño conductual. Desde entonces, la evidencia se ha acumulado y hoy impulsa iniciativas legislativas.
Más recientemente, un experimento prerregistrado con 1.963 participantes probó técnicas de interfaz habituales en el mercado. Entre ellas había un botón de aceptación preseleccionado, una etiqueta de “recomendado” y una segunda pantalla de rechazo. Juntas, esas técnicas elevaron la aceptación de un servicio de pago no deseado del 11,3 al 25,8 por ciento. Las tácticas más agresivas llevaron la aceptación al 41,9 por ciento, pero provocaron enfado medible y pérdida de confianza en la empresa. Por el contrario, la versión más moderada no produjo una reacción comparable. Sin estas técnicas, el nivel educativo no permitía predecir quién aceptaría. En cambio, bajo la condición moderada, los participantes con menor nivel educativo se volvieron mucho más propensos a aceptar (Luguri & Strahilevitz, 2021).
La presión regulatoria
La trayectoria regulatoria refuerza esta urgencia comercial. Los marcos de gobernanza de la AI avanzan en múltiples jurisdicciones, siempre en la misma dirección: más responsabilidad organizacional por el comportamiento de los sistemas. Así, las organizaciones que no han dado al diseño autoridad sobre la distribución del riesgo acumulan exposición regulatoria y deuda de confianza. Y los usuarios que asumen los fallos se convierten en la principal fuente de ambas.
La confianza como infraestructura estratégica
El caso de negocio para tratar la confianza como infraestructura, y no como un efecto superficial, está bien documentado. El McKinsey Design Index concluyó que las empresas del cuartil superior en diseño superaron a sus pares de la industria durante cinco años. Generaron 32 puntos porcentuales más de crecimiento de ingresos y 56 puntos más de retorno para los accionistas. La correlación más sólida fue la inversión sostenida en investigación de usuarios y en la calidad de la experiencia (McKinsey & Company, 2018).
Del mismo modo, un estudio de impacto económico de Forrester Consulting sobre el diseño empresarial obtuvo un ROI del 301 por ciento a tres años. El beneficio provino sobre todo de la reducción del retrabajo y de una entrega más rápida. El tiempo de diseño y alineación se redujo un 75 por ciento, y el de desarrollo y pruebas, un 33 por ciento. Además, los defectos de diseño se redujeron a la mitad (Forrester Consulting, 2018).
La confianza como activo acumulativo
Aun así, la confianza es el activo acumulativo que las organizaciones centradas en AI más dejan de tratar como un activo. Las empresas del cuartil superior de esos estudios no están ahí porque sus productos sean más bonitos. En realidad, están ahí porque sus productos consiguen y sostienen una confianza genuina, basada en el cuidado y reforzada por la agencia humana. A gran escala, esa confianza crea una relación comercial distinta de la que produce solo la optimización del engagement.
Retornos crecientes en los productos de suscripción
En los productos de AI basados en suscripción, una infraestructura de confianza bien construida en los primeros meses genera retornos crecientes. Los usuarios que confían en un sistema interactúan más con él. También proporcionan datos de interacción de mayor calidad y toleran mejor sus errores. Por el contrario, quienes no confían se desvinculan poco a poco. En consecuencia, debilitan los ingresos directos y la calidad de los datos de los que dependen las futuras mejoras del modelo. Estas dinámicas tienen peso financiero y aparecen en los datos operativos mucho antes de que la organización identifique su origen.
AI basada en suscripción y la diferencia entre valor y dependencia
La estructura de los productos de AI basados en suscripción crea un riesgo estratégico específico que requiere atención explícita. En este modelo, el éxito comercial depende de un engagement sostenido. Sin embargo, los mecanismos que sostienen ese engagement no son equivalentes desde el punto de vista de la confianza. Esa diferencia determina la calidad comercial y la sostenibilidad de la relación a largo plazo.
Valor genuino frente a dependencia
El engagement impulsado por un valor genuino nace de la evaluación del propio usuario de que el sistema lo hace más capaz, informado o eficaz. Este tipo de engagement produce una lealtad basada en la relación. El usuario siente que el sistema lo comprende y trabaja según sus necesidades. Además, puede colaborar activamente e intervenir con agencia.
En cambio, el engagement mantenido mediante mecanismos de dependencia funciona de otro modo. Usa fricción para desincentivar la salida, notificaciones que explotan la aversión a la pérdida y recomendaciones que reducen la capacidad del usuario. Como resultado, produce cifras de retención que ocultan la desvinculación real. La teoría de la autodeterminación explica la diferencia (Deci & Ryan, 2000). La motivación mantenida mediante presión externa es frágil. Por su parte, la motivación generada por competencia, autonomía y vínculo genuinos crece con el tiempo. Esta diferencia es invisible en los datos de adopción a corto plazo, pero decisiva a los 12 y 24 meses.
Interacción activa y pasiva
Esta distinción se corresponde con la diferencia entre arquitecturas de interacción activa y pasiva. Algunos sistemas se diseñan para estimular el propio juicio del usuario. Invitan a la interpretación, hacen visible la incertidumbre y preservan espacio para su razonamiento. De este modo, generan el engagement que produce confianza basada en el cuidado y apego genuino. Otros sistemas buscan la máxima fluidez en las respuestas con una participación mínima del usuario. Estos producen un engagement dependiente, que retiene a corto plazo, pero no sobrevive a fallos graves ni a buenas alternativas (García Corretjer et al., 2022). Por eso, confundir los dos tipos de retención es arriesgado. El primero gana valor a medida que la relación se profundiza. El segundo, por el contrario, reduce la confianza justo en los momentos más importantes para los ingresos a largo plazo.
La evidencia sobre la lealtad genuina también separa estas dos formas de retención en términos financieros. Los usuarios que perciben valor a través de su propia agencia se convierten en defensores de la marca. En cambio, quienes permanecen por dependencia suelen irse ante la primera alternativa y, con frecuencia, amplifican su insatisfacción (Reichheld, 2003; Edelman, 2024). La AI afronta hoy un escrutinio regulatorio y público creciente. En ese mercado, optimizar para la dependencia y no para el valor genuino es una negligencia en la gestión del riesgo.
La intención de diseño como factor diferenciador
En la próxima década, las organizaciones con posiciones defendibles en los servicios habilitados por AI serán las que traten el diseño como un mecanismo central. Es a través del diseño que la relación con los usuarios se construye, se mantiene y se demuestra a lo largo del tiempo. Estas organizaciones también comprenden el requisito específico que impone la confianza basada en el cuidado. La agencia humana no es una restricción ética para este trabajo; es su condición esencial.
La deuda de confianza
Una vez establecida, la confianza es el único activo empresarial que se multiplica sin nueva inversión de capital. Por otro lado, no puede recuperarse comprándola cuando se ha perdido a gran escala. Las organizaciones que invierten en AI sin invertir en diseño centrado en las personas acumulan deuda de confianza. Esa deuda permanece invisible hasta que se materializa. Puede aparecer como una rotación de clientes que escapa al análisis convencional o como un estancamiento de la adopción pese al marketing. También puede surgir como una exposición regulatoria que el equipo legal tendrá que gestionar más tarde. Para entonces, recuperar la confianza puede costar más que la inversión en diseño que lo habría evitado.
El diseño como relación, no como capa final
Lo que distingue a las organizaciones guiadas por el diseño de las que lo tratan como una capa final es el alcance. En las primeras, el diseño gobierna toda la relación comunicativa entre el sistema y el usuario. Esto incluye el lenguaje, el ritmo, el encuadre de la incertidumbre y la claridad sobre lo que el sistema puede y no puede hacer. Incluye además la preservación del razonamiento del usuario en la interacción, las instrucciones y el espacio digital. No se trata de recursos visuales. Se trata de decisiones que determinan si la confianza basada en el cuidado puede desarrollarse y sostenerse. La sostenibilidad es un resultado de la relación que se diseña, no una función que se añade tras la adopción. Las organizaciones que lo comprenden y actúan ahora están construyendo la ventaja que definirá el mercado de AI en la próxima década.
Por la Dra. Marialejandra García Corretjer, PhD
Referencias
- Buijsman, S., Carter, S. E., & Bermúdez, J.-P. (2025). Autonomy by design: Preserving human autonomy in AI decision-support. Philosophy & Technology, 38, 97. https://doi.org/10.1007/s13347-025-00932-2
- Calvo, R. A., Peters, D., Vold, K., & Ryan, R. M. (2020). Supporting human autonomy in AI systems. En C. Burr & L. Floridi (Eds.), Ethics of digital well-being. Springer.
- Deci, E. L., & Ryan, R. M. (2000). The “what” and “why” of goal pursuits. Psychological Inquiry, 11(4), 227–268.
- Edelman. (2024). Edelman Trust Barometer. Edelman.
- Fogg, B. J. (2003). Persuasive Technology: Using Computers to Change What We Think and Do. Morgan Kaufmann.
- Forrester Consulting. (2018). The Total Economic Impact™ of IBM’s Design Thinking Practice. Study commissioned by IBM.
- García Corretjer, M. A., Ros, R., Mallol, R., & Miralles, D. (2022). Empathy as an engaging strategy in social robotics: A pilot study. User Modeling and User-Adapted Interaction, 33(2), 221–259. https://doi.org/10.1007/s11257-022-09322-1
- Gray, K., & Wegner, D. M. (2012). Feeling robots and human zombies: Mind perception and the uncanny valley. Cognition, 125(1), 125–130.
- Jacovi, A., Marasovic, A., Miller, T., & Goldberg, Y. (2021). Formalizing trust in artificial intelligence. FAccT 2021.
- Kress, G. (2010). Multimodality: A Social Semiotic Approach to Contemporary Communication. Routledge.
- Lazar, A., Koehler, C., Tanenbaum, J., & Nguyen, D. H. (2015). Why we use and abandon smart devices. Proceedings of UbiComp 2015, 635–646.
- Luguri, J., & Strahilevitz, L. J. (2021). Shining a light on dark patterns. Journal of Legal Analysis, 13(1), 43–109.
- McKinsey & Company / McKinsey Design. (2018). The business value of design. McKinsey Quarterly.
- McKinsey & Company. (2023). The state of AI in 2023.
- Mehrotra, S., Degachi, C., Vereschak, O., Jonker, C. M., & Tielman, M. L. (2024). A Systematic Review on Fostering Appropriate Trust in Human-AI Interaction. ACM J. Responsib. Comput., 1(4), Article 26.
- Mori, M. (1970/2012). The uncanny valley (K. F. MacDorman & N. Kageki, Trans.). IEEE Robotics & Automation Magazine, 19(2), 98–100.
- Obermeyer, Z., Powers, B., Vogeli, C., & Mullainathan, S. (2019). Dissecting racial bias in an algorithm used to manage the health of populations. Science, 366(6464), 447–453.
- Reichheld, F. F. (2003). The one number you need to grow. Harvard Business Review, 81(12), 46–54.
- Shih, P. C., Han, K., Poole, E. S., Rosson, M. B., & Carroll, J. M. (2015). Use and adoption challenges of wearable activity trackers. iConference 2015 Proceedings.