Insights / Bienes de consumo

Las condiciones para permanecer

La confianza en la IA no se mide en la adopción, sino en la permanencia. Vea cómo la autodeterminación, la curiosidad y el apego la definen.

Equipo Stefanini ・ 14 oct. 2026 ・ Lectura estimada: 30 min

Juicio humano, autodeterminación, curiosidad y el ciclo de vida de la confianza en AI

Resumen: La mayoría de las conversaciones sobre la adopción de AI se concentran en la entrada: tasas de adquisición, finalización del onboarding y activación durante la primera semana. Se analiza mucho menos el periodo prolongado entre el engagement inicial y el momento en que una persona deja de utilizar la herramienta.

Este artículo sostiene que el abandono de AI es la etapa final de un proceso psicológico predecible, que implica la reducción progresiva de la autodeterminación, la desconfianza no resuelta y el colapso de cualquier vínculo funcional que se haya formado entre la persona y el sistema.

Una dimensión crítica de este proceso es el valle inquietante conductual: los sistemas de AI que simulan cuidado sin preservar la agencia humana generan un vínculo con una relación que no puede sostenerse, lo que produce una ruptura estructural de la confianza cuando se hace evidente la diferencia entre la relación percibida y la relación real.

Basándose en la Teoría de la Autodeterminación, la Teoría del Apego, el Framework del Self Extendido, la Teoría de los Actos de Habla y un framework empírico original —el Proceso de Realización de la Empatía—, probado en un estudio controlado con agentes de interacción entre humanos y AI, este artículo examina qué mantiene a las personas genuinamente involucradas a lo largo del tiempo.

¿Por qué la confianza basada en el cuidado requiere agencia humana para volverse sostenible y qué necesitan construir las organizaciones para crear las condiciones en las que ambas puedan coexistir? La sostenibilidad es un resultado de esta relación que debe considerarse de manera consistente. Comprenderlo como organización nos llevará a construir formas comercialmente duraderas de lealtad por parte de los usuarios de AI.

Medir el momento equivocado

Hay un patrón en los datos de los productos de AI sobre el que la mayoría de las organizaciones todavía no ha podido actuar. Las métricas de adopción registran la entrada. Las analíticas de sesión registran la presencia. Ninguna mide la calidad del engagement a lo largo del tiempo, ni detecta el momento específico en que una persona que técnicamente todavía utiliza un sistema ya ha decidido —sin llegar a formularlo conscientemente— que no confía lo suficiente en él como para llevarle su trabajo real.

El alejamiento de los sistemas de AI sigue, en la práctica, un patrón reconocible. La cuenta permanece abierta. La suscripción continúa. El dashboard registra a un usuario activo. La persona está probando en lugar de confiar, verificando los resultados en lugar de construir a partir de ellos y enviando únicamente tareas cuyo riesgo es lo bastante bajo como para aceptar la posibilidad de error. Está administrando la relación en lugar de invertir en ella.

Las señales conductuales están presentes en los datos del producto: reducción de la profundidad de la interacción, limitación del alcance de las tareas, aumento de la verificación de los resultados y menor inversión de contexto personal. La mayoría de las organizaciones no está instrumentada para identificar estas señales y, por eso, observa la salida mientras la decisión de abandonar se está tomando semanas o meses antes.

La investigación sobre el abandono de tecnologías de consumo conectadas documenta la forma de este patrón: el 65 % de los usuarios de activity trackers dejó de utilizarlos en un plazo de dos semanas (Shih et al., 2015), y los participantes de un estudio sobre smart devices elegidos por ellos mismos abandonaron casi el 80 % de estos en un plazo de dos meses, no por un fallo técnico, sino por la ausencia de la arquitectura relacional que sostiene el engagement genuino (Lazar et al., 2015).

No eran productos de AI, pero comparten un mecanismo común, y las señales conductuales descritas anteriormente son su expresión natural en AI. El coste de este fallo se acumula: el coste de adquisición de clientes de AI es considerable; el coste de reconstruir la confianza después de fallos estructurales de diseño es desproporcionado respecto de lo que habría sido necesario mediante una inversión diferente desde el principio (Mehrotra et al., 2024).

La cuestión que aborda este artículo es qué debe contener esa inversión inicial, a partir de lo que las evidencias motivacionales, relacionales y comunicacionales nos dicen sobre cómo se forma, se sostiene y falla la confianza en los sistemas de AI.

La arquitectura motivacional del engagement genuino

La Teoría de la Autodeterminación propone que el engagement sostenido en cualquier ámbito depende de la satisfacción de tres necesidades psicológicas básicas: autonomía, es decir, la sensación de ser el agente que origina sus propias acciones; competencia, la sensación de ser eficaz y capaz dentro de la interacción; y pertenencia, la sensación de conexión genuina y capacidad de respuesta en el intercambio (Deci & Ryan, 2000; Ryan & Deci, 2017).

Cuando estas necesidades se satisfacen, la motivación es intrínseca y el engagement se sostiene. Cuando cualquiera de ellas se frustra de manera crónica, la relación de la persona con la actividad se deteriora siguiendo una trayectoria predecible.

En los sistemas de AI, cada necesidad tiene implicaciones precisas de diseño. La autonomía se frustra cuando los sistemas reducen el espacio deliberativo del usuario: cuando los resultados llegan con una seguridad que impide la reflexión o cuando los patrones orientan en lugar de respaldar el juicio del propio usuario.

La investigación sobre sistemas de apoyo a la toma de decisiones con AI concluyó que la capacidad reflexiva se reduce cuando los sistemas no señalan sus propios fallos, dejando a los usuarios en un modo intuitivo de flujo precisamente allí donde se necesita un examen deliberado. Restaurarla requiere introducir una fricción deliberada en la interacción (Buijsman et al., 2025). Este es el origen estructural del patrón según el cual las personas que utilizan intensamente herramientas de AI manifiestan una menor confianza en su propio juicio con el paso del tiempo.

La competencia se frustra cuando los sistemas son opacos: cuando los errores no se explican o se presentan de maneras que trasladan la responsabilidad al usuario, y cuando el comportamiento es tan inconsistente que impide al usuario desarrollar un modelo estable de funcionamiento.

Los usuarios que no pueden construir una comprensión confiable de cómo se comporta un sistema permanecen permanentemente en una relación provisional con él. Las relaciones provisionales no se profundizan ni sobreviven a alternativas relevantes.

La pertenencia —la necesidad que los productos de AI simulan con mayor frecuencia y que menos consiguen satisfacer de forma confiable— exige que la interacción parezca genuinamente receptiva a esa persona específica. La personalización como recurso técnico no satisface esta necesidad. Lo que la satisface es la experiencia de que aquello que esa persona aporta a la interacción moldea activamente aquello que recibe.

Esta distinción entre capacidad de respuesta simulada y pertenencia genuina es la condición motivacional previa para las dinámicas de apego que se examinan a continuación.

La curiosidad como puente entre la entrada y la profundidad

La curiosidad es uno de los primeros predictores más confiables del engagement sostenido con nuevos sistemas. Funciona como el mecanismo motivacional que convierte la exposición inicial en la profundidad exploratoria que produce valor genuino, y es la condición psicológica que permite a los usuarios desarrollar la fluidez de interacción que hace que un sistema merezca permanecer (Litman, 2008).

En los productos de AI, también es la condición que se ve perjudicada de forma más sistemática por la manera en que estos productos están diseñados.

La curiosidad requiere un entorno específico para sostenerse: una brecha productiva entre lo que se conoce y lo que puede conocerse, lo bastante amplia como para motivar la exploración, pero lo bastante estrecha como para permanecer al alcance.

La mayoría de los sistemas de AI cierra esta brecha de la forma más eficiente posible: responde de manera completa e inmediata, con una seguridad que indica que la exploración ha terminado.

La investigación orientada a la creatividad sostiene que encuadrar el trabajo creativo como un problema que debe resolverse vuelve invisible la práctica situada y negociada mediante la cual realmente ocurre. También advierte que la AI creativa construida sobre ese encuadre amenaza con sustituir las prácticas que afirma apoyar (Hsueh et al., 2024).

Unos mejores resultados de AI no producen automáticamente usuarios más involucrados. La estructura de la interacción, el trabajo cognitivo que asume el sistema y el trabajo cognitivo que deja para la persona determinan la trayectoria motivacional de la relación.

En la interacción entre humanos y AI, la curiosidad también está vinculada operativamente a la regulación de expectativas: el proceso mediante el cual una persona calibra progresivamente su comprensión de cómo se comporta un sistema y construye expectativas compatibles.

El comportamiento de prueba impulsado por la curiosidad es uno de los principales mecanismos mediante los cuales se produce esta calibración y mediante los cuales comienza a formarse la confianza que sostiene el engagement a largo plazo.

El objeto de la confianza: apego, self extendido y resiliencia de las relaciones

La confianza no opera de manera uniforme en todas las relaciones. La diferencia que más importa desde el punto de vista comercial no es el grado de confianza en un momento determinado, sino su resiliencia: si se adapta o se quiebra ante las condiciones de fallo, inconsistencia y decepción que todo sistema de AI producirá inevitablemente. El mecanismo que determina esa resiliencia es el apego. Bowlby estableció que lo que determina si un vínculo sobrevive a la separación, la decepción o el fracaso no es su intensidad, sino la seguridad de las expectativas que lo sustentan (Bowlby, 1982). Desde entonces, ese trabajo se ha extendido mucho más allá de los vínculos humanos, hacia los lugares, los objetos y las herramientas con las que trabajan las personas, incluida la AI.

Las condiciones en las que se forma el apego funcional son predecibles: disponibilidad consistente, capacidad de respuesta demostrada ante señales individuales específicas y la acumulación de una historia relacional compartida que hace que la relación parezca específica para esa persona.

Cuando estas condiciones están presentes, la relación adquiere lo que los teóricos de la confianza describen como confianza basada en la buena voluntad: una forma de confianza relacional que persiste frente a fallos momentáneos (Lewicki et al., 2006).

El trabajo fundamental de Russell Belk sobre las posesiones y el Self Extendido estableció que los objetos y las herramientas en los que una persona invierte energía cognitiva y emocional pasan a incorporarse a su percepción de sí misma y de su propia capacidad (Belk, 1988). Su trabajo posterior sobre el Self Extendido digital concluyó que la misma lógica se aplica a las herramientas digitales y a los sistemas de AI, con dimensiones adicionales específicas de la intimidad mediada por datos (Belk, 2013).

Los sistemas de AI crean las condiciones para incorporarse al Self Extendido desde las primeras etapas de uso significativo. La cuestión para el diseño de producto es si el sistema ha sido diseñado para respetar la relación que está generando.

La complejidad del apego en los contextos de interacción entre humanos y AI merece ser reconocida. La investigación empírica sobre el apego afectivo en contextos de interacción entre humanos y agentes de AI concluyó que había indicadores de apego tanto en las condiciones de colaboración activa como en las pasivas; es decir, el apego se forma en distintas condiciones de uso. Lo que diferenciaba a ambas condiciones era la riqueza cualitativa: en los entornos de colaboración activa, los usuarios utilizaban espontáneamente la primera persona del plural y describían resultados compartidos, mientras que, en las condiciones pasivas, la percepción predominante era la del agente de AI como “individual e independiente” (García Corretjer et al., 2022).

El apego no es una consecuencia automática de la exposición prolongada. Se profundiza específicamente a través de la colaboración activa, un hallazgo establecido desde las primeras investigaciones sobre las relaciones a largo plazo entre humanos y computadoras, en las que el comportamiento relacional —y no la duración— permitía predecir si las personas querían continuar interactuando con un actor artificial. Las organizaciones cuyos productos de AI están diseñados sobre un modelo pasivo están generando un apego superficial que no resistirá un fallo significativo.

La investigación clínica sobre la alianza de trabajo ofrece la base empírica más rigurosa para la relación entre la calidad del apego y la resiliencia de los resultados. Bordin estableció que la alianza terapéutica consiste en el acuerdo sobre los objetivos, el acuerdo sobre las tareas y la calidad del vínculo relacional (Bordin, 1979).

Los metaanálisis de Wampold e Imel concluyeron que el componente del vínculo explica una parte de la variación de los resultados significativamente mayor de la que pueden predecir las técnicas específicas (Wampold & Imel, 2015).

El mismo patrón se aplica a una máquina: en un estudio de un mes con 101 participantes, un agente relacional se diferenció de un agente equivalente orientado a tareas únicamente en la dimensión del vínculo, y esta diferencia se mantuvo después de cuatro semanas (Bickmore & Picard, 2005).

Cuando la incorporación al Self Extendido ocurre sin un diseño que respete la relación, las consecuencias de un fallo del sistema superan lo que las organizaciones suelen anticipar. A escala, la ruptura del Self Extendido —causada por fallos importantes de AI, vulneraciones de privacidad o la interrupción del servicio— transforma los fallos de producto en eventos de marca y las vulneraciones de confianza en churn que se resiste a las intervenciones convencionales de retención (Belk, 2013).

Un framework para la realización de la empatía: evidencia empírica para el diseño activo de AI

Las organizaciones de AI enfrentan una cuestión de diseño específica y comercialmente urgente: dado lo que la psicología motivacional y la teoría del apego nos dicen sobre por qué se forma y se deteriora la confianza, ¿cómo es, en la práctica, una arquitectura de interacción que construye estas condiciones?

La investigación original sobre las relaciones a largo plazo entre las personas y la tecnología ofrece una respuesta precisa y probada empíricamente. El Proceso de Realización de la Empatía (RE) es un framework estructurado para diseñar interacciones que generan las condiciones en las que la confianza, el apego afectivo y la comprensión mutua genuina se desarrollan a lo largo del tiempo (García Corretjer, 2022).

La aplicabilidad de este framework al diseño de productos de AI se basa en una equivalencia directa. El estudio empírico que probó el modelo RE utilizó un agente de AI como contraparte interactiva: un sistema capaz de intercambiar lenguaje natural, ofrecer respuestas adaptativas, expresar afecto y negociar de forma colaborativa.

Los agentes sociales de AI de este tipo y los sistemas conversacionales de AI, de apoyo a la toma de decisiones y de recomendación que se encuentran en el centro de las inversiones comerciales actuales comparten la misma arquitectura computacional subyacente, los mismos requisitos de comprensión del lenguaje natural y las mismas dinámicas relacionales.

Los mecanismos psicológicos analizados operan en el nivel de la cognición humana y no en el nivel de la forma de la interfaz mediante la cual se presenta la AI. Las evidencias son directamente transferibles.

El framework RE identifica tres condiciones estables que deben estar presentes de manera consistente: un entorno de interacción adecuado al contexto y a la persona; un lenguaje común o una plataforma de comunicación mediante la cual pueda producirse un intercambio genuino; y una disposición abierta que preserve aquello que aporta el usuario sin predeterminar el resultado.

Dentro de estas condiciones estables, el proceso RE recorre cuatro etapas que se repiten a medida que la relación se desarrolla.

El proceso de realización de la empatía: cuatro etapas aplicadas al diseño de interacciones con AI

REGULAR LAS EXPECTATIVAS

Cada participante entra en la interacción después de haber reflexionado sobre aquello con lo que está a punto de interactuar, lo que permite que sus suposiciones iniciales permanezcan flexibles.

Para los sistemas de AI: presentación transparente de las capacidades, onboarding honesto y una señal clara de que los resultados del sistema son un punto de partida para el juicio del usuario, no una conclusión que lo cierre.

Cuando esto está ausente, los usuarios llegan con expectativas no gestionadas que el primer fallo confirma, lo que genera de inmediato una deuda de confianza que rara vez se recupera.

ESCUCHAR

Recopilación activa y amplia de la expresión de la otra persona, sin juicio ni respuesta anticipada.

Para los sistemas de AI: arquitecturas de interacción que demuestren una capacidad de respuesta genuina ante las contribuciones de ese usuario específico, en lugar de establecer correspondencias con una media estadística.

Cuando esto está ausente, la percepción descrita con mayor frecuencia por los usuarios que se alejan es que el sistema “no responde a mí”, el precursor del alejamiento progresivo.

CONSIDERAR

Un proceso interno de reflexión mediante el cual la información recibida se procesa en relación con la propia comprensión del participante antes de formular una respuesta.

Para los sistemas de AI: ritmos de interacción que dejen espacio para el proceso deliberativo del usuario, con una cadencia y una contención que indiquen que el razonamiento del usuario debe participar y no limitarse a recibir.

Cuando esto está ausente, disminuye la fuente estructural de la autonomía: el sistema ocupa el espacio donde antes existía la reflexión.

ACTUAR

La expresión externa de aquello que ha producido el proceso de consideración.

Para los sistemas de AI: resultados calibrados al contexto de ese usuario específico, con un reconocimiento adecuado de la incertidumbre.

Cuando esto está ausente, los resultados llegan sin contexto relacional; parecen técnicamente precisos, pero vacíos desde el punto de vista de la experiencia. Este es el mecanismo que subyace a los estancamientos en la adopción que se resisten a las intervenciones convencionales de producto.

El estudio controlado que probó este framework comparó dos condiciones de interacción con agentes de AI: una estrategia de colaboración activa, en la que la persona y el agente de AI negociaban decisiones mediante el diálogo y el intercambio reflexivo; y una estrategia pasiva, en la que cada uno actuaba por turnos alternos sin deliberación conjunta.

Los participantes de la condición activa mostraron niveles significativamente más altos de regulación de expectativas, y la cercanía percibida con el agente de AI alcanzó una media de 5,11, frente a 3,83 en la condición pasiva (p = 0,0045).

En el registro cualitativo, los participantes de la condición activa describieron una autoría compartida de los resultados, mientras que los participantes de la condición pasiva describieron la AI como “individual e independiente”, un patrón lingüístico que precede al alejamiento en los datos de productos comerciales de AI (García Corretjer et al., 2022).

La implicación organizacional es arquitectural. Los sistemas de AI diseñados para la colaboración activa producen una mayor cercanía con el usuario, indicadores de confianza más sólidos y una mejor regulación de expectativas que los sistemas diseñados para la entrega pasiva.

Estas cifras se relacionan directamente con la profundidad del engagement, la calidad de la interacción y la retención a largo plazo que determinan si la inversión en productos de AI genera retornos acumulativos. Las organizaciones cuyos sistemas se construyen sobre un modelo pasivo están generando sistemáticamente las condiciones para la curva de abandono documentada al inicio de este artículo.

El ciclo de vida conductual: del engagement al alejamiento

El engagement inicial se caracteriza por la exploración activa: un amplio alcance de tareas, una elevada inversión de contexto personal y disposición a probar el sistema en ámbitos que importan.

En esta etapa, los usuarios extienden la confianza de manera provisional, reuniendo evidencias sobre la confiabilidad, la consistencia y la capacidad de respuesta genuina del sistema. Es durante este periodo inicial cuando la regulación de expectativas está más activa: los usuarios realizan pruebas guiadas por la curiosidad y calibran progresivamente aquello que pueden esperar de forma razonable.

Cuando la regulación de expectativas cuenta con el respaldo de una transparencia adecuada, la confianza empieza a acumularse. Cuando el sistema cierra este proceso mediante resultados excesivamente seguros o un comportamiento opaco, las expectativas se cristalizan prematuramente y producen una fragilidad que el primer fallo significativo dejará expuesta.

La aversión a los algoritmos —la tendencia documentada de los usuarios a perder la confianza en los sistemas de AI después de observar un fallo, incluso cuando estos sistemas continúan siendo más precisos que el juicio humano— se ha replicado de forma suficientemente consistente como para tratarla como una restricción de diseño (Dietvorst et al., 2015).

Los usuarios evalúan los sistemas de AI no principalmente por su precisión agregada, sino por la calidad del intercambio relacional. Cuando el apego se ha formado mediante una colaboración activa genuina, esta reevaluación es más tolerante. Cuando solo se ha desarrollado un uso instrumental, es decisiva.

La explicación de Kahneman sobre el procesamiento dual ofrece el marco cognitivo: los procesos del Sistema 1 se adaptan rápidamente a la asistencia de la AI y pueden volverse dependientes de maneras que preceden a cualquier decisión consciente de confiar en el sistema (Kahneman, 2011).

La experiencia de una carga cognitiva reducida parece eficiencia. El efecto a largo plazo sobre la capacidad deliberativa permanece invisible hasta que se percibe la ausencia del sistema como una pérdida de la propia capacidad, exactamente la ruptura del Self Extendido cuyo coste comercial se describió en la sección anterior.

La agencia como variable de diseño: la condición que hace genuino el cuidado

La posición que ocupa una persona dentro de un sistema de AI —ya sea como tomadora de decisiones, colaboradora, aprobadora o receptora pasiva— es una determinación de diseño producida por el efecto acumulativo de los patrones predefinidos, el lenguaje de la interfaz, el encuadre de las respuestas y la presencia o ausencia de mecanismos mediante los cuales la persona puede ejercer una anulación significativa.

Los frameworks actuales de gobernanza han comenzado a formalizar esto: los niveles de control humano sobre los sistemas de AI se consideran ahora una dimensión proyectable y auditable de la implementación de AI (Knight First Amendment Institute, 2025).

La confianza basada en el cuidado crea las condiciones en las que la confianza puede persistir. Pero, por sí sola, no hace que la confianza sea sostenible, y esta es la distinción crítica que este artículo introduce a lo largo del compendio.

El cuidado que preserva la agencia humana produce una confianza relacional que se fortalece con el tiempo. El cuidado que simula una orientación genuina hacia los intereses del usuario mientras impide sistemáticamente su contribución participativa produce un patrón específico y comercialmente peligroso: el valle inquietante conductual en el diseño de relaciones con AI.

El concepto de valle inquietante, introducido originalmente para describir la incomodidad producida por robots casi humanos que se acercan a la semejanza humana pero no la alcanzan (Mori, 1970/2012), se amplió posteriormente a la percepción de la mente y la agencia en los sistemas artificiales (Gray & Wegner, 2012).

En la AI conductual y relacional opera el mismo mecanismo estructural: un sistema lo bastante cercano a una relación genuina como para generar apego, pero sin la agencia humana recíproca que hace real la relación.

Los usuarios invierten emocionalmente en algo que no existe de la forma en que lo experimentan. Cuando esta brecha se hace evidente —a través de un fallo del sistema, un cambio conductual o la creciente percepción del usuario—, la respuesta es la desorientación específica que produce descubrir que algo genuinamente incorporado estaba vacío.

No se trata de una vulneración menor de la confianza. Produce la desconfianza estructural e irreversible que precede a la forma comercialmente más perjudicial de abandono de AI: aquella que genera una defensa negativa en lugar de churn silencioso.

La respuesta de diseño consiste en tratar el cuidado y la agencia como requisitos inseparables, y no como valores en competencia o, peor aún, como valores que deben intercambiarse en busca de la optimización del engagement.

El cuidado crea las condiciones en las que la confianza puede persistir; la agencia humana en la interacción —el espacio preservado para el propio juicio, la deliberación y la contribución participativa del usuario— es lo que hace sostenible esa confianza a lo largo del tiempo.

Esto no es una restricción ética para el diseño de producto. Es la condición para la única forma de lealtad al producto que resulta comercialmente duradera (Buijsman et al., 2025; Calvo et al., 2020).

El framework HCAI de Shneiderman hace explícita esta afirmación estructural: toda interfaz, todo patrón predefinido y todo momento de intervención o contención del sistema constituye una decisión sobre dónde reside la agencia (Shneiderman, 2022).

Las organizaciones que no toman esta decisión explícitamente la han tomado implícitamente, y las consecuencias aparecen en los datos del producto como los patrones conductuales descritos a lo largo de este artículo.

El diseño como lenguaje performativo

Comprender por qué estas decisiones sobre la arquitectura de interacción tienen un peso comercial desproporcionado exige un marco que vaya más allá de la usabilidad.

La teoría de los actos de habla establece la premisa necesaria: el lenguaje no solo describe estados de cosas; también realiza acciones dentro de ellos (Austin, 1962; Searle, 1969).

Cada elemento de una interfaz diseñada es un acto comunicativo con consecuencias conductuales que van más allá de su contenido superficial. Un cuadro de diálogo de confirmación no solo informa; también asigna responsabilidad. Una recomendación formulada como una conclusión no solo sugiere; también constituye autoridad. Un flujo de onboarding no solo orienta; establece las normas mediante las cuales se interpretarán todas las interacciones posteriores, incluido si el usuario se percibe como un participante activo o como un receptor pasivo.

Estos mensajes se transmiten a través de todo el registro multimodal del sistema: el lenguaje visual, el ritmo y la extensión de las respuestas, el vocabulario, la tolerancia a la ambigüedad del usuario y el tratamiento de las propias limitaciones del sistema (Kress, 2010).

Cuando el diseño no gobierna estos canales de forma intencional, pasan a seguir aquello que produzcan la ingeniería y la optimización de producto. La consecuencia conductual es el patrón de pérdida de confianza descrito en este artículo: usuarios que comienzan a verificar en lugar de confiar y a limitar en lugar de profundizar. Se trata de un patrón invisible en los datos de sesión, pero decisivo en las curvas de retención a 12 meses y en la calidad de los datos de interacción disponibles para mejorar el modelo.

Paul Dourish amplía esta idea al registro embodied: el significado en los sistemas diseñados se constituye mediante el engagement físico y procedimental, y no únicamente a través de la representación simbólica (Dourish, 2001).

A medida que la AI supera las interfaces basadas en pantallas y llega a entornos de voz, contextuales y físicos, se multiplican los canales mediante los cuales se comunica la agencia y aumenta la necesidad organizacional de gobernarlos de forma intencional.

La respuesta del diseño: construir las condiciones que sostienen la relación

Las intervenciones que reducen el riesgo de abandono son estructurales antes que cosméticas y comienzan con el compromiso organizacional de tratar la calidad de la relación como una métrica de producto junto con las métricas técnicas, midiendo tanto el cuidado como la agencia como dimensiones de esa calidad, y no una en detrimento de la otra.

Para el diseño de producto, la Teoría de la Autodeterminación y el framework RE se traducen conjuntamente en restricciones operativas.

La autonomía exige diseñar sistemas que preserven estructuralmente el espacio deliberativo del usuario: comunicación explícita de la incertidumbre, vías para que los usuarios cuestionen y anulen los resultados y ritmos de interacción que dejen espacio para que participe el propio razonamiento de la persona, en lugar de limitarse a recibir.

La competencia exige diseñar para el desarrollo de un dominio genuino a lo largo del tiempo, con sistemas suficientemente legibles como para permitir el aprendizaje y que expliquen su razonamiento de maneras que los usuarios puedan evaluar.

La pertenencia y el apego exigen diseñar una capacidad de respuesta que parezca específica para esa persona: arquitecturas de interacción que se adapten a las preferencias demostradas y reconozcan que aquello que aporta el usuario realmente moldea lo que recibe.

La regulación de expectativas requiere una atención específica de diseño porque es el mecanismo mediante el cual la confianza provisional se convierte en confianza duradera.

Ofrecer la transparencia y la consistencia que permiten avanzar en la calibración, proporcionar el espacio para realizar pruebas guiadas por la curiosidad y reconocer honestamente cuándo no se han cumplido las expectativas son decisiones de diseño de interacción de las que depende la arquitectura motivacional del engagement a largo plazo.

Las organizaciones que crean instrumentos para detectar cuándo está fallando la calibración de expectativas intervienen mientras la recuperación todavía es posible. Las que no lo hacen encuentran las consecuencias en los datos de churn.

El argumento de la sostenibilidad es la capa final y comercialmente más significativa de este artículo. Las organizaciones que diseñan simultáneamente para el cuidado y la agencia están construyendo tanto una versión más ética del producto como una relación comercial fundamentalmente distinta: una relación en la que los usuarios perciben un valor genuino a través de su propia participación activa, en lugar de recibir valor a pesar de su pasividad.

La investigación sobre la lealtad genuina frente a la lealtad coaccionada del cliente documenta las consecuencias financieras de esta diferencia. La lealtad construida sobre un valor real aparece en el Net Promoter Score y en la retención a largo plazo, y se recupera después de un fallo. La lealtad mantenida mediante fricción de salida se comporta de la misma manera hasta el momento en que surge una alternativa viable y, entonces, no regresa (Reichheld, 2003; Edelman, 2024).

Los negocios sostenibles de productos de AI se definirán por esta comprensión. La recomendación es actuar mientras las cosas todavía están en proceso de diseño.

Por la Dra. Marialejandra García Corretjer, PhD

Referencias

  • Austin, J. L. (1962). How to Do Things with Words. Oxford University Press.
  • Belk, R. W. (1988). Possessions and the extended self. Journal of Consumer Research, 15(2), 139–168.
  • Belk, R. W. (2013). Extended self in a digital world. Journal of Consumer Research, 40(3), 477–500.
  • Bickmore, T., & Picard, R. W. (2005). Establishing and maintaining long-term human-computer relationships. ACM Transactions on Computer-Human Interaction, 12(2), 293–327.
  • Bordin, E. S. (1979). The generalizability of the psychoanalytic concept of the working alliance. Psychotherapy: Theory, Research and Practice, 16(3), 252–260.
  • Bowlby, J. (1982). Attachment and Loss, Vol. 1: Attachment (2nd ed.). Basic Books.
  • Buijsman, S., Carter, S. E., & Bermúdez, J.-P. (2025). Autonomy by design: Preserving human autonomy in AI decision-support. Philosophy & Technology, 38, 97. https://doi.org/10.1007/s13347-025-00932-2
  • Calvo, R. A., Peters, D., Vold, K., & Ryan, R. M. (2020). Supporting human autonomy in AI systems. In C. Burr & L. Floridi (Eds.), Ethics of digital well-being. Springer.
  • Deci, E. L., & Ryan, R. M. (2000). The “what” and “why” of goal pursuits. Psychological Inquiry, 11(4), 227–268.
  • Dietvorst, B. J., Simmons, J. P., & Massey, C. (2015). Algorithm aversion: People erroneously avoid algorithms after seeing them err. Journal of Experimental Psychology: General, 144(1), 114–126.
  • Dourish, P. (2001). Where the Action Is: The Foundations of Embodied Interaction. MIT Press.
  • Edelman. (2024). Edelman Trust Barometer. Edelman.
  • García Corretjer, M. A. (2022). On the relationship between people, objects, & interactive technologies [Doctoral dissertation]. La Salle, Ramon Llull University.
  • García Corretjer, M. A., Ros, R., Mallol, R., & Miralles, D. (2022). Empathy as an engaging strategy in social robotics: A pilot study. User Modeling and User-Adapted Interaction, 33(2), 221–259. https://doi.org/10.1007/s11257-022-09322-1
  • Gray, K., & Wegner, D. M. (2012). Feeling robots and human zombies: Mind perception and the uncanny valley. Cognition, 125(1), 125–130.
  • Hsueh, S., Ciolfi Felice, M., Fdili Alaoui, S., & Mackay, W. E. (2024). What counts as “creative” work? Articulating four epistemic positions in creativity-oriented HCI research. Proceedings of CHI 2024. https://doi.org/10.1145/3613904.3642854
  • Kahneman, D. (2011). Thinking, Fast and Slow. Farrar, Straus and Giroux.
  • Knight First Amendment Institute. (2025). Levels of autonomy for AI agents (K. Feng, D. W. McDonald, & A. X. Zhang, Essay 25-15).
  • Kress, G. (2010). Multimodality: A Social Semiotic Approach to Contemporary Communication. Routledge.
  • Lazar, A., Koehler, C., Tanenbaum, J., & Nguyen, D. H. (2015). Why we use and abandon smart devices. Proceedings of UbiComp 2015, 635–646.
  • Lewicki, R. J., Tomlinson, E. C., & Gillespie, N. (2006). Models of interpersonal trust development. Journal of Management, 32(6), 991–1022.
  • Litman, J. A. (2008). Interest and deprivation factors of epistemic curiosity. Personality and Individual Differences, 44(7), 1585–1595.
  • Mehrotra, S., Degachi, C., Vereschak, O., Jonker, C. M., & Tielman, M. L. (2024). A Systematic Review on Fostering Appropriate Trust in Human-AI Interaction. ACM J. Responsib. Comput., 1(4), Article 26.
  • Mori, M. (1970/2012). The uncanny valley (K. F. MacDorman & N. Kageki, Trans.). IEEE Robotics & Automation Magazine, 19(2), 98–100.
  • Picard, R. W. (1997). Affective Computing. MIT Press.
  • Reichheld, F. F. (2003). The one number you need to grow. Harvard Business Review, 81(12), 46–54.
  • Ryan, R. M., & Deci, E. L. (2017). Self-Determination Theory. Guilford Press.
  • Searle, J. R. (1969). Speech Acts. Cambridge University Press.
  • Shih, P. C., Han, K., Poole, E. S., Rosson, M. B., & Carroll, J. M. (2015). Use and adoption challenges of wearable activity trackers. iConference 2015 Proceedings.
  • Shneiderman, B. (2022). Human-Centered AI. Oxford University Press.
  • Wampold, B. E., & Imel, Z. E. (2015). The Great Psychotherapy Debate (2nd ed.). Routledge.
HABLEMOS

De la reflexión a la práctica

¿Cómo se conectan estas preguntas con el momento de su negocio? Converse con Stefanini sobre estrategia, tecnología y experiencia del cliente.

Converse con Stefanini