As condições para permanecer

Julgamento Humano, Autodeterminação, Curiosidade e o Ciclo de Vida da Confiança em AI

Resumo: A maioria das conversas sobre adoção de AI se concentra na entrada: taxas de aquisição, conclusão do onboarding e ativação na primeira semana. Muito menos se analisa o período prolongado entre o engajamento inicial e o momento em que uma pessoa deixa de usar a ferramenta. Este artigo argumenta que o abandono de AI é o estágio final de um processo psicológico previsível, que envolve a redução progressiva da autodeterminação, a desconfiança não resolvida e o colapso de qualquer vínculo funcional que tenha se formado entre a pessoa e o sistema. Uma dimensão crítica desse processo é o vale da estranheza comportamental: sistemas de AI que simulam cuidado sem preservar a agência humana geram um vínculo com uma relação que não consegue se sustentar, produzindo uma ruptura estrutural da confiança quando a diferença entre a relação percebida e a relação real se torna evidente. Com base na Teoria da Autodeterminação, na Teoria do Apego, no Framework do Self Estendido, na Teoria dos Atos de Fala e em um framework empírico original, o Processo de Realização da Empatia, testado em um estudo controlado com agentes de interação humano-AI, este artigo examina o que mantém as pessoas genuinamente engajadas ao longo do tempo. Por que a confiança baseada em cuidado exige agência humana para se tornar sustentável e o que as organizações precisam construir para criar as condições nas quais ambas possam coexistir. A sustentabilidade é um resultado dessa relação que deve ser considerado de forma consistente. Compreender isso como uma organização nos levará a construir formas comercialmente duradouras de lealdade dos usuários de AI.

Medindo o momento errado

Há um padrão nos dados de produtos de AI sobre o qual a maioria das organizações ainda não conseguiu agir. As métricas de adoção capturam a entrada. A análise de sessões captura a presença. Nenhuma delas mede a qualidade do engajamento ao longo do tempo, e nenhuma detecta o momento específico em que uma pessoa que tecnicamente ainda usa um sistema já decidiu, abaixo do nível da articulação consciente, que não confia nele o suficiente para levar a ele o seu trabalho real.

O afastamento de sistemas de AI segue, na prática, um padrão reconhecível. A conta permanece aberta. A assinatura continua. O painel registra um usuário ativo. A pessoa está testando em vez de confiar, verificando os resultados em vez de construir a partir deles, enviando apenas tarefas cujo risco é baixo o suficiente para aceitar a possibilidade de erro. Ela está administrando a relação em vez de investir nela. Os sinais comportamentais estão presentes nos dados do produto: redução da profundidade da interação, restrição do escopo das tarefas, aumento da verificação dos resultados e menor investimento de contexto pessoal. A maioria das organizações não está instrumentada para identificar esses sinais e, por isso, observa a saída enquanto a decisão de sair está sendo tomada semanas ou meses antes.

Pesquisas sobre o abandono de tecnologias conectadas de consumo documentam o formato desse padrão: 65% dos usuários de rastreadores de atividade deixaram de usá-los em até duas semanas (Shih et al., 2015), e participantes de um estudo sobre dispositivos inteligentes escolhidos por eles próprios abandonaram quase 80% deles em até dois meses, não por falha técnica, mas pela ausência da arquitetura relacional que sustenta o engajamento genuíno (Lazar et al., 2015). Esses não eram produtos de AI, mas compartilham um mecanismo comum, e os sinais comportamentais descritos acima são sua expressão nativa em AI. O custo dessa falha se acumula: o custo de aquisição de clientes de AI é substancial; o custo de reconstruir a confiança após falhas estruturais de design é desproporcional ao que teria sido necessário com um investimento diferente desde o início (Mehrotra et al., 2024). A questão abordada por este artigo é o que esse investimento inicial precisa conter, com base no que as evidências motivacionais, relacionais e comunicacionais nos dizem sobre como a confiança em sistemas de AI se forma, se sustenta e falha.

A arquitetura motivacional do engajamento genuíno

A Teoria da Autodeterminação propõe que o engajamento sustentado em qualquer domínio depende da satisfação de três necessidades psicológicas básicas: autonomia, a sensação de ser o agente originador das próprias ações; competência, a sensação de ser eficaz e capaz dentro da interação; e pertencimento, a sensação de conexão genuína e responsividade na troca (Deci & Ryan, 2000; Ryan & Deci, 2017). Quando essas necessidades são atendidas, a motivação é intrínseca e o engajamento se sustenta. Quando qualquer uma delas é cronicamente frustrada, a relação da pessoa com a atividade se deteriora seguindo uma trajetória previsível.

Para sistemas de AI, cada necessidade traz implicações precisas de design. A autonomia é frustrada quando os sistemas reduzem o espaço deliberativo do usuário: quando os resultados chegam com uma confiança que impede a reflexão, quando os padrões orientam em vez de apoiar o julgamento do próprio usuário. Pesquisas sobre sistemas de apoio à decisão com AI constataram que a capacidade reflexiva é reduzida quando os sistemas não sinalizam suas próprias falhas, deixando os usuários em um modo intuitivo de fluxo justamente onde é necessário um exame deliberado, e que restaurá-la exige uma fricção deliberada na interação (Buijsman et al., 2025), fonte estrutural do padrão no qual pessoas que usam ferramentas de AI intensamente relatam menor confiança em seu próprio julgamento ao longo do tempo.

A competência é frustrada quando os sistemas são opacos: quando os erros não são explicados ou são apresentados de maneiras que transferem a responsabilidade para o usuário, quando o comportamento é inconsistente a ponto de impedir que o usuário desenvolva um modelo de funcionamento estável. Usuários que não conseguem construir uma compreensão confiável de como um sistema se comporta permanecem permanentemente em uma relação provisória com ele. Relações provisórias não se aprofundam e não sobrevivem a alternativas relevantes.

O pertencimento, a necessidade que os produtos de AI mais comumente simulam e menos conseguem atender de forma confiável, exige que a interação pareça genuinamente responsiva a essa pessoa específica. A personalização como recurso técnico não satisfaz essa necessidade. O que a satisfaz é a experiência de que aquilo que essa pessoa traz para a interação molda ativamente aquilo que recebe. Essa distinção, entre responsividade simulada e pertencimento genuíno, é a condição motivacional prévia para as dinâmicas de apego examinadas a seguir.

A curiosidade como ponte entre entrada e profundidade

A curiosidade é um dos primeiros preditores mais confiáveis de engajamento sustentado com novos sistemas. Ela funciona como o mecanismo motivacional que converte a exposição inicial na profundidade exploratória que produz valor genuíno e é a condição psicológica que permite aos usuários desenvolver a fluência de interação que torna um sistema digno de permanecer (Litman, 2008). Para produtos de AI, ela também é a condição mais sistematicamente prejudicada pela forma como esses produtos são projetados.

A curiosidade exige um ambiente específico para se sustentar: uma lacuna produtiva entre o que é conhecido e o que pode ser conhecido, ampla o suficiente para motivar a exploração, mas estreita o suficiente para permanecer ao alcance. A maioria dos sistemas de AI fecha essa lacuna da maneira mais eficiente possível, respondendo de forma abrangente e imediata, com uma confiança que sinaliza que a exploração terminou. Pesquisas orientadas à criatividade argumentam que enquadrar o trabalho criativo como um problema a ser resolvido torna invisível a prática situada e negociada por meio da qual ele realmente acontece e alertam que a AI criativa construída sobre esse enquadramento ameaça substituir as práticas que afirma apoiar (Hsueh et al., 2024). Melhores resultados de AI não produzem automaticamente usuários mais engajados. A estrutura da interação, o trabalho cognitivo que o sistema assume e o trabalho cognitivo que deixa para a pessoa determinam a trajetória motivacional da relação.

Na interação humano-AI, a curiosidade também está operacionalmente ligada à regulação de expectativas: o processo pelo qual uma pessoa calibra progressivamente sua compreensão de como um sistema se comporta e constrói expectativas compatíveis. O comportamento de teste impulsionado pela curiosidade é um dos principais mecanismos pelos quais essa calibração ocorre e pelos quais começa a se formar a confiança que sustenta o engajamento de longo prazo.

O objeto da confiança: apego, self estendido e a resiliência das relações

A confiança não opera de forma uniforme em todas as relações. A diferença que mais importa do ponto de vista comercial não é o grau de confiança em um dado momento, mas a sua resiliência: se ela se dobra ou se rompe diante das falhas, inconsistências e decepções que todo sistema de AI inevitavelmente produzirá. O mecanismo que determina essa resiliência é o apego. Bowlby demonstrou que o que determina se um vínculo sobrevive à separação, à decepção ou à falha não é a sua intensidade, mas a segurança das expectativas construídas nele (Bowlby, 1982). Desde então, esse trabalho foi estendido muito além dos vínculos humanos, para lugares, objetos e as ferramentas com que as pessoas trabalham, incluindo a AI.

As condições nas quais o apego funcional se forma são previsíveis: disponibilidade consistente, responsividade demonstrada a sinais individuais específicos e o acúmulo de uma história relacional compartilhada que faz a relação parecer específica para essa pessoa. Quando essas condições estão presentes, a relação adquire o que os teóricos da confiança descrevem como confiança baseada em boa vontade: uma forma de confiança relacional que persiste diante de falhas momentâneas (Lewicki et al., 2006). O trabalho fundamental de Russell Belk sobre posses e self estendido estabeleceu que objetos e ferramentas nos quais uma pessoa investe energia cognitiva e emocional passam a ser incorporados à sua percepção de si e de sua capacidade (Belk, 1988), e seu trabalho posterior sobre o self estendido digital constatou que a mesma lógica se aplica a ferramentas digitais e sistemas de AI, com dimensões adicionais específicas da intimidade mediada por dados (Belk, 2013). Os sistemas de AI criam as condições para a incorporação ao self estendido desde os primeiros estágios de uso significativo. A questão para o design de produto é se o sistema foi projetado para respeitar a relação que está gerando.

A complexidade do apego em contextos humano-AI merece ser reconhecida. Pesquisas empíricas sobre apego afetivo em contextos com agentes humano-AI encontraram indicadores de apego tanto em condições colaborativas ativas quanto passivas: o apego se forma em diferentes condições de uso. O que diferenciou as condições foi a riqueza qualitativa: em contextos colaborativos ativos, os usuários usaram espontaneamente a primeira pessoa do plural e descreveram resultados compartilhados, enquanto nas condições passivas predominou a percepção do agente de AI como “individual e independente” (García Corretjer et al., 2022). O apego não é uma consequência automática da exposição prolongada. Ele se aprofunda especificamente por meio da colaboração ativa, uma constatação estabelecida desde as primeiras pesquisas sobre relações de longo prazo entre humanos e computadores, nas quais o comportamento relacional, e não a duração, previa se as pessoas continuariam querendo interagir com o agente artificial. Organizações cujos produtos de AI são projetados sobre um modelo passivo estão gerando um apego superficial, que não resistirá a uma falha significativa.

A pesquisa clínica sobre a aliança de trabalho oferece a base empírica mais rigorosa para a relação entre qualidade do apego e resiliência dos resultados. Bordin estabeleceu que a aliança terapêutica consiste em concordância sobre objetivos, concordância sobre tarefas e qualidade do vínculo relacional (Bordin, 1979). As meta-análises de Wampold e Imel constataram que o componente de vínculo explica uma parcela da variância dos resultados significativamente além do que técnicas específicas conseguem prever (Wampold & Imel, 2015). O mesmo padrão se aplica a uma máquina: em um estudo de um mês com 101 participantes, um agente relacional diferiu de um agente equivalente orientado a tarefas apenas na dimensão do vínculo, e essa diferença se manteve após quatro semanas (Bickmore & Picard, 2005). Quando a incorporação ao self estendido ocorre sem um design que respeite a relação, as consequências de uma falha do sistema excedem o que as organizações normalmente antecipam. Em escala, a ruptura do self estendido, causada por grandes falhas de AI, violações de privacidade ou descontinuação de serviço, transforma falhas de produto em eventos de marca e violações de confiança em churn que resiste às intervenções convencionais de retenção (Belk, 2013).

Um framework para a realização da empatia: evidências empíricas para o design ativo de AI

As organizações de AI enfrentam uma questão de design específica e comercialmente urgente: dado o que a psicologia motivacional e a teoria do apego nos dizem sobre por que a confiança se forma e se deteriora, como é, na prática, uma arquitetura de interação que constrói essas condições? Pesquisas originais sobre relações de longo prazo entre humanos e tecnologia oferecem uma resposta precisa e empiricamente testada. O Processo de Realização da Empatia (RE) é um framework estruturado para projetar interações que geram as condições nas quais confiança, apego afetivo e compreensão mútua genuína se desenvolvem ao longo do tempo (García Corretjer, 2022).

A aplicabilidade desse framework ao design de produtos de AI se baseia em uma equivalência direta. O estudo empírico que testou o modelo RE utilizou um agente de AI como contraparte interativa, um sistema capaz de troca em linguagem natural, resposta adaptativa, expressão afetiva e negociação colaborativa. Agentes sociais de AI desse tipo e os sistemas de AI conversacional, apoio à decisão e recomendação que estão no centro dos investimentos comerciais atuais compartilham a mesma arquitetura computacional subjacente, os mesmos requisitos de compreensão de linguagem natural e as mesmas dinâmicas relacionais. Os mecanismos psicológicos em análise operam no nível da cognição humana, e não no nível da forma da interface pela qual a AI se apresenta. As evidências são diretamente transferíveis.

O framework RE identifica três condições estáveis que precisam estar consistentemente presentes: um ambiente de interação adequado ao contexto e à pessoa, uma linguagem comum ou plataforma de comunicação por meio da qual uma troca genuína possa ocorrer e uma postura aberta que preserve aquilo que o usuário traz sem predeterminar o resultado. Dentro dessas condições estáveis, o processo RE percorre quatro etapas, repetindo-se à medida que a relação se desenvolve.

O processo de realização da empatia: quatro etapas aplicadas ao design de interações com AI

REGULAR EXPECTATIVAS

Cada participante entra na interação tendo refletido sobre aquilo com que está prestes a interagir, permitindo que suas suposições iniciais permaneçam flexíveis. Para sistemas de AI: apresentação transparente das capacidades, onboarding honesto e sinal claro de que os resultados do sistema são um ponto de partida para o julgamento do usuário, e não uma conclusão que o encerra. Quando isso está ausente, os usuários chegam com expectativas não gerenciadas que a primeira falha confirma, gerando imediatamente uma dívida de confiança que raramente é recuperada.

OUVIR

Coleta ativa e ampla da expressão do outro, sem julgamento ou resposta antecipada. Para sistemas de AI: arquiteturas de interação que demonstrem responsividade genuína às contribuições desse usuário específico, em vez de fazer correspondência com uma média estatística. Quando isso está ausente: a percepção mais comumente descrita por usuários que se afastam é que o sistema “não responde a mim”, o precursor do afastamento progressivo.

CONSIDERAR

Um processo interno de reflexão por meio do qual a informação recebida é processada em relação à própria compreensão do participante antes que uma resposta seja formada. Para sistemas de AI: ritmos de interação que deixem espaço para o processo deliberativo do usuário, com cadência e contenção que sinalizem que o raciocínio do usuário deve participar, e não apenas receber. Quando isso está ausente: a fonte estrutural da autonomia diminui; o sistema ocupa o espaço onde antes existia reflexão.

AGIR

A expressão externa daquilo que o processo de consideração produziu. Para sistemas de AI: resultados calibrados ao contexto desse usuário específico, com reconhecimento adequado da incerteza. Quando isso está ausente: os resultados chegam sem contexto relacional, parecendo tecnicamente precisos, mas vazios em termos de experiência, o mecanismo por trás de platôs de adoção que resistem às intervenções convencionais de produto.

O estudo controlado que testou esse framework comparou duas condições de interação com agentes de AI: uma estratégia colaborativa ativa, na qual humano e agente de AI negociavam decisões por meio de diálogo e troca reflexiva, e uma estratégia passiva, na qual cada um agia em turnos alternados sem deliberação conjunta. Os participantes da condição ativa apresentaram níveis significativamente mais altos de regulação de expectativas, e a proximidade percebida com o agente de AI atingiu uma média de 5,11, em comparação com 3,83 na condição passiva (p = 0,0045). No registro qualitativo, os participantes da condição ativa descreveram uma autoria compartilhada dos resultados, enquanto os participantes da condição passiva descreveram a AI como “individual e independente”, padrão de linguagem que precede o afastamento nos dados de produtos comerciais de AI (García Corretjer et al., 2022).

A implicação organizacional é arquitetural. Sistemas de AI projetados para colaboração ativa produzem maior proximidade com o usuário, indicadores de confiança mais fortes e melhor regulação de expectativas do que sistemas projetados para entrega passiva. Esses números se relacionam diretamente com a profundidade do engajamento, a qualidade da interação e a retenção de longo prazo que determinam se o investimento em produtos de AI gera retorno cumulativo. Organizações cujos sistemas são construídos sobre um modelo passivo estão gerando sistematicamente as condições para a curva de abandono documentada no início deste artigo.

O ciclo de vida comportamental: do engajamento ao afastamento

O engajamento inicial é caracterizado pela exploração ativa: amplo escopo de tarefas, alto investimento de contexto pessoal e disposição para testar o sistema em áreas que importam. Nessa etapa, os usuários estendem a confiança de forma provisória, reunindo evidências sobre a confiabilidade, a consistência e a responsividade genuína do sistema. É nesse período inicial que a regulação de expectativas está mais ativa: os usuários realizam testes orientados pela curiosidade, calibrando progressivamente aquilo que podem esperar de forma razoável. Quando a regulação de expectativas é apoiada por transparência adequada, a confiança começa a se acumular. Quando o sistema encerra esse processo por meio de resultados excessivamente confiantes ou comportamento opaco, as expectativas se cristalizam prematuramente, produzindo uma fragilidade que a primeira falha significativa irá expor.

A aversão a algoritmos, a tendência documentada de usuários perderem a confiança em sistemas de AI após observar uma falha, mesmo quando esses sistemas continuam mais precisos do que o julgamento humano, foi replicada de forma suficientemente consistente para ser tratada como uma restrição de design (Dietvorst et al., 2015). Os usuários avaliam sistemas de AI não principalmente pela precisão agregada, mas pela qualidade da troca relacional. Quando o apego se formou por meio de colaboração ativa genuína, essa reavaliação é mais tolerante. Quando se desenvolveu apenas um uso instrumental, ela é decisiva.

A explicação de Kahneman sobre o processamento dual oferece o enquadramento cognitivo: os processos do Sistema 1 se adaptam rapidamente à assistência da AI e podem se tornar dependentes de maneiras que precedem qualquer decisão consciente de confiar no sistema (Kahneman, 2011). A experiência de uma carga cognitiva reduzida parece eficiência. O efeito de longo prazo sobre a capacidade deliberativa permanece invisível até que a ausência do sistema seja percebida como uma perda da própria capacidade, exatamente a ruptura do self estendido cujo custo comercial foi descrito na seção anterior.

Agência como variável de design: a condição que torna o cuidado genuíno

A posição que uma pessoa ocupa dentro de um sistema de AI, seja como tomador de decisão, colaborador, aprovador ou receptor passivo, é uma determinação de design produzida pelo efeito cumulativo de padrões predefinidos, linguagem da interface, enquadramento das respostas e presença ou ausência de mecanismos pelos quais a pessoa pode exercer uma substituição significativa. Os frameworks atuais de governança começaram a formalizar isso: os níveis de controle humano sobre sistemas de AI são agora considerados uma dimensão projetável e auditável da implementação de AI (Knight First Amendment Institute, 2025).

A confiança baseada em cuidado cria as condições nas quais a confiança pode persistir. Mas, por si só, ela não torna a confiança sustentável, e essa é a distinção crítica que este artigo introduz ao longo do compêndio. O cuidado que preserva a agência humana produz uma confiança relacional que se fortalece ao longo do tempo. O cuidado que simula uma orientação genuína aos interesses do usuário enquanto sistematicamente impede sua contribuição participativa produz um padrão específico e comercialmente perigoso: o vale da estranheza comportamental no design de relações com AI.

O conceito de vale da estranheza, originalmente introduzido para descrever o desconforto produzido por robôs quase humanos que se aproximam, mas não alcançam, a semelhança humana (Mori, 1970/2012), foi ampliado para a percepção de mente e agência em sistemas artificiais (Gray & Wegner, 2012). Na AI comportamental e relacional, o mesmo mecanismo estrutural opera: um sistema próximo o suficiente de uma relação genuína para gerar apego, mas sem a agência humana recíproca que torna a relação real. Os usuários investem emocionalmente em algo que não existe da forma como o experimentam. Quando essa lacuna se torna evidente, por meio de uma falha do sistema, de uma mudança comportamental ou da crescente percepção do usuário, a resposta é a desorientação específica de descobrir que algo genuinamente incorporado era vazio. Isso não é uma violação leve da confiança. Produz a desconfiança estrutural e irreversível que precede a forma comercialmente mais prejudicial de abandono de AI: aquela que gera defesa negativa em vez de churn silencioso.

A resposta de design é tratar cuidado e agência como requisitos inseparáveis, e não como valores concorrentes ou, pior, como valores a serem trocados entre si em busca da otimização do engajamento. O cuidado cria as condições nas quais a confiança pode persistir; a agência humana na interação, o espaço preservado para o próprio julgamento, a deliberação e a contribuição participativa do usuário, é o que torna essa confiança sustentável ao longo do tempo. Isso não é uma restrição ética ao design de produto. É a condição para a única forma de lealdade ao produto que é comercialmente duradoura (Buijsman et al., 2025; Calvo et al., 2020). O framework HCAI, de Shneiderman, torna explícita a afirmação estrutural: toda interface, todo padrão predefinido, todo momento de intervenção ou contenção do sistema é uma decisão sobre onde reside a agência (Shneiderman, 2022). Organizações que não tomam essa decisão explicitamente a tomaram implicitamente, e as consequências aparecem nos dados do produto como os padrões comportamentais descritos ao longo deste artigo.

Design como linguagem performativa

Entender por que essas decisões de arquitetura de interação têm um peso comercial desproporcional exige um enquadramento que vá além da usabilidade. A teoria dos atos de fala estabelece a premissa necessária: a linguagem não apenas descreve estados de coisas; ela realiza ações dentro deles (Austin, 1962; Searle, 1969). Cada elemento de uma interface projetada é um ato comunicativo com consequências comportamentais que vão além de seu conteúdo superficial. Uma caixa de diálogo de confirmação não apenas informa; ela atribui responsabilidade. Uma recomendação formulada como conclusão não apenas sugere; ela constitui autoridade. Um fluxo de onboarding não apenas orienta; ele estabelece as normas pelas quais todas as interações subsequentes serão interpretadas, inclusive se o usuário se percebe como participante ativo ou receptor passivo.

Essas mensagens são transmitidas por todo o registro multimodal do sistema: linguagem visual, ritmo e extensão das respostas, vocabulário, tolerância à ambiguidade do usuário e tratamento das próprias limitações do sistema (Kress, 2010). Quando o design não governa esses canais de forma intencional, eles passam a seguir o que a engenharia e a otimização de produto produzirem. A consequência comportamental é o padrão de perda de confiança descrito neste artigo: usuários que começam a verificar em vez de confiar, restringindo em vez de aprofundar, um padrão invisível nos dados de sessão, mas decisivo nas curvas de retenção de 12 meses e na qualidade dos dados de interação disponíveis para o aprimoramento do modelo.

Paul Dourish amplia isso para o registro incorporado: o significado em sistemas projetados é constituído por meio do engajamento físico e procedural, e não apenas da representação simbólica (Dourish, 2001). À medida que a AI ultrapassa interfaces baseadas em tela e chega a ambientes de voz, ambientes contextuais e espaços físicos, multiplicam-se os canais pelos quais a agência é comunicada, e aumenta a necessidade organizacional de governá-los intencionalmente.

A resposta do design: construindo as condições que sustentam

As intervenções que reduzem o risco de abandono são estruturais antes de serem cosméticas e começam com o compromisso organizacional de tratar a qualidade da relação como uma métrica de produto ao lado das métricas técnicas, medindo tanto cuidado quanto agência como dimensões dessa qualidade, e não uma em detrimento da outra.

Para o design de produto, a Teoria da Autodeterminação e o framework RE, juntos, se traduzem em restrições operacionais. A autonomia exige projetar sistemas que preservem estruturalmente o espaço deliberativo do usuário: comunicação explícita da incerteza, caminhos pelos quais os usuários possam questionar e substituir resultados e ritmos de interação que deixem espaço para que o próprio raciocínio da pessoa participe, em vez de apenas receber. A competência exige projetar para o desenvolvimento de domínio genuíno ao longo do tempo, com sistemas suficientemente legíveis para permitir aprendizado e que expliquem seu raciocínio de maneiras que os usuários possam avaliar. O pertencimento e o apego exigem projetar uma responsividade que pareça específica para essa pessoa: arquiteturas de interação que se adaptem às preferências demonstradas e reconheçam que aquilo que o usuário traz realmente molda o que ele recebe.

A regulação de expectativas exige atenção específica de design porque é o mecanismo pelo qual a confiança provisória se converte em confiança duradoura. Oferecer a transparência e a consistência que permitem que a calibração avance, o espaço para testes orientados pela curiosidade e o reconhecimento honesto quando as expectativas não foram atendidas são decisões de design de interação das quais depende a arquitetura motivacional do engajamento de longo prazo. Organizações que criam instrumentos para detectar quando a calibração de expectativas está falhando intervêm enquanto a recuperação ainda é possível. As que não o fazem encontram as consequências nos dados de churn.

O argumento da sustentabilidade é a camada final e comercialmente mais significativa deste artigo. Organizações que projetam simultaneamente para cuidado e agência estão construindo tanto uma versão mais ética do produto quanto uma relação comercial fundamentalmente diferente: uma na qual os usuários percebem valor genuíno por meio de sua própria participação ativa, em vez de receber valor apesar de sua passividade. Pesquisas sobre lealdade genuína versus lealdade coagida do cliente documentam as consequências financeiras dessa diferença. A lealdade construída sobre valor real aparece no Net Promoter Score e na retenção de longo prazo e se recupera após uma falha. A lealdade mantida por fricção de saída se comporta da mesma forma até o momento em que surge uma alternativa viável e, então, não retorna (Reichheld, 2003; Edelman, 2024).

Negócios sustentáveis de produtos de AI serão definidos por essa compreensão; a recomendação é agir enquanto as coisas ainda estão sendo projetadas.

Referências

• Austin, J. L. (1962). How to Do Things with Words. Oxford University Press.
• Belk, R. W. (1988). Possessions and the extended self. Journal of Consumer Research, 15(2), 139–168.
• Belk, R. W. (2013). Extended self in a digital world. Journal of Consumer Research, 40(3), 477–500.
• Bickmore, T., & Picard, R. W. (2005). Establishing and maintaining long-term human-computer relationships. ACM Transactions on Computer-Human Interaction, 12(2), 293–327.
• Bordin, E. S. (1979). The generalizability of the psychoanalytic concept of the working alliance. Psychotherapy: Theory, Research and Practice, 16(3), 252–260.
• Bowlby, J. (1982). Attachment and Loss, Vol. 1: Attachment (2nd ed.). Basic Books.
• Buijsman, S., Carter, S. E., & Bermúdez, J.-P. (2025). Autonomy by design: Preserving human autonomy in AI decision-support. Philosophy & Technology, 38, 97. https://doi.org/10.1007/s13347-025-00932-2
• Calvo, R. A., Peters, D., Vold, K., & Ryan, R. M. (2020). Supporting human autonomy in AI systems. In C. Burr & L. Floridi (Eds.), Ethics of digital well-being. Springer.
• Deci, E. L., & Ryan, R. M. (2000). The “what” and “why” of goal pursuits. Psychological Inquiry, 11(4), 227–268.
• Dietvorst, B. J., Simmons, J. P., & Massey, C. (2015). Algorithm aversion: People erroneously avoid algorithms after seeing them err. Journal of Experimental Psychology: General, 144(1), 114–126.
• Dourish, P. (2001). Where the Action Is: The Foundations of Embodied Interaction. MIT Press.
• Edelman. (2024). Edelman Trust Barometer. Edelman.
• García Corretjer, M. A. (2022). On the relationship between people, objects, & interactive technologies [Doctoral dissertation]. La Salle, Ramon Llull University.
• García Corretjer, M. A., Ros, R., Mallol, R., & Miralles, D. (2022). Empathy as an engaging strategy in social robotics: A pilot study. User Modeling and User-Adapted Interaction, 33(2), 221–259. https://doi.org/10.1007/s11257-022-09322-1
• Gray, K., & Wegner, D. M. (2012). Feeling robots and human zombies: Mind perception and the uncanny valley. Cognition, 125(1), 125–130.
• Hsueh, S., Ciolfi Felice, M., Fdili Alaoui, S., & Mackay, W. E. (2024). What counts as “creative” work? Articulating four epistemic positions in creativity-oriented HCI research. Proceedings of CHI 2024. https://doi.org/10.1145/3613904.3642854
• Kahneman, D. (2011). Thinking, Fast and Slow. Farrar, Straus and Giroux.
• Knight First Amendment Institute. (2025). Levels of autonomy for AI agents (K. Feng, D. W. McDonald, & A. X. Zhang, Essay 25-15).
• Kress, G. (2010). Multimodality: A Social Semiotic Approach to Contemporary Communication. Routledge.
• Lazar, A., Koehler, C., Tanenbaum, J., & Nguyen, D. H. (2015). Why we use and abandon smart devices. Proceedings of UbiComp 2015, 635–646.
• Lewicki, R. J., Tomlinson, E. C., & Gillespie, N. (2006). Models of interpersonal trust development. Journal of Management, 32(6), 991–1022.
• Litman, J. A. (2008). Interest and deprivation factors of epistemic curiosity. Personality and Individual Differences, 44(7), 1585–1595.
• Mehrotra, S., Degachi, C., Vereschak, O., Jonker, C. M., & Tielman, M. L. (2024). A Systematic Review on Fostering Appropriate Trust in Human-AI Interaction. ACM J. Responsib. Comput., 1(4), Article 26.
• Mori, M. (1970/2012). The uncanny valley (K. F. MacDorman & N. Kageki, Trans.). IEEE Robotics & Automation Magazine, 19(2), 98–100.
• Picard, R. W. (1997). Affective Computing. MIT Press.
• Reichheld, F. F. (2003). The one number you need to grow. Harvard Business Review, 81(12), 46–54.
• Ryan, R. M., & Deci, E. L. (2017). Self-Determination Theory. Guilford Press.
• Searle, J. R. (1969). Speech Acts. Cambridge University Press.
• Shih, P. C., Han, K., Poole, E. S., Rosson, M. B., & Carroll, J. M. (2015). Use and adoption challenges of wearable activity trackers. iConference 2015 Proceedings.
• Shneiderman, B. (2022). Human-Centered AI. Oxford University Press.
• Wampold, B. E., & Imel, Z. E. (2015). The Great Psychotherapy Debate (2nd ed.). Routledge.