AI First.
Do insight à ação.
Conecte estratégia, tecnologia e pessoas para transformar a experiência do seu cliente.
Vamos conversarDesign, AI e a reinvenção de modelos de negócios
Resumo: Modelos de negócios impulsionados por AI que otimizam o engajamento sem projetar valor humano significativo produzem produtos inferiores. Além disso, eles transferem o risco para usuários, reguladores e sociedade. Ao mesmo tempo, acumulam dívidas de confiança que só aparecem quando já são caras de resolver. Este artigo argumenta que a confiança funciona como um ativo operacional em sistemas habilitados por AI. Ela se acumula ou se corrói a cada ato comunicativo.
O texto também separa dois elementos. A confiança baseada no cuidado cria as condições para que a confiança persista. Já a autonomia humana é o que a torna sustentável. Alguns sistemas de AI simulam cuidado e espelhamento, mas removem o espaço para a participação humana genuína. Nesse caso, produzem um padrão análogo ao vale da estranheza. Ou seja, ficam próximos o bastante de um relacionamento genuíno para atrair apego, mas são vazios em sua essência. Portanto, as organizações que manterão posições duradouras nesse mercado serão as que projetam cuidado e autonomia confiáveis ao mesmo tempo. Essa é a base de uma lealdade que cresce.
Quando a adoção não se sustenta
Após três anos de ampla implantação comercial de AI, o padrão já é legível nos dados.
Muitas organizações lideraram com capacidade técnica e supuseram que a confiança viria em seguida. Hoje, elas enfrentam um fenômeno específico e caro: usuários que adotam a tecnologia e depois se afastam. Os dados e o conhecimento são sólidos. A construção dos modelos LLM e da arquitetura de AI também é. Então, por que a confiança não veio? E por que surgem casos de uso que não refletem o uso correto das ferramentas? Em termos de desempenho, o sistema faz o que foi projetado para fazer. No entanto, é preciso analisar se o design comportamental, relacional e instrucional chegou junto com as funções ou só depois. Se chegou depois, o diálogo em curso provavelmente não nasce de um modelo elaborado de relacionamento humano-AI.
Pesquisas sobre o abandono de tecnologias de consumo conectadas mostram a forma desse padrão. Por exemplo, 65% dos usuários de rastreadores de atividade pararam de usá-los em duas semanas (Shih et al., 2015). Em outro estudo, participantes abandonaram em dois meses quase 80% dos dispositivos inteligentes que eles mesmos escolheram (Lazar et al., 2015). A causa não foram falhas técnicas. Em vez disso, faltava uma arquitetura relacional capaz de sustentar o engajamento genuíno ao longo do tempo. Esses não eram produtos de AI, mas o mecanismo é o mesmo. Afinal, a arquitetura de um engajamento consistente é responsabilidade do design. Quando ela está ausente, nenhum investimento técnico recupera o custo da reconstrução.
O retorno de uma arquitetura bem construída
As evidências financeiras sobre o que essa arquitetura produz, quando bem construída, são igualmente claras. Empresas no quartil superior de maturidade em design superaram o setor em 32 pontos percentuais em crescimento de receita. Além disso, superaram em 56 pontos percentuais o retorno total aos acionistas, em cinco anos de medição (McKinsey & Company, 2018). Esses não são retornos sobre estética. Na verdade, são retornos sobre infraestrutura de confiança, ou seja, sobre o compromisso de projetar relacionamentos e jornadas, e não apenas produtos. Este artigo mostra o que essa infraestrutura exige. Também mostra por que dois fatores decidem se esses retornos crescem: a confiança baseada no cuidado e a agência humana genuína.
O que a confiança exige e por que o design a governa
A arquitetura da maioria dos produtos comerciais de AI se apoia em um tipo específico de promessa. Segundo ela, o sistema entende os usuários, responde a eles e oferece algo próximo da inteligência genuína. Comercialmente, importa menos se isso é tecnicamente preciso. O que importa é se essa promessa é vivida como verdadeira em cada momento da interação. Em sua maioria, os modelos de negócios impulsionados por AI vendem a experiência da inteligência, isto é, uma crença e uma percepção esperadas. Assim, o design é o mecanismo que constrói ou corrói essa experiência em cada elemento com que o usuário tem contato.
O anatomista e o clínico
O anatomista e o clínico ajudam a esclarecer o papel do design nos sistemas de AI. O anatomista conhece o sistema: seus mecanismos, sua arquitetura e sua lógica operacional, com precisão e rigor. Já o clínico conhece o paciente, uma pessoa específica em um momento específico de necessidade. A resposta dessa pessoa a qualquer intervenção depende do contexto, do histórico e da qualidade da relação de cuidado. Ambos são necessários. A engenharia de AI produz a precisão do anatomista, enquanto o design produz a relação do clínico. Porém, só a relação determina se a pessoa sai do encontro confiando mais no sistema do que quando chegou.
Todo elemento comunica
Em produtos habilitados por AI, todo elemento comunicativo é território do clínico. Isso inclui a linguagem da interface, a formulação das respostas e a tolerância à incerteza do usuário. Inclui também a forma como o sistema revela suas limitações. Quando esse território fica entregue aos padrões de engenharia, a anatomia pode ser impecável e, mesmo assim, a relação se deteriora.
A explicação de Gunther Kress sobre comunicação multimodal mostra o mecanismo estrutural: o significado nunca é construído por um único canal (Kress, 2010). Uma AI conversacional se comunica por meio de suas palavras. Mas também comunica pela latência, pelo ritmo das respostas e pela escolha do vocabulário. Da mesma forma, comunicam a disposição de reconhecer a incerteza e o enquadramento visual das saídas. Cada canal molda o comportamento do usuário, independentemente do conteúdo das palavras.
O design governa todos esses canais, tenha a organização atribuído essa responsabilidade de forma intencional ou não. Quando o design é tratado como uma camada final, os canais se tornam incoerentes. Para o usuário, essa incoerência aparece como falha do sistema, quase nunca como falha de design. Ainda assim, é correto atribuí-la ao design, porque uma decisão de design, ou a falta dela, produziu o problema. Afinal, o design é uma linguagem que comunica. Sem ela, ou sem seu uso adequado, surge essa situação desconfortável.
O contrato psicológico, o cuidado e o requisito da autonomia
Ao iniciar um relacionamento com um sistema habilitado por AI, o usuário traz um conjunto de expectativas implícitas. Ele espera que o sistema execute o que parece capaz de fazer e que se comporte com consistência razoável. Espera também que os erros sejam proporcionais e recuperáveis. Por fim, espera que seu tempo, seus dados e seu julgamento sejam tratados com algo parecido com respeito. Essas expectativas formam um contrato psicológico. Ele não é declarado nem assinado, e sua violação gera reações que as métricas padrão de engajamento não conseguem enxergar.
A confiança em sistemas de AI tem dois componentes distintos (Jacovi et al., 2021). O primeiro é a confiança baseada em competência, ou seja, a crença de que o sistema cumpre sua função declarada. O segundo é a confiança baseada no cuidado: a crença de que o sistema serve aos interesses do usuário, e não aos próprios objetivos operacionais. Em geral, os produtos comerciais de AI investem em demonstrar o primeiro e, ao mesmo tempo, enfraquecem o segundo. Um sistema que cumpre sua função, mas otimiza métricas de engajamento às custas do usuário, não é confiável nesse aspecto. E isso vale independentemente de sua precisão técnica.
Cuidado sem agência: o vale da estranheza relacional
A confiança construída com base no cuidado cria as condições para que ela se mantenha ao longo do tempo. Mas, sozinha, ela não torna a confiança sustentável. Considere um modelo de AI bem construído, com os dados e o conhecimento corretos por trás. Nesse cenário, a distinção entre cuidado e intervenção da agência humana tem peso comercial. No contexto da AI, cuidado não é entregar bons resultados a um receptor passivo. Trata-se da orientação genuína do sistema para os interesses de uma pessoa específica. Essa orientação se expressa em uma arquitetura que preserva e convida o julgamento, a agência e a participação dessa pessoa.
Às vezes, sistemas de AI simulam cuidado enquanto bloqueiam a agência humana. Eles parecem servir ao usuário, mas ocupam o espaço onde o raciocínio dele deveria operar. Pesquisadores de percepção mental e AI social descrevem esse efeito como o equivalente relacional do vale da estranheza (Mori, 1970/2012; Gray & Wegner, 2012). O sistema fica próximo o bastante de um relacionamento genuíno para atrair apego. No entanto, falta a agência recíproca que torna o relacionamento real.
Assim, os usuários investem emocionalmente em algo que não existe da forma como o vivenciam. A lacuna pode aparecer por falhas, mudanças de comportamento ou maior consciência. Quando isso acontece, a desconfiança é desproporcional ao gatilho imediato, porque é estrutural. Afinal, o que se descobre não é um mau funcionamento, e sim uma confiança vazia. Por isso, a decepção e a desconfiança atingem o próprio relacionamento.
A agência humana como condição do cuidado
Por essa razão, a agência humana não é uma restrição ética ao design de AI baseado no cuidado. Pelo contrário, ela é a condição que torna genuíno o cuidado entre humanos e AI. Preservar o espaço do usuário para julgar, deliberar e participar não entra em conflito com a construção de confiança. Na verdade, é o mecanismo que torna a confiança sustentável, e não apenas funcional (Buijsman et al., 2025; Calvo et al., 2020).
Por que a confiança se perde mais rápido do que se ganha
A assimetria entre formação e erosão da confiança agrava esses riscos. A confiança se constrói aos poucos, mas se deteriora de forma exponencial. Sistemas que simulam cuidado sem possibilitar a agência humana são frágeis de maneiras invisíveis, até o colapso. Uma revisão sistemática sobre calibração da confiança na interação humano-AI chegou a uma conclusão clara. Depois que uma falha de confiança acontece, a recuperação é difícil e cara (Mehrotra et al., 2024). Portanto, o contrato psicológico deve ser construído de forma deliberada, por meio do design. Além disso, deve contemplar duas dimensões: servir aos interesses do usuário e depender genuinamente da participação dele.
Externalização de risco como projeto estrutural
Um padrão específico na implantação atual da AI merece atenção direta da liderança. Muitas organizações implantam AI em contextos em que as falhas recaem sobretudo sobre os usuários, e não sobre os fornecedores. Na prática, a falta de uma estratégia de design é externalização de risco, seja ela reconhecida ou não.
Imagine um sistema de diagnóstico habilitado por AI que faz uma recomendação imprecisa. Se o usuário age com base nela, é ele quem sofre a consequência. O mesmo ocorre com um sistema de orientação financeira treinado com dados enviesados. Pesquisas sobre viés algorítmico na gestão de saúde mostram que esse risco costuma estar embutido na arquitetura (Obermeyer et al., 2019). Ou seja, depende de como os sistemas são projetados e para quem, e não é um efeito acidental. A distribuição da responsabilidade é, portanto, uma questão de design. Quem recebe cada informação, com qual enquadramento e com que capacidade de contestar o sistema? Essas decisões pertencem ao design. Quando são tomadas por padrão, e não por intenção, geram uma exposição real, mesmo que ninguém aponte o design como origem.
Padrões escuros e seus efeitos
A externalização de risco também é uma falha, mesmo quando pretende impulsionar resultados de negócio. Sistemas que transferem risco para os usuários não estão, por definição, orientados aos interesses deles. Em vez disso, estão orientados à conveniência operacional do fornecedor. Esse efeito foi bem documentado desde as técnicas de persuasão descritas por Fogg e outras abordagens de design comportamental. Desde então, as evidências se acumularam e hoje motivam esforços legislativos.
Mais recentemente, um experimento pré-registrado com 1.963 participantes testou técnicas de interface comuns no mercado. Entre elas, estavam um botão de aceitação pré-selecionado, um rótulo de “recomendado” e uma segunda tela de recusa. Juntas, essas técnicas elevaram a aceitação de um serviço pago indesejado de 11,3% para 25,8%. Táticas mais agressivas levaram a aceitação a 41,9%, mas geraram raiva mensurável e perda de confiança na empresa. Por outro lado, a versão mais branda não provocou reação comparável. Sem essas técnicas, a escolaridade não indicava quem aceitaria. Já na condição moderada, participantes com menos instrução se tornaram bem mais propensos a aceitar (Luguri & Strahilevitz, 2021).
A pressão regulatória
A trajetória regulatória reforça essa urgência comercial. Estruturas de governança para a AI avançam em várias jurisdições, sempre na mesma direção: mais responsabilidade das organizações pelo comportamento dos sistemas. Assim, quem não deu ao design autoridade sobre a distribuição de riscos acumula exposição regulatória e dívida fiduciária. E os usuários que arcam com as falhas se tornam a principal fonte de ambas.
Confiança como infraestrutura estratégica
O argumento de negócio para tratar a confiança como infraestrutura, e não como efeito superficial, é bem documentado. O Índice de Design da McKinsey mostrou que as empresas no quartil superior em design superaram seus pares do setor em cinco anos. Elas entregaram 32 pontos percentuais a mais em crescimento de receita e 56 pontos a mais em retorno aos acionistas. O fator mais correlacionado foi o investimento contínuo em pesquisa com usuários e na qualidade da experiência (McKinsey & Company, 2018).
Da mesma forma, um estudo de impacto econômico da Forrester Consulting sobre design empresarial apontou ROI de 301% em três anos. O benefício veio sobretudo da redução de retrabalho e da entrega mais rápida. O tempo de design e alinhamento caiu 75%, e o de desenvolvimento e testes, 33%. Além disso, os defeitos de projeto foram reduzidos pela metade (Forrester Consulting, 2018).
A confiança como ativo cumulativo
Mesmo assim, a confiança é o ativo cumulativo que as organizações focadas em AI mais deixam de tratar como ativo. As empresas do quartil superior desses estudos não estão lá porque seus produtos são mais bonitos. Na verdade, estão lá porque seus produtos conquistam e mantêm uma confiança genuína, baseada no cuidado e fortalecida pela ação humana. Em escala, essa confiança cria uma relação comercial diferente da que nasce apenas da otimização do engajamento.
Retornos crescentes nos produtos de assinatura
Em produtos de assinatura habilitados por AI, uma infraestrutura de confiança bem construída nos primeiros meses gera retornos crescentes. Usuários que confiam no sistema se envolvem mais com ele. Eles também fornecem dados de interação de maior qualidade e toleram melhor os erros. Por outro lado, quem não confia se afasta aos poucos. Com isso, prejudica a receita direta e a qualidade dos dados de que as próximas melhorias do modelo dependem. Essas dinâmicas têm peso financeiro e aparecem nos dados operacionais muito antes de a organização identificar sua origem.
AI por assinatura e a diferença entre valor e dependência
A estrutura dos produtos de AI por assinatura cria um risco estratégico específico, que exige atenção explícita. Nesse modelo, o sucesso comercial depende do engajamento contínuo. No entanto, os mecanismos que sustentam esse engajamento não são equivalentes do ponto de vista da confiança. Essa diferença define a qualidade comercial e a sustentabilidade do relacionamento no longo prazo.
Valor genuíno versus dependência
O engajamento movido por valor genuíno nasce da avaliação do próprio usuário de que o sistema o torna mais capaz, informado ou eficaz. Esse tipo de engajamento gera lealdade fundamentada na relação. O usuário sente que o sistema o entende e trabalha de acordo com suas necessidades. Além disso, pode colaborar ativamente e intervir de forma autônoma.
Já o engajamento mantido por mecânicas de dependência funciona de outro modo. Ele usa atrito para desencorajar a saída, notificações que exploram a aversão à perda e recomendações que restringem a capacidade do usuário. Como resultado, produz números de retenção que escondem o desengajamento real. A Teoria da Autodeterminação explica a diferença (Deci & Ryan, 2000). A motivação mantida por pressão externa é frágil. Por sua vez, a motivação gerada por competência, autonomia e vínculo genuínos cresce com o tempo. Essa diferença é invisível nos dados de adoção de curto prazo, mas decisiva aos 12 e 24 meses.
Interação ativa e passiva
Essa distinção se relaciona com a diferença entre arquiteturas de interação ativa e passiva. Alguns sistemas são projetados para estimular o julgamento do usuário. Eles convidam à interpretação, expõem a incerteza e preservam espaço para o raciocínio dele. Dessa forma, geram o engajamento que produz confiança baseada no cuidado e apego genuíno. Outros sistemas buscam máxima fluência nas respostas, com mínima participação do usuário. Esses produzem um engajamento dependente, que retém no curto prazo, mas não resiste a falhas graves ou a boas alternativas (García Corretjer et al., 2022). Por isso, confundir os dois tipos de retenção é arriscado. O primeiro ganha valor à medida que a relação se aprofunda. O segundo, ao contrário, reduz a confiança justamente nos momentos mais importantes para a receita de longo prazo.
As evidências sobre lealdade genuína também separam essas duas formas de retenção em termos financeiros. Usuários que percebem valor por meio da própria autonomia se tornam defensores da experiência. Em contrapartida, quem permanece por dependência tende a sair na primeira oportunidade e, muitas vezes, amplifica sua insatisfação (Reichheld, 2003; Edelman, 2024). Em um mercado em que a AI enfrenta crescente escrutínio regulatório e público, otimizar para a dependência, e não para o valor genuíno, é negligência na gestão de riscos.
Intenção de design como diferenciador
Na próxima década, as organizações com posições defensáveis em serviços habilitados por AI serão as que tratarem o design como mecanismo central. É por meio dele que o relacionamento com os usuários é construído, mantido e evidenciado ao longo do tempo. Essas organizações também entendem o requisito específico da confiança baseada no cuidado. A autonomia humana não é uma restrição ética a esse trabalho; é sua condição essencial.
A dívida de confiança
Uma vez estabelecida, a confiança é o único ativo que se multiplica sem novo aporte de capital. Por outro lado, não pode ser comprada de volta depois de perdida em larga escala. Organizações que investem em IA sem investir em design centrado no ser humano acumulam dívida de confiança. Essa dívida fica invisível até se materializar. Ela pode surgir como rotatividade que escapa à análise tradicional de retenção ou como estagnação da adoção apesar do marketing. Também pode surgir como exposição regulatória que o jurídico terá de administrar depois. Nesse ponto, recuperar a confiança pode custar mais do que o investimento em design que teria evitado o problema.
O design como relação, não como camada final
O que diferencia as organizações lideradas pelo design das que o tratam como camada final é a abrangência. Nas primeiras, o design governa toda a relação comunicativa entre sistema e usuário. Isso inclui a linguagem, o ritmo, a forma de lidar com a incerteza e a clareza sobre o que o sistema pode ou não fazer. Inclui ainda a preservação do raciocínio do usuário na interação, nas instruções e no espaço digital. Não se trata de ativos visuais. Trata-se de decisões que definem se a confiança baseada no cuidado pode se desenvolver e se sustentar. A sustentabilidade é resultado da relação projetada, e não um recurso a ser adicionado depois da adoção. As organizações que entendem isso e agem agora estão construindo a vantagem que definirá o mercado de AI na próxima década.
Por Dra. Marialejandra García Corretjer, PhD
Referências
- Buijsman, S., Carter, S. E., & Bermúdez, J.-P. (2025). Autonomia por design: Preservando a autonomia humana no suporte à decisão de IA. Filosofia & Tecnologia, 38, 97. https://doi.org/10.1007/s13347-025-00932-2
- Calvo, R. A., Peters, D., Vold, K., & Ryan, R. M. (2020). Apoiando a autonomia humana em sistemas de IA. Em C. Burr & L. Floridi (Eds.), Ética do bem-estar digital. Springer.
- Deci, E. L., & Ryan, R. M. (2000). O “quê” e o “porquê” das perseguições de objetivos. Investigação Psicológica, 11(4), 227–268.
- Edelman. (2024). Barômetro de Confiança Edelman. Edelman.
- Fogg, B. J. (2003), Tecnologia Persuasiva: Usando Computadores para Mudar o Que Pensamos e Fazemos, Morgan Kaufmann.
- Forrester Consulting. (2018). O Impacto™ Econômico Total da Prática de Design Thinking da IBM. Estudo encomendado pela IBM.
- García Corretjer, M. A., Ros, R., Mallol, R., & Miralles, D. (2022). Empatia como estratégia envolvente em robótica social: Um estudo piloto. Modelagem do Usuário e Interação Adaptada ao Usuário, 33(2), 221–259. https://doi.org/10.1007/s11257-022-09322-1
- Gray, K., & Wegner, D. M. (2012). Robôs sensíveis e zumbis humanos: percepção mental e o vale estranho. Cognição, 125(1), 125–130.
- Jacovi, A., Marasovic, A., Miller, T., & Goldberg, Y. (2021). Formalização da confiança na inteligência artificial. FAccT 2021.
- Kress, G. (2010). Multimodalidade: Uma Abordagem Semiótica Social para a Comunicação Contemporânea. Routledge.
- Lazar, A., Koehler, C., Tanenbaum, J., & Nguyen, D. H. (2015). Por que usamos e abandonamos dispositivos inteligentes. Anais da UbiComp 2015, 635–646.
- Luguri, J., & Strahilevitz, L. J. (2021). Iluminando padrões escuros. Journal of Legal Analysis, 13(1), 43–109.
- McKinsey & Company / McKinsey Design. (2018). O valor comercial do design. McKinsey Quarterly.
- McKinsey & Company. (2023). O estado da IA em 2023.
- Mehrotra, S., Degachi, C., Vereschak, O., Jonker, C. M., & Tielman, M. L. (2024). A Systematic Review on Fostering Appropriate Trust in Human-AI Interaction. ACM J. Responsib. Comput., 1(4), Article 26.
- Mori, M. (1970/2012). The uncanny valley (K. F. MacDorman & N. Kageki, Trans.). IEEE Robotics & Automation Magazine, 19(2), 98–100.
- Obermeyer, Z., Powers, B., Vogeli, C., & Mullainathan, S. (2019). Dissecting racial bias in an algorithm used to manage the health of populations. Science, 366(6464), 447–453.
- Reichheld, F. F. (2003). The one number you need to grow. Harvard Business Review, 81(12), 46–54.
- Shih, P. C., Han, K., Poole, E. S., Rosson, M. B., & Carroll, J. M. (2015). Use and adoption challenges of wearable activity trackers. iConference 2015 Proceedings.