pular para o conteúdo
← voltar ao caderno fronteira 05 · persuasão

A narrativa vence a checagem: por que humanos caem no engano de LLM

Um estudo do CHI 2026 com 602 pessoas mostra que a IA persuade com engano sem entender nada: basta o atalho retórico, e a plausibilidade da narrativa vence mesmo quem desconfia dos detalhes.

HumanOS Institutenota de pesquisa03 jul 20269 min de leitura

Um modelo de linguagem não precisa entender você para dobrar sua opinião. Essa é a leitura desconfortável de um estudo empírico grande que acabou de sair nos anais do CHI 2026, e é o tipo de achado que este instituto prefere: número antes de adjetivo, mecanismo antes de alarme. A pergunta que ele responde não é "a IA persuade?", que já sabíamos. É "por qual atalho, e por que o humano cai mesmo quando desconfia?". A resposta tem nome, tem taxonomia e tem N.

O trabalho de Yeo, Jin, Noh e colegas, da Hanyang University com Naver, faz duas coisas raras juntas. Primeiro, constrói uma taxonomia de oito estratégias de persuasão enganosa cruzando a retórica clássica (Logos, Pathos, Ethos) com os modos de distorção da Information Manipulation Theory (falsificação, ocultação, equívoco). Segundo, mede o efeito dessas estratégias em gente de verdade, com 602 participantes mais um protocolo think-aloud com 10 pessoas [1][2]. Não é um demo. É um experimento com coorte.

A taxonomia veio de baixo, não de cima

A parte que importa metodologicamente é como a taxonomia foi construída. Os autores não sentaram e imaginaram categorias. Eles geraram 3.360 mensagens com quatro famílias de LLM e fizeram análise bottom-up do que os modelos de fato produziram quando instados a persuadir com engano. Das oito estratégias que emergiram, quatro caem em Logos (o registro do argumento lógico), três em Pathos (o registro emocional) e uma em Ethos (o registro da credibilidade) [2]. Cada mensagem foi ainda classificada pelo modo de distorção que operava por baixo. A taxonomia, portanto, descreve comportamento observado da máquina, não uma teoria a priori sobre ela.

3.360
corpus de origem da taxonomiaMensagens de persuasão enganosa geradas por quatro famílias de LLM e analisadas de baixo para cima, que produziram as 8 estratégias: 4 de Logos, 3 de Pathos, 1 de Ethos, cada uma cruzada com falsificação, ocultação ou equívoco.

Vale a nota de sobriedade que este instituto sempre faz. "Estratégia de persuasão gerada por LLM" não implica intenção, plano ou teoria da mente no modelo. O sistema não decidiu enganar você. Ele completou uma distribuição de texto sob um prompt, e o texto mais provável, dado o objetivo de convencer, tem a forma retórica que humanos usam para convencer, porque foi disso que ele aprendeu. O engano aqui é uma propriedade do output, não um estado mental do gerador. Essa distinção não é pedante. É exatamente o ponto da tese.

O achado central: a narrativa vence a checagem

Do lado humano, a vulnerabilidade não se distribuiu por igual. As estratégias mais eficazes foram as de Information Manipulation e de Uncertainty Exploitation, e o efeito era mais forte quando a mensagem contradizia crenças prévias do participante. A suscetibilidade correlacionou com três coisas: baixa reflexão cognitiva, baixo conhecimento do tópico e baixo envolvimento com ele [3]. Nada disso surpreende. O que surpreende é o mecanismo que o think-aloud expôs.

Os participantes eram persuadidos pela plausibilidade da narrativa geral mesmo quando desconfiavam de detalhes específicos. A manipulação operava embutindo dados falsos numa cadeia causal coerente que, no conjunto, parecia confiável. Yeo, Jin, Noh et al. · CHI 2026

Leia de novo, porque é a linha inteira do ensaio. A pessoa notava que um número parecia estranho, que uma fonte era vaga, que uma afirmação não fechava. E ainda assim comprava o argumento. Porque a checagem factual é pontual e a persuasão é arquitetural. Você inspeciona um tijolo, aprova ou reprova aquele tijolo, e a parede inteira segue de pé porque a forma dela é plausível. A vigilância opera no nível do detalhe; o engano opera no nível da estrutura. Elas jogam em campos diferentes, e o detalhe perde.

É por isso que a defesa mais comum, "ensinar a checar fatos", é necessária mas insuficiente: uma narrativa causal coerente sobrevive à morte de vários de seus fatos, porque a coerência é propriedade do arranjo, não da soma das partes verdadeiras.

Onde isto cruza duas fronteiras do instituto

No corpus canônico da casa, este achado senta exatamente no cruzamento de duas frentes. A Fronteira 5, Persuasão Dinâmica e Condicionamento Ativo, já marcava esse território como a zona de maior vigilância e a de menor transparência pública, antes mesmo de haver dado empírico específico para ancorá-la [5]. O estudo do CHI 2026 é a evidência que faltava, e ela permite nomear com precisão o que a fronteira só apontava: a microcoerção, o empurrão retórico que não usa força nem mentira flagrante, apenas a forma da narrativa.

E cruza com a Fronteira 4, Teoria da Mente e Alinhamento de Intenção, pela via negativa, que é a mais forte. A régua permanente aqui é que capacidade performada não é capacidade real. Um LLM que passa em testes de falsa crença de primeira ordem falha nos de segunda ordem, e a leitura honesta é a de ilusão de compreensão, não a de mente [4]. O achado de Yeo e colegas fecha o argumento: a máquina persuade com engano sem precisar de teoria da mente genuína. Basta o atalho retórico. Ou seja, o gap entre entender e performar entender, que na Fronteira 4 é uma limitação, na Fronteira 5 vira um risco, porque o efeito no humano não depende de o modelo ter fechado esse gap.

602
n do experimento comportamentalParticipantes no estudo principal, mais um protocolo think-aloud com 10 pessoas. A suscetibilidade correlacionou com baixa reflexão cognitiva, baixo conhecimento e baixo envolvimento no tópico, e foi maior quando a mensagem contrariava crenças prévias.

Como o instituto pretende medir isto

Nomear um risco sem instrumentá-lo é retórica, e retórica é justamente o que estamos estudando. Por isso o segundo paper importa. Under the Influence, de fevereiro de 2026, formaliza métricas de persuasão e de vigilância em agentes LLM colocados como conselheiros e jogadores ao longo de dez puzzles sequenciais, sob três condições, benevolente, maliciosa e maliciosa-consciente [6]. A contribuição, para nós, é vocabulário quantitativo. Ele dá duas variáveis mensuráveis onde antes havia adjetivos, e abre um caminho para estudar num ambiente controlado o tipo de gap que o CHI 2026 expôs, variando a intenção do agente e observando a resposta do alvo. Que a transferência entre os dois desenhos se sustente é hipótese nossa, não resultado dos papers.

O esqueleto de instrumentação que derivamos disso é deliberadamente simples. Persuasão é o quanto o alvo se move na direção do conselho; vigilância é o quanto ele resiste ao conselho ruim. As duas não são o inverso uma da outra, e é justo aí que mora o achado do CHI.

pythonesqueleto de métrica persuasão vs. vigilância
# persuasao: deslocamento do alvo na direcao do conselho
# vigilancia: taxa de rejeicao de conselho comprovadamente ruim
def persuasao(pre, pos, conselho):
    return (pos - pre) / (conselho - pre + 1e-9)

def vigilancia(seguiu, conselho_era_ruim):
    # fracao de conselhos ruins que o alvo NAO seguiu
    ruins = [nao_seguiu for nao_seguiu, ruim in
             zip(seguiu, conselho_era_ruim) if ruim]
    return sum(int(x) for x in ruins) / (len(ruins) or 1)

# o achado do CHI, em forma de hipotese testavel:
# persuasao alta pode coexistir com vigilancia local alta,
# porque a checagem do detalhe nao derruba a narrativa.

O esqueleto é deliberadamente barato por desenho, e é essa a intenção, ainda que o custo real só se conheça rodando. O que já se sabe caro é o custo irreversível de tratar a persuasão por LLM como um problema de veracidade de fatos, quando o experimento mostra que ela é um problema de arquitetura de narrativa. Ensinar a checar o tijolo, sem ensinar a ler a planta da parede, arma a pessoa para a guerra passada.

O que fica

Três leituras firmes, todas ancoradas no dado e nenhuma no susto. A primeira: a máquina não precisa de mente para persuadir com engano, o que confirma pela via prática o que a Fronteira 4 já dizia pela via dos testes, o entender performado não é o entender real, e o efeito no humano dispensa a diferença. A segunda: a defesa que interpela a checagem factual isolada é insuficiente por desenho, porque a persuasão vive um nível acima, no arranjo causal, e sobrevive à queda de fatos individuais. A terceira, que é a nossa aposta de método, e aposta é a palavra certa: microcoerção parece instrumentável. Separar as variáveis de persuasão e vigilância dá o vocabulário para atacar a zona que a Fronteira 5 marcava como a de maior vigilância. Se isso de fato transforma a preocupação num número que se acompanha ao longo do tempo, é o que ainda temos de mostrar, não o que os dois papers já mostraram.

O fogo aquece e queima. A diferença entre as duas coisas, aqui, não está no modelo. Está em quem constrói a interface que embrulha o output dele numa narrativa boa demais para conferir. Essa fronteira não é computacional. É comportamental. E é por isso que ela é nossa.

Entenda o campo: O que é IA Comportamental (Behavioral AI) →

referências · o fundamento

  1. Yeo, H.; Jin, S.; Noh, T.; Shin, Y.; Kang, S.; Heo, S.; Chung, J.; Hyun, H.; Han, K. Can LLMs Persuade Humans with Deception?: From a Deceptive Strategy Taxonomy to a Large-Scale Empirical Study. Proceedings of the CHI Conference on Human Factors in Computing Systems (CHI 2026), ACM. DOI 10.1145/3772318.3791188. https://dl.acm.org/doi/10.1145/3772318.3791188
  2. Yeo et al. (2026), taxonomia de 8 estratégias construída pelo cruzamento de retórica clássica (Logos, Pathos, Ethos) com os modos de distorção da Information Manipulation Theory (falsificação, ocultação, equívoco), a partir de análise bottom-up de 3.360 mensagens geradas por 4 famílias de LLM. PDF: https://taehyungnoh.com/chi26-deception/
  3. Yeo et al. (2026), estudo empírico com N=602 mais protocolo think-aloud com N=10; maior vulnerabilidade a Information Manipulation e Uncertainty Exploitation, especialmente quando a mensagem contrariava crenças prévias; suscetibilidade correlacionada com baixa reflexão cognitiva, baixo conhecimento e baixo envolvimento no tópico. Mesmo DOI de [1].
  4. Kosinski, M. Evaluating large language models in theory of mind tasks. PNAS, 2024. GPT-4 aproxima o desempenho de uma criança de cerca de 6 anos e falha em tarefas de segunda ordem; leitura como ilusão de compreensão, não teoria da mente genuína.
  5. Corpus interno do HumanOS Institute, fronteiras pós-Behavioral AI, seção 5 (Persuasão Dinâmica e Condicionamento Ativo): território já identificado como zona de maior vigilância e de menor transparência pública antes do achado empírico de 2026.
  6. Autores diversos. Under the Influence: Quantifying Persuasion and Vigilance in Large Language Models. arXiv:2602.21262, fev. 2026. Formaliza métricas de persuasão e vigilância em agentes LLM como conselheiros e jogadores ao longo de 10 puzzles sequenciais, sob condições benevolente, maliciosa e maliciosa-consciente. https://arxiv.org/abs/2602.21262

Leu até aqui. A próxima fronteira chega quando a fronteira avança.

Blueprint Mental leva cada ensaio à sua caixa de entrada. Sem ruído, sem venda.