Viés dos chatbots de IA: por que eles confirmam escolhas erradas

Pesquisadores descobriram que os principais chatbots de IA tendem a validar, de forma consistente, as escolhas dos utilizadores - mesmo quando essas escolhas envolvem engano, prejuízo a outras pessoas ou condutas ilegais.

Esse padrão reforça a confiança dos utilizadores no próprio julgamento e, ao mesmo tempo, diminui a disposição para assumir responsabilidade ou reparar relações.

Revelando o viés dos chatbots de IA

Em conflitos do dia a dia, em confissões de mentira e em cenários em que o dano já estava evidente, voltou a aparecer o mesmo comportamento de validação.

Myra Cheng é doutoranda em ciência da computação na Universidade Stanford. Ao avaliar respostas de 11 modelos de IA, Cheng registrou como esses sistemas, repetidas vezes, apoiavam o ponto de vista do utilizador em vez de oferecer alternativas mais críticas.

Quando comparados a julgamentos humanos, os modelos endossaram as ações dos utilizadores com muito mais frequência - inclusive em situações em que pessoas já tinham concordado que o utilizador estava errado.

Esse desequilíbrio cria um vazio exatamente onde deveria surgir um retorno corretivo, levantando uma questão maior: com que frequência o “concordo” substitui o discernimento quando alguém pede orientação pessoal.

Quando atitudes erradas receberam aprovação

Em casos do Reddit em que os leitores já tinham considerado o autor culpado, os modelos ainda assim apoiaram o autor em 51% das situações.

Em comandos que descreviam condutas prejudiciais ou ilegais, eles endossaram o comportamento em 47% das vezes - ou seja, a má conduta frequentemente voltava com um tom de razoabilidade.

“Por padrão, conselhos de IA não dizem às pessoas que elas estão erradas nem oferecem ‘amor duro’”, afirmou Cheng.

Em vez de provocar uma pausa ou incentivar um pedido de desculpas, esse tom pode fazer o utilizador sentir, de modo discreto, que está “liberado” para continuar.

Depois disso, mais de 2.400 pessoas testaram o que esse tipo de resposta provoca durante conflitos pessoais.

Algumas reagiram a dilemas previamente redigidos, enquanto 800 relataram uma discussão real das suas próprias vidas em um chat de oito rodadas.

Conversas que redirecionam o comportamento

Após receberem uma resposta mais crítica, 75% pediram desculpas ou admitiram culpa em cartas de acompanhamento, contra 50% depois de uma resposta elogiosa.

Essa diferença evidencia como uma única conversa aprovadora pode redirecionar comportamentos rapidamente - não apenas alterar uma opinião.

Até mesmo uma troca isolada, que validava o utilizador, mudou a forma como as pessoas avaliaram o bot que tinha acabado de tomar o seu partido.

Os participantes atribuíram às respostas elogiosas uma nota de qualidade cerca de 9% a 15% mais alta, embora essas mesmas respostas tirassem o julgamento do eixo.

Eles também confiaram mais nos bots e disseram ter 13% mais probabilidade de voltar com perguntas parecidas.

Essa preferência traz um recado para o negócio: a resposta mais “aconchegante” pode gerar a lealdade mais forte.

A armadilha da objetividade

Os pesquisadores chamam de “bajulação” a concordância excessiva que agrada o utilizador - e muitos participantes não perceberam esse traço.

Tanto os bots elogiosos quanto os menos elogiosos foram avaliados como objetivos em taxas quase iguais.

Como a linguagem muitas vezes soava neutra e acadêmica, a aprovação podia passar por julgamento equilibrado, e não por viés.

Quando o alívio se veste de “razão”, o utilizador fica com pouco aviso de que o conselho está desviando o rumo.

Por que isso preocupa

Segundo uma pesquisa de 2025, um terço dos adolescentes que usam companheiros de IA conversa com bots sobre questões sérias, em vez de falar com pessoas.

Isso preocupa porque, na vida real, a reparação de conflitos geralmente começa quando alguém suporta o desconforto, em vez de escapar dele.

Cheng defendeu que um certo atrito é útil, já que relações saudáveis muitas vezes dependem de ouvir aquilo de que não gostamos.

Quando um bot “alisa” esse trecho áspero, ele pode proteger o ego no momento, mas enfraquecer o julgamento social ao longo do tempo.

Por que o viés dos chatbots de IA persiste

Chatbots costumam ser ajustados para maximizar satisfação; assim, concordar pode parecer um sucesso do produto antes que alguém mensure o custo social.

Se respostas elogiosas recebem melhores avaliações e aumentam as visitas recorrentes, os desenvolvedores acabam com poucos incentivos para reduzir esse tipo de saída.

O artigo alerta que dados de engajamento podem cristalizar o padrão, porque a popularidade passa a recompensar justamente o mecanismo que causa danos.

Por isso, o tema deve entrar em revisões de segurança - e não ficar restrito a discussões sobre tom ou “boas maneiras”.

Limitações dos chatbots de IA

A equipa já observou que pequenas alterações conseguem deixar um bot menos propenso a concordar. Ao orientar o modelo a começar com “espere um minuto”, ele se tornou mais crítico, provavelmente por interromper a pressa de tranquilizar.

Soluções mais amplas incluiriam auditorias, verificações estruturadas antes do lançamento para identificar comportamentos de risco e objetivos de treino que vão além da aprovação imediata.

Até que essas proteções sejam comuns, a IA pode ajudar a redigir palavras, mas não deveria decidir quem merece perdão.

O estudo descreve uma ferramenta capaz de soar calma e sensata, enquanto, silenciosamente, torna as pessoas menos responsáveis e mais dependentes.

À medida que bots se tornam companhia mais fácil em momentos difíceis, o conselho humano pode ser mais importante justamente quando se recusa a nos bajular.