Uma introdução (e alguns conselhos) sobre vieses cognitivos

Eles são resultados de heurísticas e influenciam nossa noção estatística e probabilística. Não há como nos livrar, mas podemos aprender, com o tempo, a observá-los e a lidar melhor com eles

Viés cognitivo é um termo que frequentemente aparece em artigos e publicações relacionados à Estatística, à Ciência de Dados e às disciplinas analíticas em geral. Também é muito comum nos papos de Negócios, na gestão de riscos e de investimentos; em resumo, na tomada de decisão sobre qualquer aspecto.

Mencionamos o termo em artigos anteriores, como em Devemos muito aos Testes A/B e Uma abordagem conceitual sobre Modelos. Na nossa Newsletter sobre Product Management e UX Design, o assunto também tem sido recorrente, como em Abordagens e técnicas em Design Comportamental— tema, por sinal, que dialoga muito com a Ciência de Dados.

Provavelmente, muitos de vocês, que leem a Newsletter também já viram a expressão em artigos de Data Science. Há toneladas de conteúdo relacionando à área e vieses cognitivos no Medium e em outras publicações populares ou especializadas.

O artigo em tela é uma forma de nos refrescar a memória sobre a implicância desses vieses para qualquer disciplina do mundo de analytics e de proporcionar um primeiro contato a quem ainda não conhece o tema.

Também deverá ajudar com algumas abordagens futuras que pretendemos por aqui (spolier rápido: sobre Teoria da Decisão, Teoria dos Jogos, Pesquisa Operacional etc., que fazem a cabeça do Ocidente desde meados do século passado, subsidia muito do “mundo quantitativo” em que vivemos hoje e, embora não pareça, têm relação direta com a cognição e comportamento humanos).

(Nota: não confundir “viés cognitivo” com “viés estatístico/sistemático” e “viés algorítmico”. Viés cognitivo diz respeito a processos mentais. Viés estatístico tem a ver com o quanto uma amostra corresponde à população que ela representa. Viés algorítmico, um termo em alta no Machine Learning, embora relacionado ao viés estatístico, é mais sobre preconceitos que podem emergir de modelos preditivos a partir das qualidades dos dados. Outros temas para artigos futuros.)

A história ou genealogia dos vieses cognitivos nos levam, curiosamente, mas não por acaso, aos primórdios da Inteligência Artificial (IA) ou, de forma mais ampla, à Ciência Cognitiva, em que a IA está inserida, lá nos anos 1950, conforme vimos em Uma viagem de sete décadas na Inteligência Artificial.

Naquela época, por conta da Economia Clássica de Adam Smith e de uma corrente filosófica chamada Utilitarismo, que influenciou muito os Estados Unidos e a economia capitalista, acreditava-se que os seres humanos eram agentes econômicos plenamente racionais.

Isto é, a crença é de que tomávamos decisões sempre otimizando o melhor custo-benefício para nós mesmos, em termos de satisfação de desejos e necessidades.

Von Neumann, exímio matemático, um dos pais da computação, colega de Alan Turing e de outros pioneiros da aŕea, chegou a formular todo um teorema, com axiomas (verdades fundamentais), sobre o assunto, que ficou conhecido como “Teorema da Utilidade de von Neumann-Morgenstern”, que embasou a Teoria da Utilidade Esperada.

Entretanto, outro dos caras daquela época, Herbert A. Simon, famoso por suas contribuições à IA lógica das primeiras décadas, psicólogo cognitivo, criador de conceitos como o de “Economia da Atenção” (o que vivemos hoje com produtos de conteúdo e redes sociais) e prêmio Nobel em Economia, passou a ver com outros olhos toda aquela concepção de nós, humanos, como máquinas de otimização.

Espera aí! Agimos de acordo com o nosso ambiente, as nossas circunstâncias imediatas. Na maioria dos casos, não temos todas as informações à mão para uma análise extensa e tomada de decisão ótima sobre uma situação. Agimos motivados por impulsos, emoções, preconceitos. Alguma coisa não fechava — foram as suspeitas de Simon.

Isso o levou a trabalhar em outra teoria, chamada de “Teoria da Racionalidade Limitada”. Os primeiros insights surgiram em 1946. A teoria foi formulada por volta de 1957 e ele seguiu nesses estudos até bem depois de ganhar o Nobel, em 1978.

A crença, então, passava a ser de que tomávamos decisões com o que tínhamos em mãos (informações), dentro de nossos contextos (ambiente de escolha) e capacidades cognitivas (limites psicológicos do decisor). Algo como “boas o suficiente” e não ótimas decisões — às vezes, também, bastante ruins e equivocadas, por conta disso.

Essa outra maneira de encarar nossa tomada de decisões, somada a todo o fascínio que temos por previsões (que quase sempre culmina, no capitalismo estadunidense, no desejo de prever os rumos do mercado, sobretudo o preço de ações), abriria todo um novo campo de pesquisa em uma área que, até então, pouco tinha a ver com finanças e quantificações: a Psicologia.

Share

Esse campo da Psicologia foi ocupado (e meio que dominado) por dois grandes amigos israelenses, Amos Tversky e Daniel Kahneman, a partir de 1969. Com eles, nasceria todo um prolífico campo de abordagem econômica, a chamada Economia Comportamental.

A colaboração também renderia o Nobel de Economia a Kahneman em 2002 (Tversky faleceu antes, em 1996) e está registrada, de forma acessível e recomendada a todos que trabalham com estatística e métodos quantitativos, em um livro famoso, Thinking, Fast and Slow (ou, na edição em portugues, Rápido e devagar: duas formas de pensar):

O que catapultou a reputação de Tversky e Kahneman foi o fato de eles não trabalharem em teoria, mas sim com pesquisas empíricas em psicologia cognitiva. 

Ambos passaram a formular perguntas e hipóteses sobre porque eles mesmos ou outros humanos, reais ou hipotéticos, comportavam-se de uma maneira e não de outra frente a situações que requerem tomada de decisão. Aplicaram testes com voluntários, a partir de então, para confirmar ou refutar as hipóteses.

Os estudos cobriram, em grande maioria, questões que exigiam raciocínio estatístico e probabilístico. Experimento após experimento, os dois colecionaram uma gama de casos que demonstravam que muitas das decisões que tomamos não têm nada de racional; pelo contrário, aparentam serem até irracionais.

Eles então formularam a teoria de que, psicologicamente, lidamos com dois sistemas cognitivos:

  • o Sistema 1, que é o sistema rápido, intuitivo e de baixo custo energético, que usamos, por exemplo, quando dirigimos, quando repelimos algo que vem em nossa direção ou respondemos rapidamente, “sem pensar”, a uma pergunta que nos é feita; e

  • o Sistema 2, que é o sistema lento, racional, de alto custo energético, que usamos, por exemplo, para realizar cálculos, formular e escrever um relatório ou mesmo construir código no Jupyter Notebook.

Provavelmente por características evolutivas, o Sistema 1 é o mais treinado para entrar em cena em nossas vidas, influenciando, inclusive, o elaborado Sistema 2. 

O Sistema 1 é focado em observar e farejar rapidamente o ambiente, lidar com umas poucas informações disponíveis e decidir rapidamente se corremos ou se ficamos, se arriscamos ou nos protegemos, se escolhemos A ou B. Ou seja, muito do que fizemos ao longo de milhares de anos de evolução na natureza.

Tomando o cenário evolutivo, não é difícil perceber que o Sistema 2 é como um overclock do Sistema 1, uma instância que é acionada quando este não consegue dar conta sozinho das demandas cognitivas. 

Então, paramos e pensamos, avaliamos, calculamos — mas, muitas vezes, apenas o suficiente, porque isso é cansativo e, em um âmbito de sobrevivência na natureza bruta, pode ser inútil ou bastante arriscado.

Obviamente, o tratamento de Tversky e Kahneman, como tudo na Filosofia ou na Ciência, não é isento de críticas nem de tentativas de refutação. 

Olhando-se de determinado ângulo, pode-se dizer, então, que somos completamente incompetentes em domínios quantitativos e que mal sabemos como sobrevivemos esses milhares de anos. Gerd Gigerenzer, um psicólogo alemão, é um dos críticos que vai nessa direção.

Questionamentos à parte, Tversky e Kahneman se depararam com uma série de processos cognitivos que, como nas ilusões de ótica, demonstravam claras confusões universais quando somos confrontados com determinados desafios quantitativos.

A esses processos eles deram o nome de heurísticas, as quais podem nos levar a “vieses cognitivos” ou, no inglês, “cognitive bias”. Bias, aliás, é um termo de tradução imprecisa para o português; pode significar desvio, distorção, distanciamento de um padrão e, também, preconceito. Requer alguma intuição para ser apreendido.

É comum haver confusão entre heurísticas e vieses. Há quem os trate, principalmente dada a popularização da teoria, como a mesma coisa. Há quem diga que heurísticas são um tipo de processo (mais “positivo”) e vieses são outro (mais “negativos”). 

O tratamento dos pesquisadores é de que nosso Sistema 1, principalmente, nos leva a atalhos para tomada de decisão rápida. Esses atalhos são as heurísticas. Dito de outro modo, são mecanismos cognitivos. 

Esses mecanismos podem gerar tanto decisões corretas e sensatas, benéficas a nós mesmos, como decisões precipitadas, equivocadas, em último caso, prejudiciais. Isto é, geram desvios cognitivos, vieses, bias.

“Em geral, estas heurísticas são totalmente úteis, mas algumas vezes elas levam a erros graves e sistemáticos.”Teversky e Kahneman, 1974.

Share Awari Insights - Dados e Tecnologia

Hoje, temos centenas de “vieses cognitivos” em listas populares (como veremos a seguir), vários dos quais apenas derivados ou jamais tratados por Kahneman e Tversky, sendo alguns questionáveis quanto ao rigor científico.

Originalmente, porém, Tversky e Kahneman formularam e focaram três processos, primeiro em 1974, no artigo Judgment under Uncertainty: heuristics and biases, e depois, em 1982, em livro de mesmo nome:

  1. Disponibilidade: facilidade com que uma determinada ideia é recuperada na mente ou memória, o que pode influenciar nossa percepção de probabilidade de fenômenos relacionados àquela ideia ocorrerem.

  2. Representatividade: o quão representativo um fenômeno é para aquele indivíduo, independentemente o quão comum na realidade, o que pode levar a classificações incorretas e prejudiciais; 

  3. Ancoragem: tendemos a considerar quantidades maiores ou menores com base em outras quantidades, mesmo que completamente dissociadas, a que fomos expostos, o que pode nos levar a subestimar ou superestimar fenômenos.

Os experimentos dos psicólogos, muitos deles também bastante conhecidos e citados, demonstram exemplos dessas e de outras heurísticas em ação. 

Não devemos estranhar se dermos as mesmas respostas (equivocadas) que os voluntários dos estudos. As heurísticas e os vieses decorrentes delas nos são naturais, apenas evitáveis com um bom e, às vezes, exaustivo trabalho do Sistema 2 (e olhe lá).

Quanto à representatividade, por exemplo, um dos experimentos, de 1973, expôs voluntários ao perfil de um estudante hipotético, Tom W. Em resumo, ele tinha jeito “um pouco nerd”, conforme o próprio Kahneman. 

A descrição do garoto era: “Tom W é dotado de grande inteligência, embora careça de criatividade genuína. Tem necessidade de ordem e clareza e de sistemas claros e ordenados em que cada detalhe encontre seu lugar apropriado. Seu texto está mais para maçante e mecânico, animado ocasionalmente por alguns trocadilhos batidos e lampejos de imaginação do tipo ficção científica. Exibe forte compulsão por competência. Parece apresentar pouca compreensão e pouca simpatia pelas outras pessoas, e não aprecia a interação com os outros. Autocentrado, exibe no entanto um profundo senso moral.”

Foi pedido aos voluntários para estimar quais cursos de graduação, de uma lista, ele era mais propenso a frequentar, entre Humanidades e Exatas.

A maioria dos voluntários escolheu Ciência da Computação, embora, na época, a grande maioria dos estudantes concentrava-se em Humanidades. 

O que ocorreu foi um pré-conceito, decisão baseada em estereótipo, e não o que se observava na realidade. Tom W. era apenas um ponto de dados catado em um universo. Na realidade, era muito mais provável que ele frequentasse Humanidades do que Exatas, porque era nela que se concentravam a maioria dos estudantes, e não em Ciências da Computação (um curso ainda relativamente novo na década de 1970, convenhamos).

Outro experimento bem conhecido é o de Linda, personagem que “tem 31 anos de idade, é solteira, franca e muito inteligente. É formada em filosofia. Quando era estudante, preocupava-se profundamente com questões de discriminação e justiça social, e também participava de manifestações antinucleares.”

O que é mais provável: que Linda seja uma caixa de banco ou que Linda seja uma caixa de banco e ativa no movimento feminista? Por causa da descrição, novamente, a maioria dos voluntários (85% a 9%%) optaram pela segunda opção. 

Sabe-se que as probabilidades de duas condições somadas são menores do que a de uma condição ampla. Isto é, existem muito mais caixas de banco do que caixas de banco e ativas no movimento feminista. O “e” é crucial aqui. Kahneman diz que esse é um caso em que menos é mais. Menos opções, mais probabilidades.

Da mesma forma, Kahneman brinca com a causalidade (tema profundo, que nos fascina e prega muitas peças). Segundo ele, se tratarmos crianças deprimidas com energético e elas mostraram melhoria, tendemos a acreditar que a causa foi o energético. 

Porém, acontece que crianças que passaram um tempo plantando bananeira ou brincando com gatos também tiveram melhora. Então não foi o Red Bull, mas ficar de ponta cabeça ou acariciar o animalzinho?

É claro que não. Haverá regressão à média, um conceito importante em Estatística: crianças deprimidas melhoraram com o tempo, seja bebendo energético ou brincando. A única forma de comparar seria dar energético a um grupo de crianças aleatórias e algum placebo a outro aleatório. (O raciocínio é usado para uma explicação mais longa sobre regressão, no livro).

Rápido e Devagar é um apanhado de experimentos como esses, feitos por Tversky e Kahneman ou por outros pesquisadores da área. É um bom apanhado do campo da Economia Comportamental, mas talvez canse um pouco justamente pelo excesso de situações e raciocínios abstratos envolvidos nelas. 

Há histórias atrás de histórias de experimentos feitos e suas conclusões, várias hilárias. Por serem situações embaraçosas à maioria de nós, capazes de afrontar nossa confiança e orgulho como seres racionais, rende algumas risadas.

Tomando emprestado outro processo comum, o viés de retrospectiva (perceber eventos passados como mais previsíveis do que de fato foram), podemos até comemorar cada conclusão do livro com um efusivo: “eu já sabia, eu sempre pensei isso!” (depois de sermos expostos às conclusões, é claro). 

Como dito anteriormente, a lista de vieses cognitivos hoje é extensa, com casos questionáveis quanto ao rigor científico. A lista da Wikipedia passava de 200 tipos de vieses na data de publicação deste artigo.

Um interessado no assunto, Buster Benson, product manager em empresas como Twitter e Amazon e hoje empreendedor, tentou um agrupamento dos vieses em grupos e categorias, em 2016, quando a lista ainda tinha 175 categorias. 

Logo depois, outra pessoa transformou a ideia em um gráfico, o qual foi reformulado e disponibilizado na Wikipedia, em 2018, quando a lista já tinha 188 vieses:

Leave a comment

Depois de se debruçar sobre o assunto, Benson acabou escrevendo a respeito e resumiu bem aspectos e implicações gerais que os vieses nos trazem.

Muito disso é extremamente útil na lida com dados, na exposição e entendimento de relatórios, gráficos, dashboards, e, consequentemente, na tomada de decisão em negócios.

Segundo Benson, os vieses (talvez “heurísticas” fosse mais correto aqui) nos dão quatro situações básicas, mas que carregam, inerentemente, ao mesmo tempo, quatro desvantagens básicas. Pode parecer confuso, mas explicamos.

As vantagens das heurísticas ou vieses são as seguintes (os trechos entre aspas são de Benson):

  • Permitir agirmos quando há muita informação: “A sobrecarga de informações é uma droga, então filtramos agressivamente. O ruído se torna um sinal”.

  • Fornecer significado suficiente: “A falta de significado é confusa, por isso preenchemos as lacunas. O sinal se torna uma história.”

  • Permitir agirmos rápido: “Precisamos agir rápido para não perdermos nossa chance, então tiramos conclusões precipitadas. As histórias tornam-se decisões.”

  • Indicar o que devemos lembrar: “Isso não está ficando mais fácil, então tentamos nos lembrar das partes importantes. As decisões informam nossos modelos mentais do mundo.”

Parece que nos descreve, não? Funcionamos assim. Meia hora após construirmos uma tela cheia de gráficos, montarmos um relatório ou apresentarmos informações extraídas de dados, mal lembramos dos detalhes.

Dias depois, somos capazes de darmos uma informação aproximada ou até errada em relação a um indicador que estava lá. Capaz até de, ao consultarmos o que escrevermos, duvidarmos do que registrado, à luz de novos contextos, não necessariamente baseados em evidências.

Quais as desvantagens inerentemente relacionadas? Nas palavras de Benson:

  • Não vemos tudo.

  • Nossa busca por significado pode invocar ilusões.

  • As decisões rápidas podem apresentar falhas graves.

  • Nossa memória reforça os erros.

“Vieses cognitivos são apenas ferramentas, úteis nos contextos certos, prejudiciais em outros. Eles são as únicas ferramentas que temos e são até muito boas no que devem fazer. Podemos muito bem nos familiarizar com eles e até mesmo apreciar que temos pelo menos alguma capacidade de processar o universo com nossos cérebros misteriosos.” Buster Benson, 2016.

De outro modo, podemos relembrar uma passagem de Rápido e Devagar quanto a esses pontos:

“Nós nos concentramos em nosso objetivo, ancoramos em nosso projeto e negligenciamos taxas-base relevantes, expondo-nos à falácia do planejamento. 

“Nós nos concentramos no que queremos e podemos fazer, negligenciando os projetos e habilidades dos outros. 

“Tanto explicando o passado como predizendo o futuro, nos concentramos no papel causal da habilidade e negligenciamos o papel da sorte. Somos desse modo propensos a uma ilusão de controle. 

“Nós nos concentramos no que sabemos e negligenciamos o que não sabemos, o que nos torna excessivamente confiantes em nossas crenças.”

Daniel Kahneman, 2012.

Share

Poderíamos repassar um a um cada viés e tentar relacioná-los com a lida em disciplinas analíticas. Muitos artigos tentam isso, resumindo-se a listas de 5, 8 ou x vieses que cada autor considera mais significativos (exemplo, exemplo, exemplo).

Se prestarmos atenção aos ambientes onde atuamos ou atuaremos, perceberemos o colega ou o decisor de negócio que está tentando encontrar indicadores que corroboram sua visão (viés de confirmação). 

No caso do colega, pode ser para negar que uma empreitada dê certo, porque não quer fazê-la ou porque já se deparou com vários problemas do tipo (representatividade ou disponibilidade também cabem aqui). 

No caso do decisor de negócio: porque está sendo cobrado pelos acionistas, porque a empresa vai bem, porque vai mal, por n motivos, que o levam a ter de justificar a busca por um indicador mágico.

Quem sabe perceberemos, também, o gerente da equipe de Ciência de Dados caindo no viés dos custos irrecuperáveis, ao insistir em um projeto que há dois anos consome a equipe sem resultar em ganhos de performance de míseros centésimos de porcentagem em um modelo preditivo.

Viés de seleção (amostras não completamente escolhidas ao acaso), maldição do conhecimento (achar mais difícil pensar em algo por estar mais informado sobre aquilo), realismo ingênuo (acreditar que vemos a realidade objetivamente), falácia lúdica (achar que jogos modelam a vida real), falácia do franco-atirador texano (atirar primeiro e depois pintar o alvo onde os tiros acertaram) e tantos outros caberiam como exemplos.

(Novamente, muitos desses podem ser invenções e carecer de rigor científico, como as heurísticas originais descobertas por Tversky e Kahneman através de experimentos.)

A abordagem de Benson, porém, permite sintetizar de forma muito mais assertiva e resumida o que são vieses, como nos beneficiam e ao mesmo tempo podem nos atrapalhar.

Isso nos permite refletir sobre como podemos observar e nos comportar em relação a esses vieses, que insistirão em aparecer em nós (difícil de percebermos) e nos outros (em quem, talvez por algum viés da lista, se não nos policiarmos, não só os perceberemos como também os condenaremos como fraquezas ou incapacidades dessas pessas em serem analíticas, céticas, científicas).

Infelizmente, não há fórmulas ou uma tabela de correspondência com remédios para cada viés. Não existe um: “para esse viés, faça isso” (pensando nesses termos, a lista, por si só, já seria grande, e ainda teria de ser multiplicada por “faça isso em si mesmo” e “faça isso em relação aos outros”).

Inclusive, é por causa da existência dessas heurísticas e vieses que processos de comunicação humana podem ser facilitados ou bastante dificultados, como é comum nos negócios. Data analysts que têm de fornecer informações e insights a decisores de negócios que o digam!

Por isso, é importante tentar explicar didaticamente etapas e conclusões de processos analíticos e quantitativos, seja o que foi encontrado em uma análise exploratória, os resultados de um experimento inferencial ou o desempenho de um modelo preditivo.

Também é necessário compreender (e ter paciência) sobre o fato de outras pessoas não estarem treinadas para reconhecer ou lidar com seus vieses. 

Ou, de outro modo, reconhecer que estão em posições decisórias, onde aqueles pontos que vimos pouco antes importam muito:

  • mesmo municiados de indicadores, análises, relatórios e gráficos, podem não ter todas as informações que querem e necessitam; às vezes, deparam-se com intervalos de probabilidades (se a empresa fizer isso, tem de 45% a 56% de chance de sucesso);

  • precisam dar sentido ao que tem em mãos (“nunca fizemos, não custa arriscar, aprendemos com os erros”);

  • precisam agir rápido, apostar e ver o que acontece, mesmo que caiam no viés de confiança (não há mais do que isso, 56% se tornam “mais do que 50%”, portanto, “deve dar certo, vamos nessa!”);

  • têm experiência no negócio (“já fizemos outras vezes, não deu certo, melhor só tentar se a chance for 100%”).

Como aconselha Benson, manter as quatro vantagens-desvantagens em mente é uma boa maneira de pensar com mais frequência em nossos próprios vieses. A heurística da disponibilidade e o efeito Baader-Meinhof, entre outras heurísticas e vieses, ajudarão nesse processo.

“Nada que façamos pode fazer com que os 4 problemas desapareçam (até que tenhamos uma maneira de expandir o poder computacional de nossas mentes e armazenamento de memória para corresponder ao do universo), mas se aceitarmos que somos permanentemente tendenciosos, mas que há espaço para melhorias, O viés de confirmação continuará a nos ajudar a encontrar evidências que apóiem ​​isso, o que nos levará a um melhor entendimento de nós mesmos.” Buster Benson, 2016.

É por isso, mesmo que possa parecer clichê e auto-ajuda demais, que se recomenda tanto o autoconhecimento. Apesar de poder parecer contraditório, é em hábitos como meditação, mindfulness, terapias e outras técnicas que nem de longe parecem se referir às nossas capacidades racionais, intelecto, cálculo e coisas do tipo, que conseguimos afiar a cognição para lidar com domínios mais exatos.

Uma mensagem que se pode depreender de Kahneman, em Rápido e Devagar, é que também devemos à descoberta desses vieses cognitivos, principalmente em nossa lida com estatística e probabilidades, o fato de termos passado a apostar muito mais em técnicas quantitativas e rigor para tentar lidar com evidências, julgamentos e certeza: decisão, em resumo.

Se não temos todas as informações, se temos de agir rapidamente por sobrevivência e se emoções, impulsos e instintos nos ajudaram a isso ao longo da existência, não é a todo momento que teremos de nos basear unicamente nisso. 

O cenário permite? Há alguma calmaria? Temos computadores, pessoas capacitadas, alguma margem de manobra e, principalmente, dados? Vamos pôr métodos quantitativos para funcionar. Eles são uma ferramenta para nos ajudar com nossas limitações. 

Só não vale, é claro, depositar toda a esperança nesses métodos sem ter noção dos nossos próprios vieses. Nessa situação, podemos ter ferramentas e dados excelentes e, ainda assim, interpretarmos resultados de forma equivocada, levando a decisões péssimas.

Referências como Simon, Tversky, Kahneman e muitos outros que vieram depois ou que continuam aprofundando o campo da Economia Comportamental e da Psicologia Cognitiva têm muito a nos inspirar e a nos ajudar na lida com nossas limitações, principalmente em domínios quantitativos e analíticos.

Leave a comment

Artigo escrito por Rogério Kreidlow, jornalista, que gosta de observar a tecnologia em relação a temas amplos, como política, economia, história e filosofia.