認知バイアスを深堀りする

by

認知バイアスは、人間の判断が理想的な統計、論理、期待効用などの規範から系統的にずれる現象として研究されてきた[1]。しかし、規範からの逸脱が確認されたことと、その判断機構があらゆる場面で欠陥であることは同じではない。人間は無限の計算資源を持たず、限られた時間、注意、記憶、情報のもとで行動を決める。

認知バイアスを評価するには、正答率だけでなく、判断の目的、利用できる情報、誤警報と見逃しの損失、決定に使える時間を確認する必要がある。ある環境では有効な近似が、別の環境では予測可能な失敗を生む。本稿の中心命題は、認知バイアスを個人の欠陥として矯正するのではなく、近似が破綻する条件を特定し、重要な判断だけを手続きで補うべきだというものである。

1. バイアスは評価基準を定めなければ判定できない

判断が偏っているという評価には、比較対象となる規範が必要である。確率を正しく推定すること、平均損失を小さくすること、致命的な失敗を避けること、短時間で十分な結論を出すことは、それぞれ異なる目的である。同じ判断でも、どの目的を採用するかによって評価が変わる。

例えば、危険の存在を判定する場面には、危険がないのに反応する誤警報と、危険があるのに反応しない見逃しがある。両者の発生確率が同じでも、損失が等しいとは限らない。見逃しが致命的で、誤警報の損失が小さいなら、危険を過大に見積もる判断規則は正確さを下げても総損失を減らし得る。

認知バイアスを論じる際には、少なくとも判断の目的、情報環境、二種類の誤りの損失を明示しなければならない。これらを示さずに規範からの逸脱だけを数えると、適応的な近似と修正すべき失敗を区別できない。

2. ヒューリスティクスは不確実な環境に対する近似である

ヒューリスティクスは、利用可能な情報の一部を使って判断を簡略化する規則である。複雑な計算を省くため、常に精度を犠牲にするように見える。しかし、不確実性が大きい、小標本しかない、予測変数に雑音が多いといった条件では、情報をすべて加重する複雑な方法より、単純な規則の方が未知の事例へ適合する場合がある[2]。近似の性能は、計算量だけでなく、環境の構造との適合によって決まる。

誤差管理理論は、誤警報と見逃しの損失が非対称な環境では、損失の小さい側へ判断を偏らせる仕組みが形成され得ると説明する[3]。この説明が成り立つのは、特定の誤りに一貫して大きな損失があり、偏りによって長期的な総損失が減る場合である。認知バイアス一般が進化的に有利だったという主張ではない。

プロスペクト理論が示した参照点依存性や損失回避も、人間の選好が最終的な資産量だけで決まらないことを示す記述モデルである[4]。損失を重く扱う傾向が生存上有利だったと直ちに結論づけることはできない。観察された偏り、その発生機構、適応上の機能は、別々に検証する必要がある。

3. 同じ近似でも環境と利害が変われば失敗する

近似が有効であるためには、手掛かりと結果の関係がある程度安定していなければならない。学習時には信頼できた手掛かりでも、提示方法、報酬構造、情報の供給者が変われば、同じ判断規則が誤った方向へ誘導される。

フレーミング効果では、実質的に同じ結果でも、利得として示すか損失として示すかによって選択が変わる[5]。この性質は、判断者の不合理さだけでなく、情報を提示する側が選好を動かせることを意味する。医療、金融、行政、広告では、どの数値を基準にし、どの表現を先に置くかが意思決定の一部になる。

判断者に特定の結論を望む理由がある場合、追加の思考や情報が必ずしも偏りを弱めるとは限らない。動機づけられた推論では、望む結論に到達できる証拠や評価方法が選ばれやすい[6]。確証バイアスも、情報探索、証拠の解釈、反例の扱いという複数の段階に現れる[7]。利害関係者に「十分に検討する」よう求めるだけでは、既存の結論を精密に正当化する結果になり得る。

集団で議論すれば個人の偏りが相殺されるとも限らない。推定を共有した後に再回答させる実験では、社会的影響によって回答の多様性が減った一方、集団誤差が改善せず、確信だけが強まる場合が示されている[8]。集団判断の精度を利用するには、参加者の人数だけでなく、最初の判断が独立していることが必要である。

4. バイアスの知識だけでは判断手続きは変わらない

バイアスの名称を知ることには、失敗の可能性を認識する効果がある。しかし、判断の最中に自分の推論がどの偏りを受けているかを正確に特定し、意志の力だけで修正することは難しい。動機、時間圧力、責任回避、組織内の力関係は、知識とは別に判断を制約する。

計画錯誤の研究では、自分の作業完了時期を予測するとき、過去の類似経験より、今回の計画が順調に進む筋書きへ注意が向きやすいことが示されている[9]。計画錯誤という名称を知っていても、見積時に類似案件の実績を参照しなければ、判断材料は変わらない。

結果を知った後には、当時の不確実性を小さく見積もり、結果を予測できたように感じる後知恵バイアスが生じる[10]。事後に慎重さを要求しても、意思決定時の情報と事後に得た情報が混在していれば、公正な評価にも組織学習にもつながらない。必要なのは、認知を直接矯正する訓練だけでなく、判断前に参照する情報と、判断後に検証する記録を変えることである。

5. 高リスク判断だけを手続きで補う

すべての判断へ重い審査を課すと、手続きの費用が意思決定の利益を上回る。追加の確認が必要なのは、失敗が不可逆である、影響範囲が広い、損失が大きい、判断者に強い利害がある、結果の検証まで時間がかかるといった案件である。デバイアシング研究でも、判断者を訓練する方法と、判断環境を変更する方法は区別されている[11]。

失敗条件 手続き 補う対象
今回の筋書きだけで見積もる 類似案件の実績分布を先に確認する 計画錯誤と基準率の欠落
採用案に有利な証拠だけが集まる 判断前に棄却条件と必要な反証を定める 確証バイアスと評価基準の後付け
上位者や先行発言へ判断が収束する 討議前に各自の見積もりと根拠を独立に記録する アンカーと社会的影響による多様性の消失
結果を知った後に判断者を評価する 当時の情報、不確実性、代替案、採否理由を保存する 後知恵バイアスと事後の責任基準変更
失敗しても判断方法を検証できない 予測、結果、誤差、次回の変更点を案件単位で対応させる 経験が印象だけで保存されること

これらの手続きは、判断者を信用しないための監視ではない。同じ人が同じ条件で判断すれば、同じ偏りが再発し得るという前提に立ち、情報の順序、独立性、記録可能性を変更するものである。判断品質を個人の慎重さに依存させず、後から検証できる工程へ移すことが目的となる。

6. バイアスへの介入は支援にも操作にもなる

判断環境を変える方法は、誤りを減らす一方で、設計者が望む選択へ利用者を誘導できる。既定値、選択肢の並び、損失表現、社会規範の表示は、選択肢を禁止しなくても結果を変え得る。判断支援と操作の差は、介入の効果だけでは判定できない。

少なくとも、介入の目的と存在を説明できること、介入されない選択肢が見えること、異なる選択へ過大な費用を課さないこと、感情や社会的圧力を必要以上に利用しないこと、効果と副作用を検証できることが必要である。食品選択に関する選択設計を調べた体系的範囲レビューでは、離脱に必要な負担、感情への作用、介入や代替肢の不透明性が、自律性を損なう経路として整理されている[12]。この研究の対象は食品分野であり、他分野へそのまま一般化はできないが、介入の侵襲性を点検する基準として利用できる。

認知バイアスを理解する者は、判断を助けるだけでなく、相手に気づかれないまま選好を動かすこともできる。組織や制度がバイアス対策を導入する場合、正答率や行動変化だけでなく、透明性、異議申立て、離脱可能性、特定集団への偏った負担を評価対象に含めなければならない。

結論

認知バイアスは、人間の認知が壊れていることを示す一覧ではない。有限の資源で判断するための近似が、特定の規範から系統的に外れる現象である。その近似は、不確実性が大きく、誤差の損失が非対称な環境では有効に働くことがある。一方、手掛かりと結果の関係、利害、提示方法、集団内の情報順序が変われば、同じ近似が反復可能な失敗を生む。

対策の単位は、バイアスを持つ個人ではなく、判断が行われる工程である。類似案件を参照し、棄却条件を先に定め、討議前の独立判断を残し、当時の不確実性を記録する。こうした手続きは、失敗した個人を断罪する代わりに、次の判断で変更できる箇所を示す。

ただし、判断環境を設計する力は、支援と操作の双方に使える。認知バイアスを制度設計へ応用するなら、精度の改善だけでなく、介入の透明性、拒否可能性、監査可能性まで含めて評価する必要がある。認知バイアスは人間の欠陥というより、近似と環境の適合を管理する問題である。

参考文献

  1. A. Tversky, D. Kahneman, “Judgment under Uncertainty: Heuristics and Biases,” Science, Vol. 185, No. 4157, pp. 1124–1131, 1974. https://doi.org/10.1126/science.185.4157.1124
  2. G. Gigerenzer, W. Gaissmaier, “Heuristic Decision Making,” Annual Review of Psychology, Vol. 62, pp. 451–482, 2011. https://doi.org/10.1146/annurev-psych-120709-145346
  3. M. G. Haselton, D. Nettle, “The Paranoid Optimist: An Integrative Evolutionary Model of Cognitive Biases,” Personality and Social Psychology Review, Vol. 10, No. 1, pp. 47–66, 2006. https://doi.org/10.1207/s15327957pspr1001_3
  4. D. Kahneman, A. Tversky, “Prospect Theory: An Analysis of Decision under Risk,” Econometrica, Vol. 47, No. 2, pp. 263–291, 1979. https://doi.org/10.2307/1914185
  5. A. Tversky, D. Kahneman, “The Framing of Decisions and the Psychology of Choice,” Science, Vol. 211, No. 4481, pp. 453–458, 1981. https://doi.org/10.1126/science.7455683
  6. Z. Kunda, “The Case for Motivated Reasoning,” Psychological Bulletin, Vol. 108, No. 3, pp. 480–498, 1990. https://doi.org/10.1037/0033-2909.108.3.480
  7. R. S. Nickerson, “Confirmation Bias: A Ubiquitous Phenomenon in Many Guises,” Review of General Psychology, Vol. 2, No. 2, pp. 175–220, 1998. https://doi.org/10.1037/1089-2680.2.2.175
  8. J. Lorenz, H. Rauhut, F. Schweitzer, D. Helbing, “How Social Influence Can Undermine the Wisdom of Crowd Effect,” Proceedings of the National Academy of Sciences, Vol. 108, No. 22, pp. 9020–9025, 2011. https://doi.org/10.1073/pnas.1008636108
  9. R. Buehler, D. Griffin, M. Ross, “Exploring the Planning Fallacy: Why People Underestimate Their Task Completion Times,” Journal of Personality and Social Psychology, Vol. 67, No. 3, pp. 366–381, 1994. https://doi.org/10.1037/0022-3514.67.3.366
  10. B. Fischhoff, “Hindsight Is Not Equal to Foresight: The Effect of Outcome Knowledge on Judgment under Uncertainty,” Journal of Experimental Psychology: Human Perception and Performance, Vol. 1, No. 3, pp. 288–299, 1975. https://doi.org/10.1037/0096-1523.1.3.288
  11. J. B. Soll, K. L. Milkman, J. W. Payne, “A User’s Guide to Debiasing,” in G. Keren, G. Wu, eds., The Wiley Blackwell Handbook of Judgment and Decision Making, pp. 924–951, 2015. https://doi.org/10.1002/9781118468333.ch33
  12. D. Lemken, A. Erhard, S. Wahnschafft, “A Choice Architect’s Guide to the Autonomous Galaxy: A Systematic Scoping Review of Nudge Intrusiveness in Food Choices,” Humanities and Social Sciences Communications, Vol. 11, Article 1030, 2024. https://doi.org/10.1057/s41599-024-03555-8