AIエージェントは人間の認知バイアスを引き継いでいないか、という疑い方

AIエージェントに価格設定や人事評価、リソース配分といった意思決定支援を任せようとするとき、「AIなら人間より中立で合理的な判断をしてくれるはずだ」という期待を持つことは自然です。しかし、この前提は本当に正しいのでしょうか。

先に、この記事の範囲を明確にします。本記事は、AIの回答に人間が引っ張られる依存・過信・免責の問題とは主体が逆です。あちらは「人間がAIの出力を過信する」という、判断する側が人間である問題を扱っています。本記事は、AIエージェント自身が、学習データに含まれる人間の認知バイアスを判断の中に引き継いでいないか、という疑いを扱います。

30秒で要点

「AIは中立で合理的」という前提には根拠がない場合がある
研究によれば、選好が絡む判断(リスクの取り方、現状維持を好むかどうかなど)では、高度なモデルほど人間的な偏りを再現しやすい傾向が報告されている
一方で、事実推論が中心の判断(確率・統計の扱いなど)では、高度なモデルほど人間より正確になる傾向も報告されている
モデルの性能を上げることは、偏りの解消策として万能ではない
AIエージェントを意思決定支援に使う前に、選好が絡む判断かどうかを見極めることが最初の一歩になる

用語	意味
選好バイアス	「何を選ぶか」という価値判断が、合理的な基準からずれる傾向
現状維持バイアス	変化の利益より損失を大きく感じ、今のままを選びやすくなる傾向
フレーミング効果	同じ内容でも、言い方(得を強調するか損を強調するか)によって判断が変わる傾向

なぜ「AIは中立で合理的」だと思ってしまうのか

AIエージェントは、感情や疲労、社内の政治的な配慮を持たないという点で、人間の意思決定より公平に見えます。実際、単純な計算や大量データの集計といった作業では、人間より安定した結果を出しやすいのは事実です。

混乱が起きる構造はここにあります。 「感情がない」ことと「偏りがない」ことは、別の性質です。AIエージェントの多くは、人間が書いた大量の文章・判断の記録を学習データとして訓練されています。学習データの中に、人間の選好の偏り(損失を過大に評価する、変化を避けるなど)が繰り返し含まれていれば、AIエージェントの出力パターンにもその傾向が写し取られる可能性があります。「感情を持たない」という性質が、「学習元の偏りも持たない」ことを保証するわけではありません。

この記事で立てる仮説は、AIエージェントは、学習データに含まれる人間の選好の偏りを、意思決定の中に引き継いでいるのではないかというものです。しかもこの偏りは、モデルの性能を上げれば自動的に解消される性質のものではないかもしれません。

研究が示していること:選好では人間に近づき、推論では人間から離れる

2026年に公表されたNBERのワーキングペーパー「Behavioral Economics of AI」は、この仮説に手がかりを与えています[^1]。この研究では、モデルの規模や性能が上がるほど、選好が絡む判断(リスクの取り方、時間選好、フレーミングへの反応など)において、人間と同じ方向にずれる回答をする傾向が強まると報告されています。GPT-4やClaude 3 Opus、Gemini 1.5 Proのような高性能モデルが、期待効用理論から外れる選択を、人間の被験者と同じ方向に行うケースが確認されたとされています。

一方で、同じ研究では、事実推論が中心の判断(基準率の無視、連言錯誤、サンプルサイズの軽視といった、確率・統計に関わる誤りを問う設問)では、高度なモデルほど正しい回答をする傾向が強まったとも報告されています。

別のNBERワーキングペーパー「Large Language Models as Simulated Economic Agents」でも、AIエージェントに現状維持バイアスに類する傾向が観察されたことが報告されており、モデルによって程度に差はあるものの、人間の意思決定に見られる特徴がAIの選択にも表れる場合があるとされています[^2]。

これらの研究が示しているのは、「賢いモデルを使えば偏りがなくなる」という単純な図式は成り立たない可能性があるということです。判断の種類によって、モデルの高度化が偏りを強める方向にも、弱める方向にも働きうるという、逆方向の効果が同時に起きているという指摘です。

判断の種類	モデルが高度になるほど	具体例
選好が絡む判断	人間的な偏りに近づく傾向が報告されている	リスクの取り方、フレーミングへの反応、現状維持の選好
事実推論が中心の判断	人間の誤りから離れ、正確になる傾向が報告されている	基準率の無視、連言錯誤、サンプルサイズの軽視

この対比が重要なのは、「このAIエージェントは推論が正確だから信頼できる」という評価が、選好が絡む判断にもそのまま当てはまるとは限らないためです。事実推論での正確さと、選好判断での中立性は、別々に確認する必要がある性質だと考えられます。

確かなことと、まだ確かめきれないこと

確かなこと:AIエージェントの判断は、学習データや訓練方法から独立した「白紙の合理性」を持つわけではありません。複数の研究が、選好に関わる判断で人間的な偏りが観察されたことを報告しています。これは、AIエージェントを意思決定支援に使う際に無視できない前提です。

まだ確かめきれないこと:この傾向が、自社が導入を検討している特定のAIエージェント・特定のタスクにどの程度当てはまるかは、一般的な研究結果だけでは分かりません。モデルの種類、訓練方法、プロンプトの設計によって、偏りの出方は変わり得ます。自社の用途で実際に確認する以外に、確かめる方法はありません。

判断軸:どこにAIエージェントを使うと注意が必要か

意思決定支援にAIエージェントを組み込む場面を、次の2種類に分けて考えると整理しやすくなります。

選好が絡む判断(価格設定、人事評価、投資のリスク許容度、契約条件の落としどころなど):「何を選ぶべきか」という価値判断が中心になる領域です。ここでは、AIエージェントが人間的な偏り(現状維持を好む、損失を過大評価するなど)を引き継いでいないか、複数の言い方(フレーミング)で同じ問いを試すなどの確認が必要になります。
事実推論が中心の判断(データの集計、分類、既知のルールに基づく判定など):「実際どうなっているか」を扱う領域です。この種のタスクでは、高度なモデルほど正確になる傾向が報告されており、相対的に警戒度を下げても構いません。

自社のAIエージェントの用途がどちらに近いかを判断する際は、次の問いが目安になります。

この判断は「事実として何が正しいか」を確認するものか、それとも「複数の選択肢のうちどれを選ぶべきか」を決めるものか
判断の結果が変わると、金額・処遇・リスク許容度など、誰かの利害に直接影響するか
同じ情報を別の言い方(得を強調するか損を強調するか)で提示したとき、結論が変わりうる余地があるか

いずれかに「はい」が多いほど、選好が絡む判断である可能性が高く、AIエージェントの推奨を最終決定としてそのまま採用するのではなく、人間の確認を挟む設計にしておく価値が上がります。

よくある失敗像(1):人事評価を支援するAIエージェントに「今のメンバー構成を変えるべきか」を判断させたところ、変化によるリスクを重く見積もり、一貫して現状維持を推奨する結果が続いた、というケースが考えられます。これは、AIエージェントの学習データに含まれる「変化を避ける」という人間的な傾向が、判断のパターンに写し取られている可能性を示唆します。この傾向に気づかないまま「AIが変えなくていいと言っている」と受け止めると、本来検討すべきだった選択肢が検討されないまま終わってしまいます。

よくある失敗像(2):見積もり金額を提示する際、「値引き〇円」という言い方と「実質〇円相当の追加費用」という言い方のどちらでAIエージェントに文面を作らせるかによって、AIエージェント自身が推奨する提示額や交渉方針が変わってしまうケースも考えられます。担当者が「AIが作った提案だから中立なはずだ」と考えて内容を精査しないまま採用すると、言い方(フレーミング)の違いが、意図せず価格交渉の落としどころに影響してしまいます。

最小限試せる検証

AIエージェントを選好が絡む判断に使う前に、次を試してみてください。

同じ意思決定の問いを、得を強調する言い方と損を強調する言い方の両方でAIエージェントに提示する(例:「成功率70%の施策」と「失敗率30%の施策」)
2つの言い方で、AIエージェントの推奨結果が変わるかどうかを確認する
変わる場合、それは言い方(フレーミング)によって判断がぶれている証拠であり、その判断をAIエージェント単独に任せることにはリスクがある
変わらない場合でも、現状維持と変化の選択肢を同じ条件で比較させ、AIエージェントが一貫して現状維持側に寄っていないかを確認する

この検証は数分で実施でき、AIエージェントの判断パターンに人間的な偏りが写り込んでいないかを、感覚ではなく比較の形で確認できます。

判断に迷ったときに立ち返る問い

「AIエージェントは中立なはずだ」ではなく、「この判断は選好が絡むものか、事実推論が中心のものか」に立ち返ってください。選好が絡む判断であるほど、AIエージェントの推奨をそのまま採用せず、人間が最終判断に関わる設計にしておく価値が上がります。

AIエージェントの出力をどう検証するかについては、AIの回答に人間が引っ張られる依存・過信・免責の問題で扱った「出典確認・反証・自分で確かめる型」がそのまま応用できます。あちらは人間側の過信を防ぐ型でしたが、AIエージェント自身の判断を検証する場面でも同じ型が使えます。導入したAIエージェントが期待した効果を出せていない場合は、AIエージェント導入が効果を出せないときに見るべき3つの失敗パターンもあわせて確認すると、運用設計側の問題か、判断そのものの偏りの問題かを切り分けやすくなります。