AIは賢くなるほど「人間らしいバイアス」を強める——LLM研究が示す合理性のねじれ
「より高性能なAIを使えば、より合理的な判断が得られる」——経営判断にAIを組み込むとき、多くの人が無意識にこの前提を置いています。バージョンが上がれば賢くなる、賢くなれば偏りが減る、という直線的なイメージです。
この記事では、Bini・Cong・Huang・Jin各氏によるNBERワーキングペーパー34745「Behavioral Economics of AI: LLM Biases and Corrections」(2026年1月)にもとづき、この前提が単純化しすぎている可能性を整理します。
出典はNBER(全米経済研究所)のワーキングペーパー掲載ページです。査読を経た最終稿ではなく、2026年1月時点のワーキングペーパーである点を前提に読んでください。
30秒で要点
- 人間の認知バイアスを検出するために設計された実験群を、そのままLLM(大規模言語モデル)に適用した研究
- 選好ベースのタスク(何を好むか)では、モデルが高性能・大規模になるほど、応答がより「人間らしく」(バイアスが強く)なる
- 信念ベースのタスク(何が正しいか)では、逆に高性能・大規模なモデルほど、より合理的な応答を生成する傾向がある
- 2つの現象は方向が逆の非対称な結果であり、「賢いAI=常に合理的」という単純な前提は成り立たない
- プロンプトで合理的な判断を促すとバイアスが軽減されると報告されているが、どのタスク種別に主に効くかは要旨からは特定できない
| 用語 | 意味 |
|---|---|
| 選好ベースのタスク(preference-based task) | 何を好むか、何を優先するかといった価値判断が絡む課題 |
| 信念ベースのタスク(belief-based task) | 何が正しいか、事実はどうかといった真偽の判断が絡む課題 |
| 人間的バイアス(human-like bias) | 人間の意思決定研究で確認されている、系統的な判断の偏り |
「賢いAI=合理的」という前提はどこから来るのか
AIモデルは、パラメータ数や学習データ量が増えるほど、多くのベンチマークで性能が向上します。文章の一貫性も上がり、複雑な指示にも対応できるようになる。この体験の積み重ねから、「性能が上がる」ことと「判断が合理的になる」ことを、同じ方向の変化として捉えてしまいやすくなります。
この前提のもとでは、AIの回答をどう扱うかという方針もシンプルになります。「新しく高性能なモデルほど信頼してよい」という一本の基準で済むからです。しかし、この研究が示しているのは、その基準がタスクの性質によって逆転しうるという事実です。
研究が明らかにした非対称性
この研究は、人間の認知バイアスを検出するために心理学・行動経済学の分野で使われてきた実験群を、そのままLLMに適用しました。人間を対象にした実験デザインをAIにも当てはめることで、AIが人間と同じような偏りを持つのか、それとも違う挙動を示すのかを検証しています。
結果は、タスクの種類によって方向が逆でした。選好ベースのタスク——何を好むか、何を優先するかという価値判断が絡む課題——では、モデルが高性能・大規模になるほど、応答がより「人間らしく」なる、つまり人間に見られるのと同種のバイアスが強まる傾向が確認されました。一方、信念ベースのタスク——何が正しいか、事実はどうかという真偽判断が絡む課題——では、高性能・大規模なモデルほど、より合理的な応答を生成する傾向が見られています。
同じ「モデルが賢くなる」という変化が、タスクの性質によって正反対の結果を生む。これが、この研究が報告する中心的な発見です。
なぜこの非対称性を見落としやすいのか
この非対称性が見落とされやすいのには理由があります。AIの性能評価で目にする機会が多いのは、事実確認や論理的推論のような、信念ベースのタスクのベンチマーク結果です。数学の問題を解く、コードのバグを見つける、文章の矛盾を指摘する——こうした場面でモデルが賢くなるほど正確になる様子を繰り返し目にしていると、「賢さ=正確さ・合理性」という結びつきが強化されていきます。
一方、優先順位づけや好みの判断が絡む場面——「どの案を採用すべきか」「どちらの選択肢がより望ましいか」といった選好ベースの判断——でAIを使う機会は、事実確認の場面ほど意識的に区別されていません。信念ベースのタスクで培われた「賢いAIは信頼できる」という経験則が、選好ベースのタスクにもそのまま持ち越されてしまうことが、この見落としの構造だと考えられます。
判断軸の提示
この研究が示す非対称性を踏まえると、AIの回答をどこまで信頼するかは、モデルの性能ではなく、タスクの性質を軸に判断する必要があります。
- 事実確認・情報整理のタスクか — 何が正しいか、何が起きたかを確認する場面では、高性能なモデルの回答は相対的に信頼度が高くなる傾向がある
- 優先順位づけ・価値判断のタスクか — どの案を選ぶべきか、何を優先すべきかという場面では、モデルが高性能であることが、逆に人間的な偏りの強さを意味する可能性がある。この種の判断ほど、人間の関与を残す設計が必要になる
「最新の高性能モデルだから」という理由だけで、優先順位づけや意思決定の判断をAIに委ねきるのではなく、その判断が信念ベースなのか選好ベースなのかを、まず見極めることが出発点になります。
確かなことと、まだ確かではないこと
確かなこと: NBERワーキングペーパー34745(2026年1月)が、人間の認知バイアス検出用の実験群をLLMに適用したこと。選好ベースのタスクでは高性能・大規模なモデルほど人間的バイアスが強まり、信念ベースのタスクでは逆に合理的になるという非対称性が報告されていること。プロンプトで合理的な判断を促すとバイアスが軽減されると記述されていること。
まだ確かではないこと: この論文は査読を経た最終稿ではなくワーキングペーパー段階です。実験に使われた具体的なタスク一覧やモデル一覧は、今回参照した要旨の記述だけでは特定できていません。プロンプトによる軽減効果がどちらのタスク種別に主に効くのかも未確認です。また、この研究が示すのはタスクの性質による非対称性であり、「AIは賢くなるほど常に非合理になる」という一律の劣化を主張するものではありません。
自分でも試せる、最小の検証
直近でAIに相談した判断を1つ思い出し、それが「事実を確認する質問」だったか、「どちらが良いかを選ぶ質問」だったかを分けてみてください。
後者だった場合、AIの回答をそのまま採用する前に、その回答が特定の選択肢に偏っていないか、自分自身の判断基準と照らして1回だけ確認する工程を入れてみます。この小さな確認を1回試すだけで、「高性能なモデルだから」という理由だけでAIの選好判断を無条件に受け入れていたかどうかに気づきやすくなります。
この記事で扱ったような、AIの回答をどこまで信頼するかという判断を自社の状況に照らして整理したい場合は、無料診断ツールで状況を言語化するところから始めることができます。
状況を整理する（15分）