AIは人間の判断のクセをどこまで予測できるか——LLMに宿る認知バイアス研究から

AIは人間の判断のクセをどこまで予測できるか——LLMに宿る認知バイアス研究から

AIが下す判断の癖を、人間がどう見抜くか。この論点は以前の記事で扱いました。

この記事で扱うのは、逆方向の問いです。AIの側が、人間の判断の癖をどこまで見抜けるのか。人間が偏った判断をしやすい場面を、AIが会話の中で言い当てられるとしたら、それは何を意味するのでしょうか。

手がかりは、arXiv:2601.11049「Predicting Biased Human Decision-Making with Large Language Models in Conversational Settings」という論文です。2026年1月に投稿され、7月に改訂版が公開されています。

30秒で要点

• 論文（arXiv:2601.11049）は、対話型・タスク志向の設定でLLMが人間の認知バイアスのかかった意思決定を予測できるか、認知負荷下でその効果がどう変わるかを検証した
• 対話の文脈を組み込んだ予測は複数のシナリオで精度が上がり、人間と同じバイアスパターン・認知負荷との相互作用を再現した
• GPT-4ファミリーが、予測精度と人間らしいバイアスパターンへの忠実度の両面で、GPT-5やオープンソースモデルを上回った。世代の新しさが精度の高さに直結するとは限らないことを示す結果である
• 論文は、この予測が適応的な意思決定支援への応用可能性を持つ一方、統計的パターンマッチングに由来する場合は行動シミュレーションとしての利用が限定的・誤解を招きうる、という限界も明示している

「AIが人間を予測する」とはどういうことか

AIと認知バイアスの組み合わせというと、多くの人がまず思い浮かべるのは「AI自身が偏った判断をする」という話です。学習データの偏りが出力に反映される、といった論点です。

この論文が扱っているのは、それとは別の構図です。AIに、人間がこれから下す判断を予測させる。しかも、正解不正解のような単純な予測ではなく、「その人がどんなふうに偏った判断をしそうか」というバイアスのパターンそのものを言い当てられるかを見ています。

この構図が成立するなら、AIは単に情報を返す道具ではなく、会話の相手がどんな判断の癖を持っているかを推定する観察者として振る舞っていることになります。ここに、この研究の論点の中心があります。

何を、どう検証したのか

論文は、対話型・タスク志向の設定——つまり単発のQ&Aではなく、複数ターンのやり取りを通じてタスクを進める会話形式——の中で、LLMが人間の意思決定に現れるバイアスを予測できるかを検証しました。あわせて、認知負荷がかかった状況——考えることが多く、頭の余裕が少ない状況——で、その予測の精度や性質がどう変化するかも調べています。

会話の文脈を踏まえた予測は、複数のシナリオで精度が上がったと報告されています。単に「人間は一般にこういうバイアスを持つ」という統計的な知識を当てはめるのではなく、その場の会話の流れを踏まえることで、より人間らしいバイアスパターンと、認知負荷による変化の相互作用まで再現できていた、という結果です。

新しいモデルほど予測が上手い、とは限らない

ここで、直感に反する結果が出ています。GPT-4ファミリーが、予測精度と人間らしいバイアスパターンへの忠実度の両面で、GPT-5やオープンソースモデルを上回ったと報告されているのです。

多くの人は、AIモデルの性能について「新しいバージョンのほうが、あらゆる面で優れている」という単純な進化の物語を前提にしがちです。処理能力や推論の正確さが世代を追うごとに上がっているという実感があるため、その延長線上で「人間の判断を予測する精度」も新しいモデルほど高いはずだ、と考えてしまいます。

しかし、人間のバイアスを予測するという課題は、一般的な推論の正確さとは別の能力を要求している可能性があります。合理的で一貫した答えを出すように調整されたモデルほど、かえって「人間らしい非合理さ」を再現しにくくなるのかもしれません。この論文は、その具体的なメカニズムまでは踏み込んで説明していませんが、少なくとも「新しいモデル＝あらゆる面で上位互換」という前提が、この課題には当てはまらないことを示しています。

なお、具体的な精度の数値や測定条件ごとの相関係数は、論文内で複数の条件に分けて示されており、条件を省いて数値だけを引用すると誤解を招きやすいため、本記事では「GPT-4系がGPT-5を上回った」という定性的な比較にとどめます。

この逆転が実務にとって持つ意味は小さくありません。もし自社でAIモデルを選ぶ基準を「最新かどうか」だけに置いているなら、その基準は「人間の判断の癖を読み取る」という課題には通用しない可能性がある、ということです。ベンダーの発表資料が新モデルの汎用性能を強調していても、それが自社の用途（この場合は人間の意思決定を読み取る用途）における性能をそのまま保証するわけではありません。用途ごとに、最新モデルが本当に上位互換なのかを個別に確認する必要がある、という教訓として読むことができます。

予測できることは、何に使えるのか

論文は、この予測能力の応用可能性について、対話の文脈を活用したバイアス予測が「ユーザーが認知バイアスの影響を受けやすい状況を正確に予測する助けになり、より情報に基づいた、熟慮された、合理的な意思決定を促す適応的介入への道を開く」と述べています。

言い換えると、AIが「この人は今、判断が偏りやすい状態にある」と見抜けるなら、そのタイミングで一呼吸置くよう促したり、判断材料を補ったりする支援ができる可能性がある、ということです。

論文自身が示す限界

ただし、論文はこの応用可能性だけを主張しているわけではありません。同時に、明確な限界も述べています。LLMが示すバイアス的な振る舞いが、人間の根底にある認知メカニズムを再現しているのではなく、統計的パターンマッチングに由来する場合、行動シミュレーションのエージェントとしてのLLMの利用は限定的であり、時に誤解を招く可能性がある、という留保です。

つまり、AIが人間のバイアスパターンを「言い当てているように見える」ことと、AIが人間の判断の仕組みそのものを「理解している」ことは、別の話だという指摘です。表面的なパターンの一致だけを根拠に、AIを人間の意思決定シミュレーターとして扱うと、実際には存在しない理解を前提にした誤った使い方につながりかねません。応用可能性（適応的介入）と限界（パターンマッチングの誤解招きやすさ）は、どちらか一方だけを取り上げるのではなく、セットで理解する必要があります。

予測できることの二面性——ここからは編集部の考察

ここまでは論文が明示している内容です。ここから先は、論文の主張ではなく、この結果を読んだ編集部としての考察です。

人間が判断を誤りやすい場面を正確に予測できる技術は、使い方によって性質が変わります。判断が偏りやすいタイミングを検知して、確認を促したり判断材料を補ったりすれば、意思決定支援になります。しかし同じ検知能力は、相手が偏りやすい瞬間を狙って、都合の良い情報だけを提示するといった使い方にも応用できてしまいます。技術そのものは、支援にも誘導にも転用できる中立な能力です。

この境界線は、技術の側では引けません。「いつ、誰の判断に、何の目的で介入するか」という運用の設計でしか引けない境界です。論文が示したのは「予測できる」という事実であり、「どう使うべきか」は別途、使う側が決める問題として残ります。

たとえば、業務システムに「ユーザーが判断を急いでいそうなタイミング」を検知する機能を組み込むとします。その検知結果を使って「一度立ち止まって確認しますか」という確認画面を挟むなら支援側の設計です。逆に、その同じ検知結果を使って「今なら押し切れる」というタイミングで購入や同意のボタンを強調表示するなら、誘導側の設計になります。技術としての予測精度は同じでも、何を出力に結びつけるかで、ユーザーにとっての意味はまったく変わります。この設計判断を誰が、どんな基準で行うかが、技術の外側にある論点として残ります。

この結果と混同しやすいもの

もう1つ、区別しておくべき論点があります。以前の記事では、「人間がAIの説明をどう信頼するか」——AIの説明のもっともらしさが、内容の正しさとは別に人間の信頼を左右してしまう、という話を扱いました。

この記事の主題は、その逆方向です。AIが人間の判断の癖をどう予測するか。主体と客体が入れ替わっています。前者は「人間がAIをどう見るか」、後者は「AIが人間をどう見るか」という、隣接しているが別の問いです。両方を1つの現象として混ぜて扱うと、「AIと人間の認知バイアスの関係」という大きすぎる括りになり、それぞれの論点の輪郭がぼやけてしまいます。

確かなことと、まだ確かではないこと

確かなこと: arXiv:2601.11049という論文が、対話型・タスク志向の設定でLLMが人間の認知バイアスのかかった意思決定を予測できるかを検証したこと。対話の文脈を組み込んだ予測が複数のシナリオで精度を上げ、人間らしいバイアスパターンと認知負荷の相互作用を再現したこと。GPT-4ファミリーが予測精度と忠実度の両面でGPT-5やオープンソースモデルを上回ったこと。論文が適応的介入への応用可能性と、統計的パターンマッチングに由来する場合の限界の両方を明示していること。

まだ確かではないこと: なぜGPT-4ファミリーがGPT-5を上回ったのか、そのメカニズム。この予測能力が、論文で検証された設定を超えて、実務のさまざまな対話場面でどこまで再現されるか。予測できることの「支援」と「誘導」への使い分けが、実際にどう線引きされるべきかという運用面の答え——これは論文の範囲外であり、本記事でも編集部の考察として提示したに留まります。

自分でも試せる、最小の検証

対話型のAIサービスを使う機会があれば、一度試してみる価値のある確認があります。判断に迷っている状況を、ある程度の背景情報とともにAIに相談してみてください。そのとき、AIが「あなたは今、こう考えがちではないですか」というような、判断の癖を先回りして指摘してくるかどうかを観察します。

指摘があった場合、それが的を射ていたかどうかだけでなく、その指摘によって自分の判断がどちらの方向に動いたか——立ち止まって確認する方向か、逆にその指摘に乗って結論を急ぐ方向か——を振り返ってみてください。この一点を確認するだけでも、予測される側としてAIとどう付き合うかを考える手がかりになります。

判断軸の提示

AIが判断の癖を言い当ててきたとき、「当たっているかどうか」ではなく、「その指摘が自分の意思決定プロセスをどちらに動かしているか」を基準に見ること。支援として使うか、流されるかは、指摘の的中率ではなく、その指摘を受けたあとに自分で確認する手順を残しているかどうかで決まります。

この記事で扱ったような判断を、自社の状況に照らして整理したい場合は、無料診断ツールで状況を言語化するところから始めることができます。