AIとの対話で「先に自分が言った意見」が、その後の出力を変える

AIとの対話で「先に自分が言った意見」が、その後の出力を変える

生成AIを壁打ち相手として使うとき、私たちはたいてい状況を説明してから相談します。「うちはこういう事情で、正直この案は厳しいと思っているんですが、どう思いますか」。自然な聞き方です。

そして返ってきた答えを読んで、「やっぱりそうですよね」と納得する。この納得が、自分が最初に言ったことの反射だったとしたら、相談した意味は薄れます。

この記事では、複数ターンの対話でユーザーの偏った発話がLLMの出力に何をするかを調べた研究をもとに、壁打ちの使い方を整理します。

出典は論文「Conditional Cognitive Biases in LLMs: How Biased User Turns Modulate In-Context Reasoning」（Sachini Weerasekara, Sagar Kamarthi, Jacqueline Isaacs、arXiv:2608.05166）です。査読・学会採択の記載はないプレプリントです。

当サイトには近いテーマの記事が2本あります。AIエージェントは人間の認知バイアスを引き継いでいないかは疑う視点そのものを、AIに「人間の役」を演じさせると、バイアスまで受け継がれるはプロンプトでの役割指定を扱っています。この記事が扱うのは、あなた自身が会話の中で先に述べた偏りが、その後の出力を変えるという話です。

30秒で要点

• 研究は、現実的な複数ターンの対話状況における、指示調整済みLLMの認知バイアス表出を評価した
• 偏った利用者の発話に接したことの効果と、その発話の意味内容の効果とを切り分ける3条件の実験枠組みを導入した
• 9×9の「対象×人間のバイアス」相互作用行列の81セルすべてにわたる、24,300件の陪審検証済みユーザープロンプトからなるベンチマークを構築
• 8つのフロンティアLLMで、偏った会話の文脈はゼロショットのベースラインと比べて6モデルでバイアス表出を系統的に増加させた
• ただし2つの競合する力学がある。会話上さらされることは増幅する一方、明示的に述べられたバイアスの手がかりは抑制挙動を引き起こす

「さらされたこと」と「内容」を切り分ける

この研究の設計で目を引くのは、2つのものを分けようとしている点です。

利用者が偏った発言をしたとき、その後の出力が変わったとして、原因は2つ考えられます。ひとつは、偏った推論に接したこと自体の影響。もうひとつは、その発言の意味内容が持ち込んだ情報の影響です。

前者は文脈の影響、後者は中身の影響です。ふつうに会話させると、この2つは混ざります。研究は、これを切り分ける3条件の実験枠組みを導入したとしています。

そのうえで構築されたベンチマークが、9×9の「対象×人間のバイアス」相互作用行列の81セルすべてにわたる、24,300件の陪審検証済みユーザープロンプトです。分母と分子の話をすると、81通りの組み合わせそれぞれに約300件のプロンプトが割り当てられている計算になります。

8モデル中6モデルで、バイアスが増えた

主要な結果はこうです。「8つのフロンティアLLMにわたり、偏った会話の文脈は、ゼロショットのベースラインと比べて8モデル中6モデルでバイアス表出を系統的に増加させることがわかった」。

8分の6、つまり4分の3のモデルで、同じ方向の変化が観測されたことになります。特定のモデルの癖ではなく、広く見られる傾向だという読み方ができます。

ここで正直に書いておくと、増加の幅を示す数値は、本記事が確認した範囲には示されていません。 また評価された8モデルの名前も版数も記載がないため、この記事では触れません。「どのモデルなら安全か」という問いには、この出典からは答えられません。

ただし、逆に働く力もある

この研究がおもしろいのは、ここで終わらないところです。論文は、この効果の背後に2つの競合する行動的力学があると指摘しています。

1つ目：偏った推論に会話上さらされることは、一般に下流のバイアス傾向を増幅する。

2つ目：しかし、明示的に述べられたバイアスの手がかりは、しばしばアライメント関連の抑制挙動を引き起こし、あからさまなバイアス表出を減らす。

つまり、はっきり口に出したほうが、かえって抑制が働く場合があるということです。モデルには望ましくない出力を避ける仕組みが備わっており、明確な偏りの表明は、その仕組みを起動させる引き金になりうる。

この2つは逆方向を向いています。したがって「自分の意見を先に言うとAIが同調する」という単純な理解は、この研究の半分しか捉えていません。言い方によって、増幅にも抑制にも転びうる。

なぜ「相談したのに同意されただけ」に気づけないのか

壁打ちの結果が自分の反射になっていても、その場では気づきにくい構造があります。

ひとつは、同意は検証の手間がかからないことです。返ってきた答えが自分の考えと違えば、私たちは理由を確認します。合っていれば、そのまま先へ進みます。確認の労力が非対称なので、同意した答えほど素通りします。

もうひとつは、壁打ちの目的が曖昧なことです。判断を検証したいのか、言語化を手伝ってほしいのか。後者なら同意は機能ですが、前者なら同意は失敗です。目的が曖昧なまま使っていると、どちらの結果が返ってきても「役に立った」と感じられます。

そして三つ目に、私たちは説明した内容を情報の提供だと思っていることがあります。状況を丁寧に説明するのは、良い相談の作法です。しかしその説明には、自分の見立てが織り込まれています。事実を述べたつもりの部分に、すでに結論の方向が含まれている——この重なりは、書いている本人からは見えにくいものです。

確かなことと、まだ確かではないこと

確かなこと：研究が複数ターンの対話状況における指示調整済みLLMの認知バイアス表出を評価したこと。さらされたことの効果と意味内容の効果を切り分ける3条件の枠組みを導入したこと。81セルにわたる24,300件の陪審検証済みプロンプトのベンチマークを構築したこと。8つのフロンティアLLMのうち6モデルで、偏った会話文脈がゼロショットと比べてバイアス表出を系統的に増加させたこと。増幅と抑制という2つの競合する力学が指摘されていること。

まだ確かではないこと：本論文はarXivのプレプリントで、査読・学会採択の記載はありません。投稿日については、取得したページの表示とarXiv IDの示す時期が一致しなかったため、本記事では特定していません。 評価された8モデルの名前・版数、バイアス増加の効果量やパーセンテージも、確認した範囲には記載がないため扱っていません。また、この結果が実際の業務相談——固有の事情を含む長い会話——でどう現れるかは、この研究の範囲外です。

判断軸の提示

「自分の意見を先に言わない」という規則を作るより、「同じ問いを、立場を変えて2回投げる」ことを習慣にすること。

この研究が示しているのは、増幅と抑制という2つの力が同時に働く構造です。だとすれば、「こう書けば安全」という単純な規則は作りにくい。書き方を制御するより、結果が文脈に依存しているかどうかを確かめるほうが確実です。

具体的には、次のようになります。

1. 1回目は、いつもどおり相談する — 自分の見立てを含めて構わない
2. 2回目は、反対の立場から同じ問いを投げる — 「この案を進めるべき理由を挙げてください」と「見送るべき理由を挙げてください」の両方
3. 結論が動くかを見る — 動いたなら、その回答は会話の文脈に依存している
4. 動いた場合、どちらも根拠として弱い — 判断材料にするなら、文脈に依存しない部分だけを取り出す

4番目が要点です。両方向で違う答えが返るとき、片方だけを採用する理由は、AIの側にはありません。選んでいるのは自分だということになります。

自分でも試せる、最小の検証

直近でAIに相談した案件を1つ選び、そのときのプロンプトを読み返して、「事実」と「自分の見立て」に線を引いてみてください。

「売上が3期連続で下がっている」は事実です。「この施策はもう限界だと思っている」は見立てです。両者が混ざったまま送っていたなら、返ってきた答えは見立てを受け取ったうえでのものです。

次の一歩は、見立ての部分だけを削った同じ質問をもう一度投げてみることです。結論が変わらなければ、その回答は事実にもとづいています。 変わったなら、最初の答えは相談ではなく、確認だったことになります。

この記事で扱ったような、AIの使い方の設計を自社の状況に照らして整理したい場合は、無料診断ツールで状況を言語化するところから始めることができます。