AIに「人間の役」を演じさせると、バイアスまで受け継がれる｜役割指定が挙動を変える

AIに「人間の役」を演じさせると、バイアスまで受け継がれる｜役割指定が挙動を変える

「あなたは経験10年のベテラン営業担当です。以下の案件について判断してください」——生成AIの使い方として、この書き出しはすっかり定着しました。役割を与えると出力が具体的になる。そう教わり、社内のプロンプト集にも型として載っています。

この型が、出力の質を上げているのか、それとも性質を変えているのか。ここを区別している現場は、あまり多くありません。

この記事では、査読誌に掲載された研究をもとに、役割指定がAIの判断の何を変えるのかを整理します。

出典は論文「The Role of Roles: When are LLMs Behavioural in Information Systems Decision-Making」（Nazmiye Guler, Michael Cahalane, Samuel Kirshner, Richard Vidgen、Australasian Journal of Information Systems, Vol.29 (2025)）です。掲載ページはこちらです。

なお当サイトにはAIエージェントは人間の認知バイアスを引き継いでいないか、という疑い方という記事があります。あちらは「引き継いでいるのではないか」と疑う視点そのものを扱い、この記事は「役割を与えるかどうかで挙動が変わる」という操作の話です。 プロンプトを書く手元の判断に近いのが、こちらになります。

30秒で要点

• 研究は、情報システム分野の文献から3つの実験タスク——フィッシング脅威の識別、製品ローンチの意思決定、ITプロジェクトの管理——でChatGPTの意思決定を検証した
• 検証の焦点は、プロンプトエンジニアリングの技法である「役割の割り当て」が、行動的な意思決定と合理的な意思決定のどちらへ導くかにあった
• 人間の役割を演じるよう促されたとき、ChatGPTはしばしば人間の意思決定者のように振る舞い、同様のバイアスへの脆弱性を示した
• AIとして振る舞うよう指示された場合には、より高い一貫性を示し、行動的要因への脆弱性が減少した
• 掲載は査読誌 Australasian Journal of Information Systems の Vol.29（2025年）

何を比べた研究なのか

まず設計を確認します。研究が選んだのは、情報システム（IS）分野の文献にある3つの実験タスクです。

1. フィッシング脅威の識別 — 怪しいメールを見分ける判断
2. 製品ローンチの意思決定 — 出すか出さないかの判断
3. ITプロジェクトの管理 — 続けるか止めるかを含む運用判断

いずれも、人間がやると特定のバイアスが出やすいことが知られている領域です。たとえばプロジェクトの継続判断は、それまでに投じた費用に引きずられやすいことが繰り返し観察されてきました。

そのうえで研究は、役割の割り当てという技法が、ChatGPTを行動的な意思決定と合理的な意思決定のどちらへ導くかを検証しました。

なお論文は「ChatGPT」と記すのみで、本記事が確認した範囲ではモデルの版数を明示していません。したがってこの記事でも版数には触れません。

人間の役を与えると、人間のように間違えた

結果は明快です。論文はこう報告しています。

「我々の発見は、人間の役割を引き受けるよう促されたとき、ChatGPTがしばしば人間の意思決定者のように振る舞い、同様のバイアスへの脆弱性を示すことを明らかにする。」

「〇〇の担当者として判断してください」と書くと、その担当者らしい判断が返ってくる。ここまでは期待どおりです。問題は、「らしさ」に何が含まれているかでした。

人間の意思決定者らしさとは、経験に裏打ちされた勘所だけではありません。同じくらい、人間が陥りやすい偏りも含まれます。 役割を与えることで具体性が上がったと感じていた出力は、同時に、その役割の人が持つ弱点も引き受けていた可能性があります。

AIとして振る舞わせると、一貫性が上がった

もう一方の結果が、この研究の実用的な部分です。

「しかしながら、AIのように振る舞うよう指示されたとき、ChatGPTはより高い一貫性を示し、行動的要因への脆弱性が減少した。」

つまり、役割指定という同じ技法が、与える役割によって逆向きに働いたことになります。人間の役なら人間に寄り、AIの役ならAIに寄る。

ここで注意したいのは、一貫性が高いことが常に良いとは限らない点です。顧客がこの提案をどう受け取るかを想定したい場面では、人間らしい揺れがあるほうが役に立ちます。目的が「人間の反応を予測すること」なのか「安定した判断を得ること」なのかで、望ましい設定が反転します。

なぜ役割指定を無条件に良いものだと思ってしまうのか

役割指定が広まった経緯を考えると、この見落としが起きる理由が見えてきます。

ひとつは、効果がすぐ体感できることです。役割を与えると、出力の語彙が変わり、具体的な例が増え、それらしい体裁になります。この変化は目に見えます。一方で、判断の偏りが増えたかどうかは、答え合わせをしない限り見えません。

もうひとつは、プロンプトの評価が読みやすさで行われがちなことです。社内でプロンプトを共有するとき、良し悪しの判定基準は「使いやすい出力が返るか」になります。返ってきた文章の説得力は評価できますが、その判断が正しかったかは、あとにならないと分かりません。

そして三つ目に、役割指定は型として配布しやすいという事情があります。「あなたは〇〇です」で始めるという規則は、社内標準として書きやすく、守られたかどうかも確認できます。運用しやすい規則ほど、効果の検証を経ずに定着します。

確かなことと、まだ確かではないこと

確かなこと：この研究がAustralasian Journal of Information Systems の Vol.29（2025年）に掲載された査読論文であること。フィッシング脅威の識別・製品ローンチの意思決定・ITプロジェクトの管理という3つのISタスクでChatGPTの意思決定を検証したこと。役割の割り当てが行動的／合理的な意思決定のどちらへ導くかを検証したこと。人間の役割を与えるとしばしば人間の意思決定者のように振る舞い同様のバイアスに脆くなったこと。AIとして振る舞うよう指示すると一貫性が高まり行動的要因への脆弱性が減ったこと。

まだ確かではないこと：実験に使われたモデルの版数は、本記事が確認した範囲では示されていません。バイアスの発生率や一貫性の改善幅といった数値も同様です。また、確認されているのは3つの情報システム系タスクにおける観察であり、あらゆる業務での再現を保証するものではありません。 発行は2025年です。

判断軸の提示

役割を与える目的が「人間らしさを得ること」なのか「具体性を得ること」なのかを、書く前に分けること。

この研究が示しているのは、役割指定という一つの技法が2つの異なる効果を持つということです。目的が分かれているなら、書き方も分かれるはずです。

判断の順序としては、次のようになります。

1. その出力を、何に使うのか — 判断そのものに使うのか、人の反応を想定するために使うのか
2. 判断に使うなら、一貫性が要る — 同じ案件を明日投げても同じ結論が返ってほしいなら、人間の役を与える理由は薄い
3. 具体性がほしいだけなら、役割ではなく文脈を書く — 「ベテラン営業として」ではなく、業種・商材・想定顧客・制約を具体的に書けば、役割を演じさせずに具体性は得られる
4. 人の反応を知りたいなら、役割は有効かもしれない — ただしその出力は「人がどう思うかの推定」であって、「正しい判断」ではない

3番目が実務的な代替案です。役割指定が担っていた仕事の多くは、文脈の記述で置き換えられます。 「誰として答えるか」ではなく「何を前提に答えるか」を書けば、演じさせずに済みます。

自分でも試せる、最小の検証

社内で使っているプロンプトの型を1つ選び、「あなたは〇〇です」の一文だけを外したものを用意してください。 外した分の情報——業種、商材、判断の前提、制約——は、事実として本文に書き足します。

同じ案件を両方に投げて、結論が変わるかを見ます。結論が変わらないなら、役割指定は具体性の担い手ではなく、装飾だったということです。結論が変わるなら、役割が判断そのものを動かしていたことになります。動かしているなら、どちらの結論を採るのかは、意識的に決める必要があります。

この記事で扱ったような、プロンプト設計の判断を自社の状況に照らして整理したい場合は、無料診断ツールで状況を言語化するところから始めることができます。