「わからないときは黙るAI」は誰に効くのか｜同じ設計が自己評価で逆向きに働いた実験

社内にAIアシスタントを入れるとき、途中で必ず出てくる設計があります。「自信が無いときは答えさせない」というものです。確信度が低ければ出力を抑える、根拠が薄ければ「わかりません」と返す。暴走を防ぐ仕掛けとして、ほぼ反対が出ません。そして、全員に同じ形で配られます。

この設計を、長いあいだ「情報量を減らす操作」として理解していました。答えを出さないのだから、使う側が受け取る情報は減る。減ることで誤りの持ち込みも減る。トレードオフは量と安全のあいだにある、という整理です。

しかし、ある事前登録実験の結果を読んで、整理が足りていないことに気づきました。同じ「黙る」設計が、使う人によって逆向きに働いていました。 自分の専門性を高く見積もっている人では助言の受容が上がり、低く見積もっている人では下がる傾向を示したのです。

量だけが変わる操作なら、こうはなりません。全員の受け取る情報が同じだけ減るはずです。逆向きに動いたということは、変わっていたのは量ではなく、何か別のものです。

この記事の見立てはここにあります。黙ることは、情報を減らす操作ではなく、判断の負担を誰に寄せるかの操作である。 だとすれば問うべきは「良いガードレールか」ではなく、「誰の負担を減らし、誰の足場に触れるのか」になります。

扱わないものを先に置きます。どういうときにAIが黙るべきかという最適化の問題は論じません。特定の製品の設定方法も扱いません。ここで扱うのは、同じ設計が人によって別の意味を持つという構造だけです。

30秒で要点

• 参照する実験では、選択的に助言するAI（黙ることがある側）と毎回助言するAIのいずれかに参加者が割り付けられた
• 同じ設計が、自分の専門性を高く見積もる人では受容を上げ、低く見積もる人では下げる傾向を示した。原文の強さは「上げる」と「下げる傾向」で書き分けられている
• 「専門家」は実際の知識ではなく、自己評価スコアの上位30%（平均3.667以上・115人）という操作的な定義である
• 受容率は専門家層で38.2%→53.3%、非専門家層で73.4%→68.1%。非専門家層のほうが、どちらの条件でも水準は高い
• 著者の説明は認知的負担である。負担は専門家層で2.642→2.139へ下がり、非専門家層では2.810→2.811でほぼ変わらなかった
• 低く見積もる層で何が起きたのかは、この論文では説明されていない。負担はほぼ不変であり、機構は空白のまま残っている
• 判断軸は「黙らせるか否か」ではなく「この設計が、誰の負担を減らす前提で作られているか」

表が収まらない場合は、横にスクロールできます

なぜ「黙る設計」は万人向けに見えるのか

この設計が全員に同じ形で配られるのには、理由があります。

第一に、黙ることは「しないこと」に見えます。 何かを追加する設計なら、合う人と合わない人を考えます。しかし「出力を抑える」は引き算に見えるため、誰にとっても同じ分だけ引かれると想像されます。引き算に個人差があるという発想が、そもそも起きにくい。

第二に、リスクの側からしか評価されません。 「自信の無い答えを出すリスク」は想像できます。一方、「答えが返ってこなかったとき、その人がどう振る舞うか」は、設計の時点では観察できません。見えるリスクだけが設計の根拠になります。

第三に、評価の単位が人ではなく出力です。 「この出力は適切だったか」で評価すると、黙った回は誤りを出していないので減点されません。しかし、黙られた人がその後どう決めたかは、出力の評価には入りません。

この3つが揃うと、「黙るのは安全で、安全は全員に等しく良い」という前提が検証されずに通ります。実験が揺らしたのは、この後半部分です。

実験が割り付けたもの、測ったもの

参照するのは、Nicholas Wolczynski、Yotam Liel、Maytal Saar-Tsechansky、Lior Zalmanson による研究です（arXiv:2610.27258、"The Differential Effects of AI Abstention on Advice Acceptance"、2026年10月19日投稿。2026年10月26日に要旨と本文を確認）。

性格を先に押さえます。これはプレプリントであり、査読誌に掲載されたものではありません。 公開ページに掲載誌情報の記載はなく、査読を通った知見として扱うことはできません。

設計はこうです。事前登録された実験で、参加者は反復的な金融判断を行い、2つの助言方式のいずれかと組みました。選択的に助言するAIと、毎回助言するAIです。ここで取り違えやすいのは群の対応で、処置群が「選択的に助言する」側、つまり黙ることがある側です。

標本は Prolific で募集した600人で、除外後の分析標本は455人（統制群213人・処置群242人）です。参加者は8件の金融判断課題を行いました。うち6件が黙ることが起きる初期の段階で、受容を測るのは残りの2件です。

ここを押さえておくと、結果の射程が見えます。測定対象は金融判断であり、評価に使われたのは2課題です。他の領域の判断や、長期の運用に広げられる設計ではありません。

「専門性」は、実際の知識ではなかった

この研究で最も誤読されやすいのは、「専門性が高い人／低い人」という分け方です。

分割は自己評価で行われています。知覚された専門性は、消費者金融保護局（Consumer Financial Protection Bureau）の金融スキル尺度から採った3項目の平均で測られました。そして主分析では、この自己評価スコアが標本の上位30%（平均3.667以上・115人）に入る人を専門家、残りの340人を非専門家として扱っています。

中央値での分割ではありません。 上位30%という切り方です。頑健性の確認として、二分せず連続変数のまま交互作用を見た分析も報告されています。

この操作的定義を押さえないと、結果の意味が変わってしまいます。ここで観察されたのは「詳しい人と詳しくない人の違い」ではなく、「自分を詳しいと見積もっている人と、そうでない人の違い」です。実際の金融知識や職業的専門性による差として読むことはできません。

受容率は、逆向きに動いた

結果の中心はここです。評価段階での助言受容率は、次のようになりました。

表が収まらない場合は、横にスクロールできます

著者の記述は、自分の専門性を高く見積もる利用者では受容が上がり、低く見積もる利用者では下がる傾向を示したというものです。原文はこの2つを同じ強さで書いていません。前者は「上げる」、後者は「下げる傾向がある」です。この強弱の差を均してはいけません。

そして、表を縦に見ると、見出しだけでは気づけないことが出てきます。自己評価が低い層のほうが、どちらの条件でも受容率の水準そのものは高いのです。68.1%は、専門家層の処置群53.3%より高く、統制群38.2%よりはるかに高い。

したがって、「非専門家は助言を受け入れなくなった」という要約は成り立ちません。正確には、水準が高いまま下がったです。水準と変化を混同すると、両群が反対の場所にいるかのような絵になりますが、実際には同じ方向の高低差のなかで、変化だけが逆向きでした。

もう1つ報告されている所見があります。黙る設計は、反復的なやりとりのなかで専門家層に見られる受容の低下を緩和しました。 これは同一実験内の観察です。

著者の説明は「負担」であり、片側にしか届いていない

なぜ逆向きになったのか。著者はこれを認知的負担で説明しています。

ここでの負担は、AIの推奨と自分の判断を繰り返し突き合わせる作業の重さです。AIが毎回何かを言ってくると、使う側は毎回それを自分の判断と照合しなければなりません。自分の見立てを持っている人ほど、この照合は重くなります。

実際、負担の測定値は次のように動きました。

表が収まらない場合は、横にスクロールできます

著者は、黙る設計が専門性を高く見積もる利用者のこの負担を軽くしたように見え、それによって助言への受容性を高めたと述べています。原文は「軽くしたように見える」という表現であり、断定ではありません。

ここで重要なのは、下の行です。 自己評価が低い層の負担は、2.810から2.811へ、ほぼ変わっていません。

つまり、著者の説明は片側にしか届いていません。 高群については負担が減ったという経路が示されています。低群については、負担が動いていないので、この説明では受容が下がったことを説明できません。低群で何が起きたのかは、この論文では説明されていないのです。

「黙られると足場が外れるのだろう」という解釈は自然に浮かびます。実際、筆者も最初にそう考えました。しかしこれは論文の記述を超えた推論であり、論文の主張として書くことはできません。 負担がほぼ不変だったという測定値は、その推論と整合しないわけではありませんが、支えてもいません。ここは空白として残っています。

説明が片側にしかないことは、設計の判断材料としてはむしろ重要です。 「高群で効く理由」は分かりつつある。「低群で効かない理由」は分かっていない。この非対称性を知らずに全員へ配ると、分かっていない側で何が起きるかを見ないまま運用することになります。

この数値はどれくらい強いのか

結果の向きは一貫していますが、強さを過大に読まないための材料も、報告されたまま押さえておきます。

交互作用——つまり「処置の効果が層によって違う」という関係——の係数とp値は次のとおりです。二値で分けたモデルでは、統制変数ありで係数1.047・p=0.016、統制変数なしで係数0.888・p=0.027。連続変数版では、統制ありで係数0.500・p=0.032、統制なしで係数0.450・p=0.049です。

p値は0.016から0.049の範囲に収まっており、いずれも慣例的な閾値のすぐ内側です。 したがって「強く有意」と書くことはできません。向きは4つのモデルで一貫していますが、余裕は大きくありません。

負担を経由する経路についても同様です。処置と層の交互作用が負担に与える係数はβ=−0.518・p=0.024。そして専門家層の間接効果は+0.023で、95%信頼区間は[+0.003, +0.062]です。下限が+0.003、つまりゼロのすぐ上にあります。

なお、負担の尺度が何点満点なのかは確認できていません。したがって2.642から2.139への変化を「◯%の減少」と換算することはできません。

探索的な所見として、助言が判断を改善する場面での適切な受容が増え、自己評価が高い層の下流の正確性が上がったことも報告されています。ただし著者自身がこれを探索的と明示しています。 事前登録された主分析と同列に扱うことはできません。

確かなことと、確かでないこと

確かなこと（2026年10月26日に arXiv:2610.27258v1 の要旨と本文を確認した範囲）：この報告がプレプリントであり、公開ページに掲載誌情報が無いこと。事前登録された実験で、参加者が反復的な金融判断を行い、選択的に助言するAIと毎回助言するAIのいずれかと組んだこと。Prolific で600人を募集し、除外後の分析標本が455人（統制群213人・処置群242人）であること。8件の金融判断課題のうち6件が初期段階、2件が受容の測定であること。知覚された専門性が金融スキル尺度の3項目平均で測られ、上位30%（平均3.667以上・115人）を専門家、残り340人を非専門家とする二分が主分析で使われたこと。受容率が専門家層で38.2%→53.3%、非専門家層で73.4%→68.1%だったこと。交互作用の係数とp値が上記の4通りであること。認知的負担が専門家層で2.642→2.139、非専門家層で2.810→2.811だったこと。間接効果が+0.023（95%信頼区間 [+0.003, +0.062]）であること。著者が黙るかどうかを一次的な設計特性と位置づけ、対象とする利用者に合わせた調整が必要だと述べていること。

確かでないこと：自己評価が低い層で受容が下がった機構は、この論文では説明されていません。負担の尺度の満点が確認できていないため、変化を割合に換算することもできません。下流の正確性の向上は探索的所見であり、主結果と同じ確かさではありません。また、この結果が金融判断以外の領域、8課題より長い運用、あるいは実際の専門知識による分割でも同じ形で現れるかは、この実験からは言えません。

設計の問いを立て替える

ここからは、研究の結果を踏まえた編集部の考察です。論文が導いた指針ではなく、設計を点検するための読み方として示します。

論文が述べているのは、黙るかどうかは一次的な設計特性であり、対象とする利用者に合わせて調整しなければならないということまでです。どう配り分けるべきかの指針は示されていません。 したがって「専門家には黙らせ、初心者には毎回答えさせればよい」という処方は、この研究からは出てきません。

出てくるのは、問いの立て替えです。

これまで「黙る設計を入れるか」は、出力の質の問題として扱われてきました。誤った助言が出る確率と、助言が得られない不便さを比べる、という形です。この比較には、使う人が出てきません。

実験が示したのは、同じ設計が人によって逆向きに働きうるということでした。だとすれば、比較の形が変わります。問いは「誤りと不便のどちらを取るか」ではなく、「この設計は、誰の負担が重いという前提で作られているか」になります。

そして、その前提は多くの場合書かれていません。 「自信が無ければ答えない」という仕様書に、「照合の負担が重い利用者を想定している」とは書かれていない。書かれていない前提は、合わない利用者に当たったときにだけ表面化します。

実務上、ここで注意したいことが1つあります。この研究の分割は自己評価でした。社内で設定を配り分けようとすると、たいてい使うのは役職・経験年数・資格といった外から見える属性です。自己評価と外形的な属性が一致する保証は、この研究にはありません。外形で分けることは、この結果が扱った分け方とは別の操作です。

助言の受け入れ方が情報量だけで決まらないという方向では、AIの助言をためらうのは「疑い」ではなく「慎重さ」かもしれない｜アルゴリズム忌避を決定閾値で測った実験、信頼を決めていたのは「誰が言ったか」ではなく「どう言ったか」だった｜AI助言の文体と出所ラベルの実験、「説明できるAI」は判断を良くするのか｜705人の実験が示した効く条件と効かない条件でも別の角度から扱っています。

自分の設計で試せる、最小の検証

いま社内で使っているAIの設定を1つ選んでください。出力を抑える条件が入っているものが望ましいです。

そのうえで、1文だけ書いてみてください。「この設定は、◯◯という負担が重い人のために入っている」。

書けた場合、次の確認に進めます。その◯◯の人が、実際の利用者のどれくらいを占めているか。 占めていない層にとって、この設定は負担を減らしていません。減らさないものが何をしているかは、この実験の低群と同じく、観察しないと分かりません。

書けなかった場合、その設定は誰の負担も特定せずに入っています。 入れた理由は「誤った出力を避けるため」だったはずで、それは出力側の理由です。使う人の側の理由が空欄のまま配られている状態です。

この作業の価値は、設定を変えることではありません。設定が想定している利用者を、言葉にして取り出すことです。取り出せれば、合わない層がいるかどうかを確かめられます。取り出せないあいだは、確かめる対象すらありません。

ガードレールを配る前に立ち返る問い

立ち返りたいのは、「この設計は、何を減らしているのか」という問いです。情報を減らしているのか、照合の作業を減らしているのか。この2つは同じ操作から生じますが、受け取り方は人によって違います。

もう1つは、「減らないほうの人には、何が起きるのか」という問いです。この実験では、自己評価が低い層の負担はほぼ変わらず、受容は下がる傾向を示しました。なぜそうなったかは分かっていません。 分かっていないことを知っている状態と、起きていないと思っている状態は違います。

同じ設計が全員に同じ意味を持つという前提は、確かめられないまま置かれやすい。その前提を言葉にして取り出すだけで、確かめられる対象になります。

参考資料・引用元

• The Differential Effects of AI Abstention on Advice Acceptance（Nicholas Wolczynski, Yotam Liel, Maytal Saar-Tsechansky, Lior Zalmanson、arXiv:2610.27258v1、2026年10月19日投稿。プレプリントであり査読誌掲載ではない。2026年10月26日に要旨と本文を確認）