「AIに任せる」と「AIの答えを採る」は別の判断｜混ぜたまま改善しても効かない

「AIに任せる」と「AIの答えを採る」は別の判断｜混ぜたまま改善しても効かない

社内のAI利用ガイドラインを作ったのに、なぜか現場で守られていない——そう感じたことはないでしょうか。原因を「AIを信じすぎている」あるいは「AIを疑いすぎている」という一つの軸で説明しようとすると、対策も「もっと注意しよう」という精神論に収束しがちです。しかし、AIとの協働で人が下している判断は、実はもともと性質の異なる2種類に分かれています。

2026年5月27日にarXivへ投稿され、ACL Findings 2026に採択されたとされる論文(arXiv:2605.28255)は、この2つの判断を「委任(delegation)」と「採用(adoption)」として区別し、24試合・専門家23名・AIエージェント16種を対象にしたクイズ形式の協働ゲームで、それぞれの判断がどう崩れるかを観察しています。この記事では、この研究をもとに、AI活用の失敗を1つの軸で捉えることの限界を整理します。

30秒で要点

• 論文は、AIとの依存判断を「委任(出力を見ずに自律的に行わせる決定)」と「採用(示唆を見たうえでどう使うか決める判断)」という別々の軸として定義している
• 24試合・専門家23名・AIエージェント16種を対象に、委任387件・採用1,440件を観察
• 人間とAIの協働は人間単独・AI単独より良い成績を出したが、判断は最適ではなく、過少依存3.9%・過剰依存1.7%が発生していた
• AIの示唆が人間自身の当初の誤答と一致していた場面では、過少依存が64.5%まで上昇し、著者らはこれを確証バイアスに帰属している

「委任」と「採用」を1つの軸で語ってしまう理由

「AI活用ガイドライン」という言葉を聞いたとき、多くの人が思い浮かべるのは「どこまでAIを信じてよいか」という単一の目盛りではないでしょうか。目盛りの端に「全面的に任せる」、もう片方の端に「一切信じない」を置き、自社の適正な位置を探す——このイメージは分かりやすい反面、実際に現場で起きている判断を正しく写し取れていません。

論文は、AIとの協働で人が下す判断を、そもそも別の軸に分けて捉えています。委任は、AIにタスクを渡し、その結果を見ないまま次に進めるかどうかの決定です。採用は、AIが出した示唆を実際に見たうえで、自分の判断にどう組み込むかを決める、別の局面の決定です。この2つを同じ「信頼度」という1本の目盛りで測ろうとすると、委任の場面で必要な基準と、採用の場面で必要な基準が混ざり合い、どちらの基準も曖昧なまま運用されることになります。論文が、同じ被験者について委任と採用の両方を同時に扱った先行研究がほとんど無いと指摘しているのは、この2つが実務上ずっと混同されてきたことの裏返しとも読めます。

協働は「勝っている」のに、判断は最適ではない

実験は、クイズ形式の協働ゲームとして設計されました。24試合に23名の専門家と16種のAIエージェントを参加させ、委任の判断387件、採用の判断1,440件を観測しています。結果として、人間とAIの協働チームは、人間だけのチーム・AIだけのチームよりも良い成績を残しました。ここだけを見れば「AIとの協働はうまくいっている」という結論で終わりそうです。

しかし論文は、その内側にある個々の判断が最適ではなかったことも同時に報告しています。正しいAIの示唆を活かせなかった過少依存が機会の3.9%、逆にAIの誤った示唆に引きずられた過剰依存が1.7%、それぞれ発生していました。全体の成績が良いことと、個々の判断がすべて最適であることは、別の話です。 チームとしての成果に満足して個々の判断の質を点検しなければ、この3.9%・1.7%という取りこぼしは見えないまま積み重なっていきます。

AIの確信度は、意見が割れた場面ほど頼りにならない

「AIがどれだけ自信を持って答えているか」を判断材料にすればよいのでは、と考える人もいるかもしれません。しかし論文は、人間とAIの答えが食い違う場面に限って見ると、AIが報告する確信度はほぼ偶然水準だったと報告しています。つまり、AIと意見が割れているまさにその瞬間——本来もっとも判断に迷い、確信度を参考にしたい場面——において、確信度の数値そのものが参考にならないというのがこの結果です。「確信度が高ければ信じる」という単純なルールは、意見が一致している場面ではうまく機能するかもしれませんが、対立する場面でこそ機能しないのだとしたら、その場面のための別の判断軸が必要になります。

「AIが自分と同じ意見のとき」に採用判断が最も壊れる

論文が示す最も示唆に富む結果は、過少依存の発生率が一様ではなく、ある特定の状況で跳ね上がるという点です。AIの示唆が、参加者自身の当初の誤った回答と一致していた場面に限ると、過少依存の発生率は64.5%まで上昇しました。著者らはこれを確証バイアス——自分がすでに持っている考えを裏づける情報を重視し、それを覆す情報を軽視してしまう傾向——に帰属しています。

これは直感に反する結果です。「AIが自分と同じ意見を言っている」状況は、一見すると最も安心して判断できる場面のように思えます。しかしこの実験結果に沿って考えると、その安心感こそが、後から示される別の(正しい)情報を退けてしまう土壌になっているという見方ができます。採用の判断が最も壊れやすいのは、AIが自分に反対しているときではなく、賛成しているとき——そう捉え直すと、AI利用ガイドラインで注意を促すべき場面が、これまでの想定とは違う場所にあることに気づきます。

なお、この64.5%という数値がどのような条件・母集団のもとで算出されたものかについては、本記事が確認できた論文抄録の記載だけでは特定できません。数値そのものは論文に明記された結果として確認できますが、細部の解釈にまで踏み込むことは控えます。

確かなことと、まだ確かではないこと

確かなこと: 論文が「委任」と「採用」を別個の判断として定義し、24試合・専門家23名・AIエージェント16種の実験で委任387件・採用1,440件を観察したこと。協働チームが人間単独・AI単独より高い成績を出しつつ、過少依存3.9%・過剰依存1.7%が発生していたこと。人間とAIの意見が割れる場面でAIの確信度がほぼ偶然水準だったこと。AIの示唆が人間の当初の誤答と一致する場面で過少依存が64.5%まで上昇し、著者らが確証バイアスに帰属していること。

まだ確かではないこと: 実験はクイズ形式の協働ゲームという特定の設定で行われたものであり、サンプル規模も大きくはないため、一般化の範囲は限定的に見る必要があります。64.5%という数値の厳密な算出条件も、抄録の記載以上には確認できていません。またACL Findings 2026への採択についても、本記事はarXivページ上の記載を確認したにとどまり、学会側の一次情報までは確認していません。

自分でも試せる、最小の検証

自社のAI利用ガイドラインを見直すときは、「委任してよい業務の条件」と「採用の判断を誤りやすい場面」を分けて、それぞれ別の文で書き出してみてください。多くのガイドラインが「AIの提案は鵜呑みにせず確認する」という一文だけで両方をまとめてしまっていますが、委任の基準(どこまで結果を見ずに任せてよいか)と、採用時に特に注意すべき場面(AIが自分の当初の考えに同意しているとき)は、本来別々に言語化する必要がある論点です。

判断軸の提示

「AIをどこまで信じるか」を1本の目盛りで管理しようとしないこと。委任(出力を見ずに任せる判断)と採用(示唆を見て使い方を決める判断)は別の軸であり、特に採用の判断は、AIが自分と同じ意見を示しているときに最も崩れやすいという前提で設計すること。 この2つを混同したガイドラインは、どちらの場面にも十分に効かないまま運用され続けることになります。

報酬設計の側からAIへの過度依存を検証した実験はAIへの過信は「気をつけよう」では減らない｜報酬設計を変えた実験が示した数字で、生成AI導入時の責任分界の設計は生成AI導入で事故る会社の共通点で扱っています。この記事は、それらとは別に「委任」と「採用」という判断の分解そのものに焦点を当てています。

この記事で扱ったような判断を、自社の状況に照らして整理したい場合は、無料診断ツールで状況を言語化するところから始めることができます。