2026年10月14日にCognitive Research誌の本文（オープンアクセス、DOI: 10.1186/s41235-026-00726-w）を内蔵ブラウザで読み、3つの実験の統計を確認した。一般的な警告は偏ったAIの影響を小さくしたが（実験2）、「誤り率」と「正答率」の言い換えの差、および「警告があっても支援なしに追いつかない」は、この研究では示されていない。課題は医療診断のシミュレーションである。
生成AIやAI支援ツールを導入するとき、説明文に「AIの出力は誤りを含む場合があります」と書く。研修で「過信しないように」と伝える。この手続きには、自然な期待が込められています。誤りの可能性を知っていれば、誤りに引きずられずに済むだろうという期待です。
もしこの期待が成り立つなら、導入時の注意喚起は運用設計の一部として機能します。成り立たないなら、注意喚起は「やった」という記録だけを残して、肝心の偏りはそのまま通過していくことになります。
この記事では、AIの偏りが人に移る過程を3つの実験で追った研究を手がかりに、注意喚起が何を変えて何を変えなかったのかを分けて考えます。結果はきれいな一本道ではありません。効いた部分と、効いたと言えない部分が混ざっています。 その混ざり方そのものが、運用を設計する側には使える情報だと思います。
30秒で要点
- 医療診断を模した二値分類課題で、AIの提案に一方向の偏った誤りを仕込んだ3つの実験がある
- 実験2では、AIが誤りうると一般的に警告された群の誤りが有意に少なかった（F(1,194)=7.95、p=.005）
- 実験3では、警告ありAI群と警告なしAI群のあいだに明確な差が見られず、効果の再現は安定していない
- 「80%は正しい」と「20%は間違う」の言い換えに差は出ていない（実験1の直接比較は ptukey=.997）
- AIの誤り率を最も正確に見積もったのは何も知らされなかった群で、その群はそれでも偏った提案に影響された
表が収まらない場合は、横にスクロールできます
| 用語 | 意味 |
|---|---|
| p値 | 統計的有意性の目安。小さいほど「偶然ではこの差は出にくい」と読む |
| ptukey | 3群以上を2つずつ比べるときに、比べる回数の多さを補正したp値 |
| 主効果 | 他の条件をまたいで見たときの、ある要因全体の影響 |
| η²p（偏イータ二乗） | 効果の大きさの目安。0に近いほど小さい |
| 偽陽性／偽陰性 | 本当は該当しないものを該当と判定する誤り／本当は該当するものを見落とす誤り |
この3つの実験が測っていたもの
扱うのは、Lucía Vicente・Helena Matute による論文「Warning people about the risk of AI error mitigates human acquisition of AI bias」です（Cognitive Research: Principles and Implications、Volume 11, article number 36 (2026)、オンライン公開 2026年4月30日、オープンアクセス、DOI: 10.1186/s41235-026-00726-w）。
3つの実験はいずれも、医療診断を模した二値分類課題で行われました。参加者は画面に示された情報をもとに「該当する／しない」を判定します。課題には2つの段階があり、前半（フェーズ1）ではAIの提案が表示され、後半（フェーズ2）ではAIの支援なしで同じ種類の判定を行います。そしてAIの提案には、一方向に偏った誤りが仕込まれています。
測っているのは「人がAIの偏りを受け取り、支援が消えた後も同じ方向に間違え続けるか」です。偏りの受け渡しを見る設計になっています。
参加者は実験ごとに異なります。
- 実験1: 大学生175名（平均年齢18.5歳、SD=0.83）。スペイン語話者。Aspredicted.org に事前登録
- 実験2: 募集プラットフォーム Prolific 経由の198名（平均30.6歳、SD=8.99）
- 実験3: Prolific 経由の243名（平均34.9歳、SD=11.9）
母集団が揃っていない点は読むときに効いてきます。実験1は大学生、実験2と3は一般参加者です。3つの実験の参加者を足し合わせた総数は、この記事では扱いません。論文がその合計を掲げているかを確認していないからです。
一般的な警告は、影響を小さくした
支持されている結果から書きます。
実験2では、AIが誤りうること・偏りうることを知らせる一般的な警告文を受けた群が、受けなかった群より誤りが少なくなりました。群の主効果はF(1,194)=7.95、p=.005、η²p=.039です。
ここで分母を押さえておく必要があります。従属変数は「課題全体の正確さ」ではありません。AIが誤った提案を出した60/40サンプルにおける誤りの数です。つまり「AIが間違えた場面で、人もつられて間違えたか」を数えています。この条件を外して「警告すると精度が上がる」と読むと、測っていないものを読んだことになります。
同じ分析では、AIの誤りの種類（偽陽性か偽陰性か）の主効果はなく（F(1,194)=1.23、p=.269）、群と誤り種別の交互作用もありません（F(1,194)=2.57、p=.111）。ブロックの主効果も有意ではありませんでした（F(2,388)=2.652、p=.072）。
警告は効いた。ただし効いたのは、この条件・この従属変数においてです。
「警告すれば支援なしに追いつく」とは書けない
実験3は、群を3つに分けています。警告ありAI支援群、警告なしAI支援群、そしてAI支援を受けない群です。
群の主効果はF(2,237)=20.076、p<.001、η²p=.145と大きく出ました。ただし差の内訳は、警告の有無ではありません。論文の図の説明によれば、支援なし群と2つのAI支援群のあいだには明確な差があり、2つのAI支援群（警告あり／警告なし）のあいだには明確な差が見られません。 警告を受けた参加者の誤り率は警告なしよりわずかに低いだけで、著者はこの差が統計的に有意とは見えないと記述しています。
ここで実験2と食い違いが出ます。実験2では警告の主効果が有意だったのに、実験3では2つのAI群の差が明確でない。この食い違いは隠さずに置いておくべきところだと思います。警告の効果は、この研究の中で一貫して再現されたわけではありません。
一方、ブロックを分けて見ると別の形が見えます。実験3のブロック3は、全群がAI支援なしで作業するブロックです。このブロックに限ると、Tukey補正つきの事後比較で警告ありAI群と支援なし群の差は有意ではありませんでした（t(240)=2.08、ptukey=.485）。対して警告なしAI群は支援なし群より有意に誤りが多かった（t(240)=4.17、ptukey=.001）。
この2つを並べると、「AIを使った人は使わなかった人に追いつかない」という読み方が修正されます。追いつかなかったのは警告を受けなかった群です。ただし逆向きにも慎重さが必要です。有意でないことは「同じである」ことの証明ではありません。言えるのは、このブロックでは差を検出できなかったというところまでです。
最も正確に見積もったのは、何も知らされなかった群だった
ここが、この研究でいちばん考えさせられる観察だと思います。
実験1では、参加者にAIの誤り率を見積もってもらっています。結果は次のとおりです。
表が収まらない場合は、横にスクロールできます
| 群 | 見積もった誤り率 | SD |
|---|---|---|
| 何も知らされなかった群 | 22.3% | 13.4 |
| 「20%は間違う」と伝えられた群 | 27.3% | 14.1 |
| 「80%は正しい」と伝えられた群 | 35% | 23.5 |
実際の誤り率にいちばん近かったのは、何も知らされなかった群です。伝えられた2つの群は、どちらも誤り率を過大に見積もりました。そして著者はこう続けています。誤り率をかなり正確に見積もれていたにもかかわらず、何も知らされなかった群は偏った提案に影響されていた、と。
これは記述統計です。群間差の検定はこの箇所に示されていないため、「無情報群のほうが正確だ」と検定結果として扱うことはできません。それでも、この観察が置いている問いは明確です。
正しく知っていることは、行動が影響されないことを意味しない。
警告が効いた実験2の結果と並べると、見え方が変わります。警告が効いたとしても、その経路は「誤り率の見積もりを正確にすることによって」ではなさそうです。見積もりが最も正確だった群が、影響されていたのだから。
なぜ「知らせれば防げる」と考えてしまうのか
この結果が意外に感じられる理由は、私たちが知識と行動の関係を直線で結びがちなところにあると思います。
1つ目に、注意喚起は確認しやすく、影響は確認しにくい。「説明文に書いた」「研修で伝えた」は記録に残ります。一方で「その人の判定がAIの偏りに引きずられたか」は、同じ人の偏りなしの判定と比べなければ測れません。確認できる側だけを見ていると、確認できない側も済んだように感じます。
2つ目に、自分が影響された経験を思い出せない。AIの提案に引きずられて判定が変わった瞬間は、本人の中では「自分で判断した」という形で残ります。影響の記憶が残らないので、影響の存在を低く見積もります。
3つ目に、「過信」という言葉が原因を知識の側に置いてしまう。過信という語は、知識が足りないか、確信が過剰だという像を作ります。すると対策も知識を足す方向に向かいます。ところが、見積もりが正確だった群が影響されていたのなら、足すべきものは知識ではないかもしれません。
言い換えの優劣は、この研究では示されていない
この研究を紹介する文章で見かけそうな形があります。「『80%は正しい』ではなく『20%は間違う』と伝えたほうが、偏りが移りにくい」。損失側の表現のほうが注意を引くという話とも相性がよく、もっともらしく聞こえます。
この研究は、それを示していません。
実験1のTukey事後比較で、「20%は間違う」群と「80%は正しい」群の差はt(172)=−0.80、ptukey=.997でした。差の片鱗もありません。有意になったのは「20%は間違う」群と何も知らされなかった群の差だけで（t(172)=3.41、ptukey=.022）、それもフェーズ1のブロック2に限られます。ブロック1とブロック3では群間差がありません。「80%は正しい」群と無情報群の差も有意ではありません（t(172)=2.45、ptukey=.262）。
さらに、偏りの受け渡しそのものにも群間差が出ていません。フェーズ2で曖昧な刺激（50対50のもの）をAIの偏りと同じ方向に分類した割合は、無情報 0.54（SD=0.43）、20%-wrong 0.45（SD=0.42）、80%-correct 0.46（SD=0.35）で、F(2,172)=.935、p=.395。著者自身が、AIの推奨における誤りのリスクについての事前情報は、参加者がAIの偏りを新しい曖昧な刺激へ一般化する傾向に差をもたらさなかったと書いています。
言い換えの優劣が示されていないという事実は、それ自体が使える情報です。説明文の文言を「20%は間違う」に書き換えるという施策は、この研究を根拠にはできません。フレーミング効果が働く場面はありますが、どの場面で働くかは別に確かめる必要があるということでもあります。
誤りの種類による非対称も、再現されなかった
もう1つ、落としておくべき候補があります。偽陽性と偽陰性のどちらの誤りを含むAIが、より人に影響するかという論点です。
実験2には、偽陽性条件で有意な事後比較がありました（t(194)=−3.127、ptukey=.011）。しかし著者自身がこれを完全に探索的で事前登録されていない分析と明記し、実験3で再現されなかったと述べています。
実験3では、誤り種別の主効果も（F(1,237)=3.578、p=.060、η²p=.015）、群との交互作用も（F(2,237)=0.482、p=.618）、ブロックとの交互作用も（F(2,474)=0.065、p=.936）、三元交互作用も（F(4,474)=0.341、p=.851）、すべて有意ではありませんでした。著者は、偽陽性条件で誤りが多くなる傾向の確かな証拠は得られなかったとまとめています。
探索的な分析で出た差が再現されなかったとき、どちらを採るか。この研究は、再現されなかった側を明記するという形で答えを示しています。
確かなことと、まだ確かではないこと
この研究から言えること
- 一般的な警告は、AIが誤った提案を出した場面での人の誤りを減らした（実験2、F(1,194)=7.95、p=.005）
- 実験3では、警告ありAI群と警告なしAI群のあいだに明確な差は見られなかった
- 支援なしブロックで支援なし群に追いつかなかったのは、警告なし群である（警告あり群との差は ptukey=.485 で検出されていない）
- 誤り率の言い換え（20%は間違う／80%は正しい）の優劣は示されていない（ptukey=.997）
- 誤り率を最も正確に見積もったのは無情報群で、その群はそれでも偏った提案に影響された
この研究からは言えないこと
- 医療の現場で同じことが起きるか。課題はシミュレーションで、参加者は臨床家ではない
- 警告の効果がどの程度安定しているか。実験2と実験3で見え方が違う
- 偽陽性と偽陰性のどちらが人に移りやすいか（再現されていない）
- 警告を受ければ支援なしと同等になるか。有意でないことは同等であることの証明ではない
- 課題が難しい場合にどうなるか。著者は課題が比較的容易で、支援なしの参加者が非常に高い精度に達したことを限界として挙げている
注意喚起を「済んだこと」の欄に入れない
ここからは、この結果を運用に持ち込むときの判断軸です。
一般的な警告には効果が観察されています。やらない理由はありません。ただし警告を「対策が済んだ」の欄に入れると、2つの点で危うくなります。
1つ目は、効果の安定性です。この研究の中でも、実験2と実験3で見え方が違いました。自社の業務が実験の課題より難しい（支援なしでは高い精度が出ない）場合、どちらに転ぶかは分かりません。
2つ目は、経路です。見積もりが最も正確だった群が影響されていたのなら、警告の効果は「正しく知ること」を通じて出ているとは言えません。だとすれば、知識を増やす方向に対策を足しても、同じ効果が積み上がるとは期待できません。
置ける判断軸は、こうなると思います。警告は「気づける確率を少し上げる手当て」として数え、「気づけなかった場合に止まる仕組み」とは別の欄に置く。 後者は、誤りに気づいたときに誰にどう戻すか、戻された判定をどう記録するか、という工程の設計です。警告の文言をどう言い換えるかという問いより、こちらが先に来ます。
長期間AIの出力を見続ける業務（審査・検査・校閲・与信・品質管理）では、この区別がとくに効いてきます。支援が外れた後も偏りが残るという設計で測られているのは、まさにこの種の業務です。
関連する論点は別の記事でも扱っています。注意喚起ではなく報酬の設計を変えた実験はAIへの過信は「気をつけよう」では減らないで、AIの応答そのものが人の回答を引っ張る構造はAIの回答に引っ張られるで書きました。本記事はそれらと違い、事前の説明という一度きりの介入がどこまで効くかを見ています。
自社で試せる、最小の検証
導入時の説明文か研修資料を1つ用意してください。
- その文書の中から、AIの誤りに関する記述を抜き出す
- その記述が「誤る確率の説明」で終わっているか、「誤りに気づいたときの扱い」まで書かれているかを見る
- 後者が書かれていない場合、1行だけ足す。誰に戻すか、どこに記録するかを書く
- 直近1か月で、AIの出力に対して「おかしい」と差し戻された件数を数える。0件なら、気づけていないのか、戻す先が無いのかを区別する
4で0件だった場合、警告は機能していたのか、していなかったのかが分かりません。区別できない状態が続いていること自体が、最初に手当てすべき点になります。
この研究が示しているのは、知識を足す方向の手当てだけでは足りない可能性です。自社で確かめられるのは、気づけなかった判定が止まる場所があるかどうかです。