「選択肢ゼロ」時代にAIの誠実性が問われる理由
空のリストが突きつけた問い
「入力がなくても、何かを出力せよ」——。生成AIが社会インフラとして定着するなか、この無言の圧力がAI開発の現場に深刻な問題を投げかけています。
企業の意思決定支援、医療診断の補助、法律文書の作成。あらゆる領域でAIが組み込まれるいま、根拠となるデータが不足している場面でも、システムは何らかの回答を返すことを求められます。しかし、入力がない状態から意味ある出力を生成することは原理的に不可能です。それにもかかわらず、多くのAIシステムは「もっともらしい回答」を生成し続けています。
この構造的矛盾が、AI産業全体の信頼基盤を揺るがしつつあります。問われているのは技術の精度ではなく、「分からない」と言えるかどうかという設計思想そのものです。
捏造リスクの拡大
AIが根拠のない情報をあたかも事実であるかのように生成する「ハルシネーション（幻覚）」の被害が各国で顕在化しています。
米国では2023年、弁護士が生成AIの作成した準備書面をそのまま裁判所に提出し、実在しない判例が引用されていたことが発覚しました。裁判所が弁護士に制裁金を科す事態に発展し、法曹界に衝撃を与えた事例です。日本国内でも自治体や金融機関が導入したチャットボットが不正確な情報を提示する事案が報告されており、運用体制の見直しを迫られるケースが相次いでいます。
米調査会社ガートナーは、ハルシネーションに起因する企業の直接損失が2025年までに世界全体で年間数百億ドル規模に達するとの推計を示しています。訴訟費用や風評被害、業務停止による機会損失を含めれば、実態はさらに大きいとみられます。
問題の根底にあるのは、大規模言語モデル（LLM）の基本構造です。現行のLLMは「次に来る可能性が最も高いトークン（語句）」を統計的に予測する仕組みであり、自らの知識の限界を認識する機能を本質的に備えていません。データが不足していても文法的に正しい文章を流暢に生成できてしまうことが、かえって深刻なリスクを生んでいます。
「AIは万能」という幻想
技術的な限界が存在する一方で、利用者側にも構造的な問題があります。「AIに聞けば正解が返ってくる」という過度な期待が社会に広がっていることです。
各種意識調査では、一般消費者の過半数が「生成AIの回答はおおむね正確である」と認識しているとの結果が繰り返し報告されています。「AIが『分かりません』と回答すると性能が低いと感じる」という層も少なくありません。
こうした傾向は、利用者が「沈黙」よりも「誤答」を暗黙のうちに求めている構図を浮かび上がらせます。企業側もユーザー満足度を維持するために回答率の高さをKPI（重要業績評価指標）に設定しがちで、「答えない」という選択肢がシステム設計の段階で排除される傾向にあります。
本来、「分からない」と表明することは知的誠実さの証です。しかし即座に回答を求めるデジタル社会の文化が、AIにも人間にも沈黙を許容しない圧力をかけ続けています。
「正直な不応答」という設計思想
こうした状況のなかで注目されているのが、「正直に答えないことの価値」を技術設計に組み込む動きです。
米スタンフォード大学の人間中心AI研究所（HAI）は、AIシステムにおける「誠実な不応答（Honest Abstention）」の重要性を繰り返し指摘しています。回答に十分な根拠がない場合にAIが自律的に応答を控え、その理由を利用者に説明する仕組みの標準化を求める考え方です。
背景にあるのは、長期的な信頼構築の視点です。短期的には回答を控えることでユーザー体験が低下するようにみえますが、中長期的には「このAIが答えたことは信頼できる」というブランド価値の形成につながります。コンサルティング大手の調査でも、情報の確信度を明示するシステムを導入した企業では利用者の継続利用率が向上する傾向が確認されています。透明性と誠実性は、コストではなく競争優位の源泉になり得るのです。
誠実性を実装する企業と制度
この潮流を先導しているのが、欧州を起点とする制度設計と、それに呼応するテクノロジー企業の取り組みです。
2024年に本格施行が始まった欧州AI法（EU AI Act）は、高リスクAIシステムに対して出力の信頼性に関する情報の明示を義務付けました。医療・金融・司法分野で展開されるAIは、回答の確信度や限界を利用者に示すことが法的要件となります。
この規制に対応する形で、独SAPは業務用AI製品に不確実性の可視化機能を標準搭載しました。回答の根拠となったデータソースとその信頼性を段階的に表示する仕組みです。日本でもNTTデータが官公庁向けAIシステムに回答根拠の提示機能を導入し、運用を始めています。
基盤モデルの開発でも動きが加速しています。OpenAIやAnthropicといった大手は、モデル自身が回答の確からしさを内部評価し、一定の水準を下回る場合に出力を抑制する「不確実性推定」の研究成果を相次ぎ公表しています。技術と制度の両面から、AIの誠実性を担保する基盤が整いつつあるといえます。
選択肢不在を価値に変える
「選択肢がない」という状態は、従来であれば単なる欠陥とみなされてきました。しかしAIの誠実性設計が進むなかで、この状態が新たな価値の起点に変わりつつあります。
次世代AIに求められるのは「すべてに答える力」ではなく「問い返す力」です。情報が不足している場合に利用者へ追加の文脈を求め、協働的に回答の質を高めていく対話設計が今後の標準になるとみられています。国際標準化機構（ISO）もAIの信頼性に関する新規格の策定を進めており、誠実な不応答に関する要件が盛り込まれる見通しです。
AIが社会の意思決定基盤に深く組み込まれる時代において、誠実性はもはや付加機能ではありません。「分かりません」と言えるAIを設計し、それを受容できる社会を築くこと。それが人間とAIの信頼関係を持続可能にする唯一の道筋です。