過信と不信のバランス

過信と不信のバランスは、信頼を高めればよいという問題ではなく、ロボットの能力以上に信じれば事故になり、能力以下にしか信じなければ使われない、その適切な信頼の水準を設計する方法論が存在しない問題である。

30秒要約

• ロボットへの信頼は高ければよいのではない。能力以上に過信すれば事故が起き、不信が強すぎれば使われない。
• ロボットの実際の能力と、人が抱く信頼を一致させる「適切な信頼（trust calibration）」の設計論がない。
• 最初の一歩は、ロボットが自分の能力・限界・確信度を適切に伝え、人が過信も不信もせず使える設計を探ること。

実装判断サマリー

項目	内容
いま何が問題か	過信による事故と、不信による不使用の両方が起き、信頼を設計できない
なぜ今か	自律度の高いロボットが増え、能力の見極めが難しくなる
最大の制約	実際の能力と人の信頼を一致させる方法論の不在
主なレバー	能力・限界・確信度の適切な伝達、信頼を調整する設計
最重要KPI	過信による事故と不信による不使用の同時の少なさ
争点	能力を控えめに伝えるか、ありのまま伝えるか

課題の定義（扱う／扱わない）

• 扱う：ロボットへの過信（事故）と不信（不使用）の両極の問題と、適切な信頼を設計する方法論の不在。
• 扱わない：判断の説明可能性そのもの（VLM判断の説明可能性）。本カードは「人が抱く信頼の水準の調整」に絞る。
• 似て非なる：説明可能性（別カード）は判断の根拠が分かるかの技術問題、本カードは人がロボットをどれだけ信じるかという信頼の設計問題。

何が起きているか（データ）

• 人がロボットを実際の能力以上に信じる「過信」は、できないことを任せて事故を招く（自動運転の過信による事故が知られる）。
• 逆に、能力以下にしか信じない「不信」は、使えるロボットを使わない・余計に監視するなど、導入の効果を損なう。
• 望ましいのは、ロボットの実際の能力と人の信頼が一致した状態（適切な信頼、trust calibration）だが、これを設計する方法論は確立していない。
• 信頼は、ロボットの挙動・説明・実績・見た目などから形成されるが、それをどう設計すれば適切な信頼に導けるかの知見が乏しい。

なぜ先送りされてきたか

• 「信頼は高いほどよい」という素朴な前提が強く、過信のリスクが軽視された。
• 信頼は主観的・状況依存で、設計論化が難しい。
• 能力を正直に伝えると売れにくいため、過大に見せる誘因があった。
• 信頼の形成・調整を扱う設計の蓄積が薄かった。

原因構造

• 設計側：能力・限界・確信度を適切に伝える設計がなく、信頼が放置される。
• 誘因側：能力を過大に見せる誘因が働き、過信を招きやすい。
• 評価側：適切な信頼を測る基準がなく、過信・不信を検知できない。
• これらが相互に強化し合い、信頼が能力とずれる→過信で事故か不信で不使用→受容が安定しない、という循環になる。

誰が、どう困るか（影響）

• 利用者・現場：過信で事故に遭うか、不信で使えず効果を得られない。
• メーカー：過信は事故と訴訟リスク、不信は不使用と低評価につながる。
• ユーザー企業：適切な信頼が築けず、導入効果が安定しない。
• 社会全体：信頼の調整ができないと、自律ロボットの受容が振れ続ける。

放置するとどうなるか（時間軸）

• 数年：過信による事故と不信による不使用が、ともに散発する。
• 中期（2030年代）：信頼を設計できる作り手とできない作り手で、受容の安定性に差が出る。
• 長期（2040年前後）：適切な信頼の設計が、自律ロボットの安定した社会受容の前提となる。

解決の方向性

• 能力・限界の適切な伝達：できること・できないこと・確信度を正直に、分かりやすく伝える。
• 信頼を調整する設計：実績・挙動を通じて、過信も不信もしない信頼に導く。
• 確信度の表示：ロボットが「自信がある／ない」を示し、人の判断を助ける。
• 評価基準の確立：過信・不信を検知し、適切な信頼を測る基準。

選択肢の比較

選択肢	効果	コスト	実現難度	主な副作用	前提・備考
能力・限界・確信度の伝達	高	中	中〜高	売りにくさ	適切な信頼の核
信頼を調整する設計	中〜高	中〜高	高	方法論が未確立	本質的
確信度の表示	中〜高	中	中	表示の分かりやすさ	判断を助ける
能力を過大に見せる	低	低	低	過信で事故	危険

主体別アクション

メーカー・デザイナー

• レバー：能力・限界・確信度の伝達、信頼を調整する挙動・表示の設計。
• 変えるもの：過大な見せ方から、適切な信頼に導く設計へ。
• 制約：正直さと売りやすさの両立。
• 成果指標：過信による事故と不信による不使用の同時の少なさ。

研究者

• レバー：trust calibrationの設計論・評価手法、信頼形成の研究。
• 変えるもの：主観的な信頼を、設計可能な知見へ。
• 制約：信頼の定量化の難しさ。
• 成果指標：設計論・評価手法の確立。

ユーザー企業・現場

• レバー：利用者の信頼の観察、過信・不信の兆候の把握。
• 変えるもの：与えられた信頼任せから、適切な信頼の育成へ。
• 制約：観察・評価の知見。
• 成果指標：適切な信頼に基づく利用。

争点

• 正直さと売りやすさ：能力を控えめに伝えるか、ありのまま伝えるか。
• 確信度の扱い：ロボットの「自信のなさ」をどこまで見せるか。
• 責任：過信による事故の責任を、伝え方の問題としてどう扱うか。

反対論・トレードオフ

• 「ロボットの限界や自信のなさを見せると、ユーザーが不安になり使わなくなる」（最も強い反対）：弱点を見せると不信を招き、かえって普及を妨げるという主張。
  • 応答：限界を隠して過信を招けば、一度の事故で信頼が崩壊し、かえって普及を止める。能力と限界を正直に伝える方が、長期的には安定した信頼を築ける。「自信がない」を適切に示すことは不安を煽るのではなく、人が判断を補える余地を残すこと。短期の売りやすさより、過信による事故を防ぐ方が受容の持続につながる。
• 公平性：信頼を丁寧に設計できる大手と、過大に見せる中小で、事故リスクに差。
• 副作用：限界を強調しすぎると、使える場面でも不信で使われない。

失敗のシナリオ（プレモーテム）

• 能力を過大に見せ過信を招く：できないことを任され事故が起きる。
• 限界を強調しすぎて不信を招く：使える場面でも使われない。
• 確信度が伝わらない：人が判断を補えず、過信か不信に振れる。
• 評価基準がなく信頼のずれを検知できない：過信・不信が放置される。

KPI

• 結果指標：過信による事故と不信による不使用の同時の少なさ。
• 中間指標：能力・限界・確信度の伝達、信頼調整設計の普及。
• 副作用指標：限界の強調による不使用の増加。

未解決の問い

• 実際の能力と人の信頼を一致させる設計をどう作るか。
• ロボットの「自信のなさ」をどこまで、どう見せるべきか。
• 過信・不信をどう検知し、適切な信頼を測るか。
• 正直な能力提示と売りやすさをどう両立させるか。

すでにある良い事例

• trust calibration の研究：人とロボット・AIの間の適切な信頼に関する研究（具体は※要出典確認）。
• 確信度の提示：AIが判断の確信度を示し、人の判断を助ける設計が現れつつある（具体は※要出典確認）。

10年後の望ましい状態

• ロボットが能力・限界・確信度を適切に伝え、人が過信も不信もせず使えている。
• 適切な信頼を設計する方法論が確立している。
• 自律ロボットへの信頼が、能力と一致した安定したものになっている。

出典・関連課題・更新履歴

• 出典：trust calibration（適切な信頼）の研究、確信度提示の設計（具体は※要出典確認）。
• 関連課題：VLM判断の説明可能性 / 動きの不気味さ（Motion Uncanny Valley） / 意図の読み取りやすさ / 高齢者・非エンジニアの受容性
• 更新履歴：2026-06-12 初版（draft・定量データ未検証）