39 principles for designing human-AI interaction

AIの出力は同じ入力でも毎回変わる。この非決定性を前提に、人間とAIのインタラクション設計を39の原則へ整理した記事。Microsoftの18ガイドラインやGoogleのPAIR Guidebook、OpenAIのModel Spec、AnthropicのClaude Constitutionといった既存の知見を土台に、確率的基盤、期待値設定、信頼の較正、透明性、制御、優雅な失敗、共創、責任ある自律性、継続的信頼の9カテゴリへ再構成している。

貫かれている問いは「ユーザーがAIに適切に依存できるようにするには」。信頼スコアの数字より引用元や変更差分といった証拠を見せる、不確実なときは推測せず質問する、取り消せない操作ほど人間の承認を挟む。こうした原則がPerplexity、GitHub Copilot、Claude Code、Replit Agentなど実プロダクトの例つきで示される。

Sharmaらの研究への言及も具体的で、主要なAIアシスタントはいずれも追従傾向を示し、選好モデルは95%のケースでおもねった回答を選ぶという。だからこそ「へつらわず、誠実に異議を唱える」設計が原則に含まれている。AIプロダクトのUIで迷ったとき、チェックリストとして立ち返れる密度がある。