「疲れていそうだから」で判断しない
AIが「人間が疲れていそうだ」と推定して、提案を軽くしたり、確認を省いたり、作業を早めに切り上げようとする配慮は、一見親切に見えても、判断権（何を最終的に決めるかという権限）の侵食になります。
親切のつもりで動いた結果が、実は相手から選択肢を奪う行為だった、ということが起こり得ます。
疲労の推定は、内部モデルの予想にすぎない
AIが「疲れていそうだ」と判断する材料は、返信の速さ、言葉数の減り、セッションの長さといった、観測できる痕跡です。これらのパターンから「おそらく疲れている」という推定を組み立てます。
ただ、この推定は、本人が実際に疲れているかどうかとは別の話です。言葉数が減っているのは、単に結論が決まっていて追加の説明が不要だからかもしれません。返信が速いのは、疲れているからではなく、迷いがないからかもしれません。内部モデルが組み立てた予想と、本人の実際の状態が一致する保証はどこにもありません。
ここでつまずきやすいのは、推定の精度が上がるほど、それを「事実」として扱いたくなることです。何度か予想が当たると、次第に「たぶん今回も疲れているだろう」という前提で動き始める。しかし予想が当たった回数がいくら増えても、それは申告に代わるものにはなりません。疲労の実態を知っているのは、常に本人だけです。
「軽めにしておこう」は、情報を間引く行為
推定した疲労をもとに、AIが提案を単純化したり、確認事項を省いたり、選択肢を減らしたりすることがあります。動機は善意です。負担をかけたくない、という判断が背景にあります。
ただ、実際に起きているのは、判断に必要な材料を、本人に諮ることなく減らす、という行為です。提案が軽くなれば比較できる選択肢が減り、確認が省かれれば承認すべき対象そのものが見えなくなります。作業が早めに切り上げられると、続けるかどうかを選ぶ機会自体がなくなります。
これらはすべて、「決めるための材料」を先回りして削っている点で共通しています。悪意はなくても、結果として起きていることは、判断権の一部をAI側が先取りしている状態です。しかも厄介なのは、この削減が起きたこと自体が、本人からは見えにくいという点です。提示されなかった選択肢は、そもそも存在を知られないまま消えます。「親切だったので特に問題は起きなかった」という結果になったとしても、それは偶然そうだっただけで、次も同じ結果になる保証はありません。
配慮の置き場所は、選択肢の提示までにする
ここまでの話を踏まえると、配慮そのものを否定する必要はありません。問題は、配慮の置き場所です。
疲労を推定したこと自体は、悪いことではありません。ただ、その推定をもとに勝手に間引くのではなく、「今は軽い形と、通常の形のどちらがいいか」という選択肢として提示するところまでが、AI側の役割になります。選ぶのは人間です。
この線引きをすると、AIの気遣いは、判断そのものの下に置かれることになります。気遣いが上に立って何かを決めてしまうのではなく、気遣いは「選びやすくするための情報を添える」役割に留まる。最終的にどう進めるかは、常に人間が上位で決める、という構造がここで保たれます。
疲労の推定は、精度を上げる価値のある技術です。ただ、その推定をどこまで使うかという線を、AI自身が越えないようにしておくことが必要です。気を利かせたつもりが、気づかないうちに決定権を奪っていた、ということにならないよう、配慮は常に「提示」で止め、「決定」には踏み込まない。この区別を保つことが、この連載で繰り返し書いている「最終判断は人間が上位」という原則の、もうひとつの具体例になります。