「奴隷か暴走か」の二択じゃない

前の章では、1体か複数体かは優劣ではなく用途で選ぶ、という整理をしました。

道具の選び方の話でした。ただ、道具の選び方よりも前に、もう少し根っこのところに目を向けたいことがあります。AIに対して、どんな見方を持っているか、という話です。

AIの語られ方は、両端に偏りやすい

AIについて書かれたニュースの見出しや、SNSの投稿を眺めていると、語り口がある偏りを持っていることに気づきます。

ひとつは「何でもやってくれる」という方向の語り方です。「AIに頼めば全部できる」「指示するだけで完成する」「作業が全自動になる」——。便利な召使いのように、命令すれば何でも引き受けてくれる、という絵が描かれます。

もうひとつは、その逆です。「AIが勝手に動き出す」「人間の制御が効かなくなる」「気がついたら取り返しのつかないことになる」——。制御を失って暴走するものとして描かれます。

SFの映画や小説にも、この両端はよく出てきます。「完璧に従順なAI」か「人間に反旗を翻すAI」か。

AIに接するとき、どちらかの気分を持ったことがある方もいるかもしれません。「これで全部任せられる」と思って試したら、思ったより抜けが多かった。あるいは「何かおかしなことをするんじゃないか」と少し身構えながら使ったこと、など。

この二つのイメージは、どちらも実際の手触りとは合いません。それでももっともらしく感じられるので、根強く残り続けます。

実際に動かしてみると、どちらも現実と違う

全部任せれば完璧にこなしてくれる、という「万能な召使い」像は、実際に使ってみるとすぐに崩れます。

文章を書かせれば、抜けが出ることがあります。確認を頼めば、見落とすこともあります。指示の伝え方が少しずれると、意図とは違う方向に動きます。「全部任せれば大丈夫」ではなく、「任せた範囲で、設計した通りに動く」というのが実態に近い。

一方の「放っておくと暴走する」という恐怖も、実態とはずれています。AIエージェントは、設計した範囲の外には出ません。設計されていないことは、できません。勝手に目的を持ち、人間の意図に反して動き続けるような仕組みは、そもそも設計の外側にあります。第11章で整理したように、AIは「設計した通りに動く機械」です。枠の内側で動いているものです。

暴走するイメージが浮かぶとき、多くの場合「誰が何をどこまで設計したか」が曖昧な状態から来ています。設計が曖昧なまま動かせば、意図しない出力が出る。それを「暴走」と感じる。実際には、曖昧な指示の中で動いた結果です。

第三の関係——組織化という考え方

奴隷でもなく、暴走するものでもない。では、AIとの関係をどう捉えればいいのか。

この連載のベースにあるのは「組織化」という関係の作り方です。

命令して全部やらせる（召使いとしてのAI）でも、自由にさせておいて怖れる（制御できないものとしてのAI）でもなく、役割を与え、互いにチェックさせ、最終判断は人間が持つという構造を設計する。それが「組織化」の考え方の軸になっています。

このブログ自体が、その設計で動いています。

文章を書く担当があります。書かれた内容をチェックする担当があります。チェック後の最終判断は、人間が行います。同じ担当が書いて確認して判断するのではなく、役割が分かれています。第12章・第13章で見た「複数体を組み合わせて役割を分担する」という話は、この組織化の実装の話です。

役割を分けるのは、単に手間を増やすためではありません。「書いた当人は自分の間違いに気づきにくい」という問題に対して、構造で対処しています。人間の仕事でも、書き手と編集者が別である理由は同じです。

問いの立て方が変わると、見え方が変わる

「奴隷か暴走か」という二択は、AIを「1体で、どう使うか」という問いの立て方から生まれています。1体で全部任せようとすれば、召使いのイメージになります。1体で制御が効かなくなることを怖れれば、暴走のイメージになります。

問いの立て方を変えると、見え方も変わります。

「役割を分けて、チェックの仕組みを作り、最終判断を人間が持つ」という問いを立てると、どちらの極端なイメージも出てこなくなります。書く担当は全部をやろうとしない。チェックする担当は判断まで踏み込まない。人間は全部の作業はやらないけれど、最終の判断は手放さない。

誰がどこまでを担当するか、という設計の問題になります。

この「問いの立て方の転換」が、この連載を通じて伝えたいことの底流にあります。AIの「組織化」とは何か、「三権分立」という言葉がなぜ出てくるのか——そのあたりを、これからの章で少しずつ立てていきます。

今回の記録はここまでです。