大越章司のコラム「AIは危険かもしれない、しかし使わないわけにはいかない〜どうすれば良いのか？」

前回のコラムで、AIの暴走について書きました。AIエージェントを実現するために「自律性」を持たせるよう開発を進めたことが、大きなリスクを生んでしまった可能性があります。この事態を受けてAnthropicやOpenAIなどの一部のAI開発企業は「皆でいったん開発速度を落として、対応策の検討を優先させてはどうか」と呼びかけました。
しかし、AIは今や国防上の重要な技術でもあります。民間企業が決められるものではありません。米議会では「民間企業が示し合わせて開発を制御するのは反トラスト法に反する」あるいは「米国だけが開発を遅らせれば、他国に追いつかれてしまう」といった反対意見が支配的です。議会にはキルスイッチ法案（暴走した時にAIを即時停止させる機能の組み込みを義務付ける）が提出されましたが、審議には時間がかかる可能性があります。制度が技術の進歩に追いついていないのです。

それでは、企業はAIに対してどう対応すれば良いのでしょうか？

「AIは危険だから使わないようにしよう」というのは簡単です。しかし、AIはすでに企業活動に深く組み込まれてしまっています。その有用性に異議を唱える方は、今やほとんどいないでしょう。調査や翻訳、資料の取りまとめなど、AIが無くなったら困る、という業務はすでにたくさん存在します。AIを使わない、という選択肢はもはや存在しないのです。

それではどうするか。AIのリスクを見極め、どこまでを使うかを企業自らが決めなければならない時代になったということではないでしょうか。ひとつには、AIがメール送信や発注処理などの実務までを一括処理するAIエージェントの利用に制限をかけることです。AIが暴走せずに業務を完了できることを見極めるまでは、最終段階の前に必ず人間によるチェックをいれる必要があります。AIにすべてを委ねず、最後の責任は人間が負う、という原則を徹底するのです。

「AIが普及すれば人間は楽になる」ために開発が進んでいたAIエージェントですが、もうしばらくは、人間側は楽はできないということのようです。むしろこれまでより忙しくなる場合も考えられますから、その際にはAIには少し引っ込んでいてもらう、という決断も必要になるでしょう。