第8部 外部知識とツールでLLMを拡張する

第33章AIエージェント

ツール利用を発展させ、LLMが自ら計画を立てて複数の手順をこなすようにしたものが、AIエージェントです。 この章では、エージェントとは何か、どのように動き、どんな難しさがあるのかを見ていきます。近年とくに 注目されている分野ですが、その土台はこれまで学んだしくみの延長線上にあります。

33.1エージェントとは

AIエージェントとは、与えられた目標に向けて、LLMが自ら手順を考え、ツールを使いながら、複数の段階を自律的に進めるしくみです。

これまで見てきたLLMの使い方は、基本的に「入力を与えて応答を得る」という一往復でした。AIエージェントは、 これを一歩進め、与えられた目標に対して、LLM自身が手順を考え、必要なツールを使いながら、複数の段階を 次々とこなしていくしくみです。人が一つ一つ指示するのではなく、目標を伝えれば、あとはエージェントが 自分で段取りを決めて進めていく、という点が特徴です。

たとえば「来週の会議の案内を作って関係者に送る」という目標に対して、必要な情報を調べ、案内文を作り、 送信する、という一連の手順を、自分で組み立てて実行しようとします。一往復のやり取りでは難しい、 段階の多い仕事を任せられるのが、エージェントの魅力です。

33.2計画・実行・観察の繰り返し

エージェントは、次に何をするかを考え(計画)、ツールなどを使って実行し、その結果を確かめる(観察)、という流れを繰り返して目標に近づきます。

エージェントの動きは、大きく「計画」「実行」「観察」の繰り返しとして捉えられます。まず、目標に対して 次に何をすべきかを考えます。次に、そのために必要なツールを使うなどして、実際に手を動かします。そして、 その結果を確かめ、目標に近づいたか、次に何をすべきかを判断します。この繰り返しによって、一度の応答では こなせない、複数の段階からなる作業を進めていきます。

計画 実行(ツール利用) 観察 目標へ近づく
図33-1 エージェントは、計画・実行・観察を繰り返しながら、目標に向けて自律的に進みます。

33.3ツールと組み合わせて自律的に動く

前章のツール利用と組み合わせることで、エージェントは検索・計算・外部システムの操作などを自分で選んで実行し、複雑な作業をこなせるようになります。

エージェントの力を引き出すのが、前章で見たツール利用です。計画・実行・観察の「実行」の部分で、 エージェントは状況に応じて必要なツールを選び、使います。情報が足りなければ検索し、計算が必要なら 計算の機能を呼び、結果を外部に反映する必要があれば対応する機能を使う、といった具合です。こうして、 情報収集から処理までを自分で組み立てながら進められるため、単発のやり取りでは難しい、込み入った作業にも 対応できるようになります。

つまりエージェントは、これまで学んだ要素の組み合わせでできています。次の一手を決めるのは、第15章で見た 予測のしくみ。外部の機能を使うのは、第32章のツール利用。必要な知識を集めるのは、第8部で見たRAG。 新しく特別な魔法があるわけではなく、既存の部品を「繰り返し自律的に動く」形に組み上げたものだ、と 捉えると、その正体が見えてきます。

33.4エージェントの難しさと注意点

エージェントは強力な一方、途中の判断を誤ると誤りが積み重なり、想定外の動きをすることもあります。実行できる範囲を絞り、人が確認するしくみが重要です。

自律的に動くエージェントには、注意すべき点もあります。手順を自分で決めて進めるため、途中の判断を 一度誤ると、その誤りを前提に次の手順が積み重なり、全体として大きくずれてしまうことがあります。第15章で 見たとおり、LLMは前に出した内容を手がかりに次へ進むため、序盤のつまずきが後まで尾を引きやすいのです。

実務メモ:権限を絞り、要所で人を挟む

エージェントに外部システムを操作する機能を与える場合、想定外の操作をしてしまう危険があります。そこで、 エージェントに与える権限や、実行できる操作の範囲をあらかじめ絞っておくことが大切です。取り返しの つかない操作(データの削除、送金、外部への送信など)は、実行前に必ず人の確認をはさむようにします。 また、いつまでも終わらずに動き続けないよう、繰り返しの回数に上限を設けるのも定番の備えです。 自律性は便利さと危うさの両面を持つため、「どこまで任せ、どこで止めるか」を先に決めておくことが、 安全に使う鍵になります。

エージェントは発展の著しい分野ですが、その土台にあるのは、これまで見てきたLLMの予測のしくみと、 ツール利用です。基礎を理解しておけば、新しい手法が登場しても、その位置づけを捉えやすくなります。 次の章では、第8部の締めくくりとして、テキスト以外も扱うマルチモーダルAIを見ていきます。

この章の要点

  • AIエージェントは、目標に向けてLLMが自ら手順を考え、ツールを使って自律的に進めるしくみです。
  • 計画・実行・観察を繰り返しながら、複数の段階からなる作業を進めます。
  • 予測・ツール利用・RAGなど、これまで学んだ要素の組み合わせでできています。
  • 誤りの積み重ねや想定外の動作に備え、権限の制限と人による確認、回数の上限が重要です。