第3章AIにできること・できないこと

AIをうまく活用するうえで近道になるのが、得意なことと苦手なことを正しく知っておくことです。 何でもできる万能の存在だと考えると期待が外れ、逆に何もできないと決めつけると使いどころを 見失います。大切なのは、得意な場面には積極的に使い、苦手な場面では人が補う、というめりはりです。 この章では、AIの得意・苦手を整理し、人間とどう役割を分けるとよいのかを考えます。

3.1AIが得意なこと

AIがもっとも力を発揮するのは、大量の情報の中から規則性を見つけ出す場面です。人間が一つずつ確認して いては時間がかかる作業でも、AIは大量のデータをまとめて処理し、共通する特徴や傾向をすばやく取り出せます。 また、同じ手順を何度も正確に繰り返すことも得意で、疲れて集中力が落ちるということもありません。加えて、 はっきりした正解が一つに決まらない作業でも、「それらしい候補」をすばやく数多く出せる点が、近年のAIの 大きな強みです。

3.2AIが苦手なこと

AIには苦手な領域もはっきりとあります。まず、答えが常に正確であることの保証はできません。もっともらしく 見えても、細かい計算を誤ったり、事実と異なる内容を述べたりすることがあります。次に、学習した時点より あとに起きた出来事や、学習データに含まれていない情報については答えられません。多くのAIは、いったん 学習を終えると、その時点の知識で動くためです。

さらに、AIは物事を人間のように深く理解しているわけではありません。言葉の背後にある意図や、その場の 微妙な文脈を本当の意味でくみ取っているのではなく、学んだパターンからそれらしい反応を返しているだけです。 そして、倫理的な判断や、結果に責任を伴う重要な決定は、AIに任せるべきではありません。これらは、AIの 苦手を理解したうえで、人間が担う必要がある部分です。なぜこうした苦手が生まれるのかは、LLMのしくみを 学ぶ第4部で、より深く納得できるようになります。

3.3それっぽく間違えるという性質

AIの誤りには、人間の誤りとは異なる特徴があります。人間なら「よく分からない」「自信がない」と態度に 表れることが多いですが、LLMは知らないことでも、知っているかのように滑らかな文章で答えてしまうことが あります。文章としては自然で説得力があるため、内容が誤っていても気づきにくいのです。この、事実と 異なる内容をもっともらしく生成してしまう現象は、後の章で扱うハルシネーションと呼ばれます。

こうしたことが起きるのは、LLMが「意味を確かめて答えている」のではなく、「入力に続くもっともらしい 言葉を計算している」というしくみで動いているからです。第4部でそのしくみを詳しく見ていきますが、ここでは 「AIの答えは、見た目のもっともらしさと正しさが必ずしも一致しない」という点を押さえておくことが大切です。 だからこそ、重要な用途では、出力をそのまま信じるのではなく、人間が確認する手順が欠かせません。

3.4人間とAIの役割分担

ここまで見てきた得意・苦手を踏まえると、AIと人間の望ましい関係が見えてきます。AIは、たたき台を すばやく作る、選択肢を数多く出す、大量の情報を整理する、といった作業を担うのに向いています。人間は、 その出力を確認し、正しいかどうかを判断し、最終的な意思決定と責任を引き受けます。どちらか一方に すべてを任せるのではなく、互いの強みを組み合わせるわけです。

この役割分担は、AIの性能が上がっても基本は変わりません。AIが作業の多くを引き受けるようになっても、 その結果をどう使うかを決め、責任を持つのは人間です。AIを、判断を代わりにしてくれる存在としてではなく、 作業を助けてくれる道具として捉えることが、上手な付き合い方につながります。