第6章ディープラーニング革命

知識を人が書き込む方法が壁に当たる一方で、「データから自動的に学ばせる」という考え方が力をつけていきます。 冬の時代に静かに育てられていた技術が、データと計算資源という追い風を得て、一気に花開きました。 この章では、機械学習への発想の転換と、それを決定づけたディープラーニングの登場を見ていきます。

6.1機械学習という発想の転換

エキスパートシステムの限界は、「知識を人が書き出す」という前提そのものにありました。そこで注目された のが、データを大量に与えて、規則性をコンピュータ自身に見つけさせるという方法です。これが機械学習です。 犬と猫を見分けさせたいなら、判別のルールを書くのではなく、たくさんの写真を見せて違いを学ばせます。 言葉にしにくい知識でも、データの形で示せれば扱えるようになる点が、大きな転換でした。第5章で見た 知識獲得のボトルネックを、根本から避ける発想だといえます。

ルールベースと機械学習の違いは、教え方の違いにたとえられます。ルールベースは「こういうときはこうする」 という手順を一つずつ教えるやり方です。機械学習は、たくさんの見本を見せて、共通する特徴を自分でつかま せるやり方です。手順を言葉で書き切れないような複雑な対象では、後者のほうがうまくいく。この気づきが、 研究の重心を、ルールを書くことから、良いデータを集めて学ばせることへと移していきました。

機械学習という考え方自体は以前からありましたが、実用的な成果を出すには、大量のデータと、それを処理する 計算能力が必要でした。これらの条件が長らく整わなかったため、機械学習は長い間、期待されつつも十分な 結果を出せずにいました。しかし2000年代以降、その状況が変わっていきます。

6.22012年・画像認識のブレイクスルー

機械学習の中でも、層を深く重ねたニューラルネットワークを使う方法がディープラーニングです。その実力が 広く知られるきっかけになったのが、2012年に行われた画像認識の競技会でした。写真に何が写っているかを 当てるこの競技で、ディープラーニングを用いた手法が、それまでの方法を大きく引き離す精度を出したのです。 誤りの割合が一気に下がり、多くの研究者が「これは本物だ」と受け止めました。

この結果が衝撃を与えたのは、単に成績が良かったからだけではありません。それまでは、画像のどこに注目 すべきかという特徴を、人が工夫して設計するのが当たり前でした。ところがディープラーニングは、その注目 すべき特徴そのものを、大量の画像から自分で学び取っていました。人が手作業で特徴を設計しなくても、 データさえあればモデルが必要な見方を身につける。この事実が、その後のAIの進み方を決定づけました。 これ以降、画像だけでなく、音声や言葉の処理でもディープラーニングが使われるようになり、現在へと続く 急速な発展が始まりました。

6.3データと計算資源が開いた道

ディープラーニングは、それ自体は以前からあった考え方でしたが、長らく十分な成果を出せずにいました。 状況を変えたのは、二つの環境の変化です。一つは、インターネットの普及によって、学習に使える大量の 画像や文章が手に入るようになったこと。もう一つは、大量の計算を高速にこなせるハードウェア、とくに GPUと呼ばれる装置が広く使えるようになったことです。GPUはもともと画像処理のための装置でしたが、 ディープラーニングが必要とする大量の単純な計算に、たまたま非常に向いていました。

データと計算資源という土台がそろったことで、AIは「規模を大きくするほど賢くなる」という道を進み始めます。 より多くのデータを、より大きなモデルに、より多くの計算で学ばせる。この方向が、次の章で見るTransformerと 大規模言語モデルの時代へとつながっていきます。冬の時代の地道な研究が、追い風を得て一気に実を結んだ 瞬間だったといえます。