用語集

本サイトに出てくる主要な用語をまとめています。各章を読む途中で意味を確認したいときに利用できます。 おおむね、本サイトで登場する順に並べています。

AIエーアイ／人工知能

人間が行う知的なふるまいを、コンピュータで実現しようとする技術の総称。指す範囲が広く、文脈によって意味が変わります。

LLMエルエルエム／大規模言語モデル

膨大な量の文章を学習し、入力に続く言葉を予測して文章を生成するモデル。本サイトの中心的なテーマです。

生成AIせいせいエーアイ

文章・画像・音声など、新しいデータそのものを作り出すAI。LLMは文章を扱う生成AIの一種です。

識別するAIしきべつするエーアイ

入力が何であるかを判断するAI。分類や予測がこれにあたり、生成するAIと対になる考え方です。

特化型AI／汎用AIとっかがた／はんよう（AGI）

特化型AIは特定の作業に限って力を発揮するAI。汎用AIは人間のように幅広い課題へ自ら対応するAIで、まだ実現していません。実在するAIはすべて特化型です。

機械学習きかいがくしゅう

人がルールを書く代わりに、データからパターンを学ばせる手法。AIを支える基礎的な考え方です。

教師あり学習／教師なし学習／強化学習

機械学習の三つの方法。順に、正解つきデータで学ぶ、正解なしデータから構造を見つける、試行錯誤と報酬で学ぶ、というものです。

ニューラルネットワーク

脳の神経細胞のつながりをまねた計算のしくみ。多数の計算単位が層をなし、信号を伝え合います。

ディープラーニング深層学習

層を深く重ねたニューラルネットワークを用いる機械学習の一分野。画像認識やLLMの土台となっています。

パラメータ重み・バイアス

モデル内の調整可能な数値。学習で身につけた内容はここに蓄えられます。LLMはこの数が非常に多いモデルです。

学習と推論がくしゅう／すいろん

学習は、誤差が小さくなるよう重みを調整する段階。推論は、学習済みモデルに入力を与えて答えを出す段階です。

トークン／トークン化token

トークンは、LLMが文章を扱うときの最小単位。文章をトークンに区切る処理をトークン化と呼びます。単語と一致するとは限りません。

埋め込みembedding

トークンや文章を、意味を反映した数値の並び（ベクトル）に変換すること。似た意味のものは似たベクトルになります。

ベクトル／ベクトル空間

数値を並べたもの。空間上の点と見なすと、意味の近いものが近くに配置され、近さを計算で扱えます。

Transformerトランスフォーマー

2017年に登場した、現在のLLMの土台となる構造。すべてのトークンを一度に見渡しながら処理します。

アテンション注目／セルフアテンション

ある語を理解するために、文中のどの語をどれだけ重視するかを計算するしくみ。文脈を捉える中核です。

スケーリング則

モデルの規模・データ量・計算量を増やすほど、性能がおおむね規則的に伸びるという経験的な傾向です。

事前学習じぜんがくしゅう

膨大なテキストを読ませ、言葉の一般的な使い方や知識を広く学ばせる、LLM作成の最初の段階です。

ファインチューニング／指示チューニング

事前学習済みモデルを追加学習で調整すること。とくに指示に従えるようにする調整を指示チューニングと呼びます。

RLHF人間のフィードバックによる強化学習

人間の好みを反映した評価をもとに、より好まれる応答を出すようモデルを調整する方法です。

アライメント

モデルの振る舞いを、人間の意図や価値観、安全性に沿うように整えること。RLHFはその代表的な手段です。

ベンチマーク

共通の問題集でモデルの性能を比較するしくみ。有用ですが、実際の使い勝手とは必ずしも一致しません。

プロンプト

LLMに与える入力の文章。全体方針を定めるシステムプロンプトと、都度の指示のユーザープロンプトに分けられます。

プロンプトエンジニアリングフューショットなど

より良い出力を引き出すためのプロンプトの工夫。例を示すフューショットや、段階的に考えさせる方法などがあります。

コンテキストウィンドウ

LLMが一度に扱える入力と出力の合計の上限。トークン数で決まり、超えることはできません。

温度temperature

出力の選び方のばらつきを調整する設定。低いと安定して無難に、高いと多様で意外性のある出力になります。

ハルシネーションhallucination

AIが事実と異なる内容を、もっともらしい文章で生成してしまう現象。出力を人間が確認する必要がある理由の一つです。

ステートレス

前回のやり取りの状態を保持しない性質。LLMは呼び出しごとに、その時の入力だけをもとに応答します。

APIエーピーアイ

あるサービスの機能を、決められた手順で外部から呼び出せるようにした窓口。クラウドLLMはこれを通じて利用します。

ストリーミング

応答をすべて待たず、生成されるそばから少しずつ受け取る方式。待ち時間の体感を減らせます。

ローカルLLM／クラウドLLM

自分たちの環境で動かすものがローカルLLM、事業者の環境に接続して使うものがクラウドLLM。設置場所と性能が異なります。

RAG検索拡張生成

質問に関連する情報をまず検索し、それをプロンプトに加えてLLMに答えさせる方法。学習していない知識を補えます。

ベクトルDBベクトルデータベース

大量の文章のベクトルをためておき、与えられたベクトルに近いものをすばやく探し出すしくみです。

コサイン類似度

二つのベクトルの向きの近さを表す数値。意味の近さの尺度として、ベクトル検索で使われます。

ファンクションコーリング／ツール利用

使える機能をLLMに伝えておき、必要なときに呼び出させるしくみ。計算や情報取得など、LLMの苦手を補います。

AIエージェント

目標に向けて、LLMが自ら手順を考え、ツールを使いながら複数の段階を自律的に進めるしくみです。

プロンプトインジェクション

悪意のある指示を入力に紛れ込ませ、LLMに本来の意図と異なる動作をさせる攻撃。外部情報を扱う際に注意が必要です。

マルチモーダルAI

テキストだけでなく、画像や音声など複数の種類の情報を扱うAI。土台の考え方はLLMと共通です。