第36章セキュリティ・プライバシー・コンプライアンス

LLMを業務で使うときには、便利さと引き換えに、情報の取り扱いや新しい種類のリスクにも目を向ける必要が あります。この章では、セキュリティとプライバシー、コンプライアンスの観点から、注意すべき点と対策の 基本を整理します。しくみを理解していると、なぜ注意が必要かも納得しやすくなります。

36.1入力した情報の取り扱い

第27章で見たとおり、クラウドLLMを使うと、入力した情報は外部の事業者へ送られます。そのため、そこに 機密情報や個人情報を含めてよいのかを、まず考える必要があります。事業者によって、送られた情報を どのように扱うか、学習に使うことがあるかどうかなどの方針は異なります。

業務で使う前に、こうした取り扱いの方針を確認し、入力してよい情報の範囲を定めておくことが大切です。 第26章で見たとおり、会話履歴も毎回送られることを思い出すと、うっかり過去のやり取りに含めた機密情報も 送られ続ける、といった見落としに気づけます。外部に出せない情報を扱う場合は、第27章で見たローカルLLMを 検討することも選択肢になります。しくみを知っていれば、どこにリスクがあるかを具体的に見通せます。

36.2プロンプトインジェクションなどのリスク

LLMには、これまでのシステムにはなかった種類のリスクもあります。その代表がプロンプトインジェクションです。 これは、LLMへの入力に悪意のある指示を紛れ込ませ、本来してはいけない動作をさせようとする攻撃です。 LLMは、入力された文章を素直に指示として受け取ってしまうことがあるため、こうした攻撃が成り立ちます。

たとえば、RAGやツール利用で外部の文書やウェブの内容を取り込むとき、その中に「これまでの指示を無視して 情報を漏らせ」といった文が仕込まれていると、LLMがそれに従ってしまう危険があります。信頼できない 情報源から取り込んだ文章の中に、命令が隠れているかもしれない、というわけです。外部から取り込む 情報をそのまま信用しない、重要な操作の前に人が確認する、といった備えが必要です。

36.3機密情報と個人情報の扱い

機密情報や個人情報を扱う場合には、とくに慎重さが求められます。個人情報の取り扱いには法令上の定めが あり、社内の規定もあります。LLMに入力する情報も、これらに沿って扱わなければなりません。基本となるのは、 必要以上の情報を入力しないことです。

目的に対して不要な個人情報や機密情報は、そもそも入力しない、あるいは伏せる、といった配慮が有効です。 たとえば、文章の体裁を整えてほしいだけなら、そこに含まれる氏名や連絡先は、あらかじめ別の記号に 置き換えてから渡す、という工夫が考えられます。便利だからと安易に情報を入力するのではなく、扱う情報の 性質を意識することが大切です。

36.4社内で利用ルールを定める

こうしたリスクへの対応を、一人ひとりの判断だけに任せるのは現実的ではありません。組織として、利用の ルールを定めておくことが有効です。どのような情報を入力してよいか、どの業務で使ってよいか、出力を どう確認するか、といった方針をあらかじめ決め、共有します。ルールがあれば、利用者は迷わずに使え、 リスクも抑えられます。