AIのセキュリティに関する公的な資料は、総務省、経済産業省、IPA、AISI(AIセーフティ・インスティテュート)など、複数の機関から出ています。名前が似ているものも多く、どれを読めば自社の判断に使えるのかが分かりにくくなっています。

この記事では、AIセキュリティのガイドラインを、誰向けの資料かで整理します。そのうえで、2026年3月に公表された総務省のガイドラインの中身を、システムの開発や運用を外部に任せる発注側の目線で読み解き、開発会社への確認項目と、契約や要件に落とし込む方法を説明します。

この記事のポイント

  1. AIセキュリティの公的資料は、AIを開発・提供する側向けと、AIを使う側向けに分かれている
  2. 総務省のガイドラインは、AIを開発・提供する側向けで、不正な指示とDoS攻撃への対策例を示している
  3. ガイドラインは責任の所在を決めるものではなく、対策を実装しても脅威は完全には排除できないとしている
  4. 発注側は、開発会社に、どの対策をどう実装しているかを聞き、契約と要件に書く
目次
  1. AIセキュリティのガイドラインは何種類あるか
  2. 主な資料と誰向けかを整理する
  3. 総務省のガイドラインが扱う範囲
  4. 総務省のガイドラインが示す対策の中身
  5. ガイドラインを読むときの注意
  6. AIセキュリティのガイドラインを発注に落とし込む
  7. 開発会社に聞く6つの質問
  8. 契約と要件に書き出す
  9. 利用者向けの資料は社内の研修に使う
  10. よくある質問
  11. 総括:AIセキュリティのガイドラインの使い分け

AIセキュリティのガイドラインは何種類あるか

本棚に並ぶ3冊のガイドラインの冊子と、それを選ぶ虫眼鏡を描いたイラスト
ガイドラインは、読む人ごとに種類が分かれます

まず、どんな資料があり、誰が読むことを想定しているのかを整理します。この章では、主な資料の一覧と、総務省のガイドラインの範囲と中身、読むときの注意を説明します。

主な資料と誰向けかを整理する

AIセキュリティに関する主な公的資料を、想定する読者で並べると、次のようになります。総務省のガイドラインは、他のガイドラインとの関係を表にまとめており、この表を参考にしています。

3冊のガイドラインから、それぞれの読み手を表す3つのアイコンへ線が伸び、誰向けかを整理したイラスト
資料ごとに、想定する読み手が違います
資料 出している機関 想定する読者 主な内容
AIのセキュリティ確保のための技術的対策に係るガイドライン 総務省(2026年3月) AI開発者、AI提供者 AI自体のセキュリティを確保するための技術的対策例
AI事業者ガイドライン 総務省、経済産業省 AIの開発、提供、利用に関わる全ての事業者 AIガバナンスの統一的な指針。セキュリティ確保は指針の一つ
AIセーフティに関する評価観点ガイド AISI AI開発者、AI提供者 AIセーフティを評価するための観点。観点の一つがセキュリティ確保
AIセーフティに関するレッドチーミング手法ガイド AISI AI開発者、AI提供者 攻撃者の視点で、AIシステムのリスク対策を評価する手法の考慮事項
AI利用者のためのセキュリティ豆知識 IPA(2026年4月) AI利用者、マネージャ 生成AIを利用する際に最低限実施すべき対策。社内の勉強会にも使える

このほか、政府の職員向けには、デジタル庁が生成AIの調達と利活用のガイドラインを出しています。民間企業の発注側が直接読む資料ではありませんが、調達の考え方の参考になります。各資料には改訂があるため、最新の版は、それぞれの公式サイトで確認してください。

総務省のガイドラインが扱う範囲

総務省のガイドラインは、2025年9月からサイバーセキュリティタスクフォースの下に設けられた、AIセキュリティ分科会の検討をふまえて、2026年3月に公表されました。主な対象は、大規模言語モデル(LLM)と、LLMを構成要素に含むAIシステムです。想定する読者は、AI開発者とAI提供者で、AIを使う側の利用者は想定していません。

扱う脅威は、攻撃の具体的な可能性が比較的高いと考えられる2つに絞られています。1つは、細工した入力でAIに不正な出力をさせるプロンプトインジェクション攻撃です。細工したプロンプトを直接入力する直接型と、細工したデータをAIに参照させる間接型に分けています。もう1つは、膨大な処理を要求して、システムの応答を遅らせたり止めたりするDoS攻撃(サービス拒否攻撃)です。

範囲に入らないものもあります。AIエージェントは、技術が急激に発展している途上で、特有の脅威や対策を安定して確定することが困難なため、対象外とされています。仕組みの解説は、プロンプトインジェクションの仕組みと発注側の備えを解説した記事にまとめています。

総務省のガイドラインが示す対策の中身

ガイドラインは、AI開発者の対策と、AI提供者の対策に分けて、対策例を示しています。発注側が開発会社に聞くときの材料になるので、主な項目を整理します。

対策 誰が行うか 内容
安全基準等の学習による耐性の向上 AI開発者 意図しない出力をしないよう、安全基準を事後学習させる。優先度の高い指示を常に優先するよう学習させる
システムプロンプトでの制約 AI提供者 制約事項やセキュリティ上の注意事項を設定する。APIキーなどの機密情報は、システムプロンプトに直接書かず、別に管理する
ガードレール等による検証 AI提供者 入力プロンプト、外部の参照データ、出力に、不正な指示や意図しない情報がないかを検証し、検知したら拒否する
権限の管理 AI提供者 AIや連携システムを操作する部分の権限を必要最小限にする。RAGのデータの参照権限を、利用者や役割に応じて設定する
基本的な対策 開発者と提供者 監査ログの保存、レートリミットの導入、開発環境の権限管理、構成要素の信頼性の確認

対策は、一度実装して終わりではありません。ガイドラインは、基盤モデルに変更があったときや、AIが新たな学習をしたときなどに、見直しが必要だとしています。頻度を一律に示すことは困難で、システムの目的や用途に応じて決めるとされています。

ガイドラインを読むときの注意

ガイドラインには、読むときに押さえておく点が、明記されています。

  • 対策例を実装しても、AIの性質上、脅威を生じさせる要因を完全に排除することは困難である
  • 対策は、単独では要因を排除できないことを前提に、複数を重ねてリスクを低減する
  • 脅威に関する責任の所在を決める趣旨ではなく、各組織が合理的な対策を選ぶための指針である
  • 策定時点の状況が反映されたもので、新たな脅威や技術の進展に応じて見直す前提である

総務省のガイドラインには、対策の具体例などを示す別添(付属資料)も用意されています。発注側が開発会社と話すときは、本編の対策の一覧を軸にして、詳細が必要な項目だけ、別添で確かめるという使い方が現実的です。

「ガイドラインに沿っている」という説明だけでは、何をどこまで実装したのかは分かりません。発注側が知りたいのは、どの対策を、どの範囲で、どのように実装しているかです。

AIセキュリティのガイドラインを発注に落とし込む

ガイドラインの冊子から要件書、契約書へと、内容を発注の書類に落とし込む流れを表したイラスト
ガイドラインは、発注の書類に落とし込んで使います

ガイドラインは、読んで終わりにせず、開発会社への質問と、契約や要件に落とし込んで、初めて発注の判断に使えます。この章では、その方法を説明します。

開発会社に聞く6つの質問

AIを組み込んだシステムを発注するときは、総務省のガイドラインを材料に、次の6つを開発会社に書面で聞いておきます。

6つの吹き出しが並び、開発会社に聞く質問を表したイラスト
開発会社には、6つの質問を投げます
質問 聞く理由 安心できる答えの目安
発注するAIは、ガイドラインの想定事例(内部向けのRAG、外部向けの外部連携)のどちらに近く、どの脅威を想定したか 想定する攻撃と対策が、事例ごとに違う 公開範囲、RAGや外部連携の有無から、脅威を整理して説明できる
入力、外部の参照データ、出力を、どの仕組みで検証しているか 不正な指示や、意図しない情報の出力を止める入口になる 検証する場所と、検知したときの動作(拒否など)が決まっている
AIや連携部分の権限は最小か。RAGの参照権限は、利用者や役割で分けているか 権限が大きいほど、攻撃されたときの被害が広がる 必要な権限だけに絞り、参照できるデータを役割ごとに分けている
システムプロンプトに、APIキーなどの機密を直接書いていないか プロンプトの出力で、機密が取り出されるおそれがある 機密は別に管理し、必要なときだけ参照する設計になっている
監査ログとレートリミットを入れているか 調査と、過大なアクセスへの備えに必要になる ログの種類と保管期間、アクセス数の上限が決まっている
基盤モデルの変更や新たな学習のときに、対策を見直す手順があるか モデルの変更で、対策の有効性が変わりうる 見直しのきっかけと、担当、確認方法が決まっている

最後の6つ目に関連して、ガイドラインは、レッドチーミングによってAIシステムへの脅威を特定し、対策の有効性を確認していくことも重要だとしています。レッドチーミングとは、攻撃者の立場で、システムの弱点を試す検証のことです。納品の前に、診断で確かめる方法は、AIを使った脆弱性診断とは、手動診断との違いと選び方を解説した記事で整理しています。

契約と要件に書き出す

質問の回答は、口頭で終わらせず、要件定義書と契約に残します。ガイドラインは責任の所在を決めないため、責任の分け方は、契約で決める必要があります。次の項目を書いておくと、あとで、聞いていないという行き違いを避けられます。

契約書にペンで署名する手元と判子を描き、決めたことを契約に書き出す様子を表したイラスト
決めたことは、契約と要件に書き残します
  • 想定する脅威と、実装する対策の一覧
  • AIや連携部分に持たせる権限の範囲と、RAGの参照権限
  • 監査ログの種類と保管期間、レートリミットの設定
  • 基盤モデルの変更や新たな学習のときの、見直しの手順と費用の負担
  • 納品前の検証(診断やレッドチーミング)の範囲と、見つかった弱点を直す担当と期限

ガイドラインから書き出した項目を要件に残すなら、RFP(提案依頼書)テンプレートの非機能要件の欄に追記すると、各社の提案を同じ条件で比べられます。要件に残した項目は、検収のときの確認項目としても使えます。

利用者向けの資料は社内の研修に使う

AIを使う側の社員向けには、IPAの「AI利用者のためのセキュリティ豆知識」が向いています。生成AIを利用する際に最低限実施すべき対策を、分かりやすくまとめたもので、社内の勉強会でも使えるとされています。IPAは、利用ケースの拡大に合わせて、随時更新していく方針です。

個人情報を含む入力については、個人情報保護委員会が2023年6月に、注意喚起を出しています。個人情報を含むプロンプトを入力するときは、利用目的の達成に必要な範囲内かを確認することなどが示されています。社内のルールを作るときの、土台になります。資料全体の位置づけは、AIセキュリティで守る3つの対象を整理した記事でも確認できます。

よくある質問

Q. 「総務省のガイドラインに準拠」と言われたら、安心してよいですか?
A. それだけでは、判断できません。ガイドラインは、対策の例を示すもので、責任の所在を決めるものでも、実装の水準を保証するものでもありません。どの脅威を想定し、どの対策を、どの範囲で実装したのかを、具体的に説明してもらってください。
Q. 生成AIを社内で使うだけの会社も、このガイドラインを読む必要がありますか?
A. 総務省のガイドラインの想定読者は、AIを開発・提供する側です。利用する側は、IPAの「AI利用者のためのセキュリティ豆知識」のほうが、使いやすい資料です。AIを組み込んだシステムを発注する場合に限って、総務省のガイドラインを、開発会社への質問の材料にしてください。
Q. AIエージェントを発注する場合は、どう確認すればよいですか?
A. 総務省のガイドラインは、AIエージェントを対象外としています。そのため、ガイドラインの対策例に加えて、AIに持たせる権限を絞ること、重要な操作に人の承認を入れること、記録を残すことを、開発会社と個別に確認してください。