「AIセキュリティ」という言葉は、ニュースや製品の広告で使われる場面によって、指しているものが違います。AIを使った攻撃の話のこともあれば、会社で使う生成AIの情報漏えい対策の話のことも、AIを使って防御を強める話のこともあります。何から手をつければよいのかが決まらないのは、この言葉が複数の意味で使われているからです。

この記事では、AIセキュリティを、守る対象で3つに分けて整理します。IPA(情報処理推進機構)や総務省、内閣官房の資料で確認できることを土台に、それぞれの対象で何が起きていて、システムの開発や運用を外部に任せる発注側が、何を優先して確認すればよいかを説明します。

この記事のポイント

  1. AIセキュリティは、AIを悪用した攻撃への備え、AIそのものと利用の保護、防御へのAI活用の3つの意味で使われる
  2. IPAの10大脅威2026では、AIの利用をめぐるサイバーリスクが組織向けの3位に初めて入った
  3. 総務省のガイドラインは、AIを開発・提供する側向けで、利用者向けの資料はIPAが別に出している
  4. 発注側は、入力ルール、外注先への確認、公開システムの点検の3つから始める
目次
  1. AIセキュリティとは何を守る取り組みか
  2. AIセキュリティは3つの意味で使われる
  3. AIを悪用した攻撃から守る
  4. AIそのものとAIを使う業務を守る
  5. AIで防御を強める
  6. AIセキュリティで企業が優先する基本対策
  7. 守る対象ごとの基本対策
  8. 誰が何を担うかを分ける
  9. 最初の3つの行動
  10. よくある質問
  11. 総括:AIセキュリティで守る3つの対象と優先すること

AIセキュリティとは何を守る取り組みか

盾、AIの箱、虫眼鏡を描いた3つの円が重なり、AIセキュリティが指す3つの意味を表したイラスト
AIセキュリティは、3つの意味で使われます

AIセキュリティには、決まった定義が1つあるわけではありません。IPAは、AIは高度な処理能力を持つ一方で、不正アクセスやデータの盗難・漏えい、破壊といったサイバー脅威に加えて、倫理面や偽造のリスクなど、従来とは異なる多様な脅威にさらされていると説明しています。この章では、使われ方を3つに分けて、それぞれ確認できる事実を整理します。

AIセキュリティは3つの意味で使われる

AIセキュリティという言葉の意味を、守る対象で分けると、次の3つになります。この3分類は、公的機関が示した定義ではなく、資料の内容を、発注側が使いやすいように私が整理したものです。

盾が矢印をはね返す絵、AIのチップに鍵が掛かる絵、盾の中にAIがある絵の3枚で、3つの意味を表したイラスト
3つの意味で、守る対象が違います
意味 守る対象 主な話題
AIを悪用した攻撃から守る 自社のシステムとデータ 攻撃の準備や弱点探しが速くなること、委託先や公開システムが入口になること
AIそのものと、AIを使う業務を守る AIシステムと、入力した情報、権限 情報の入力、アカウント、プロンプトインジェクション、AIに与える権限
AIで防御を強める 検知や分析の作業 AIによる脅威検知、脆弱性の発見、対応の効率化

同じ「AIセキュリティ」でも、どの意味で話しているかによって、確認する相手も、決める内容も変わります。最初に、いま話題になっているのがどの意味かを、分けて考えることが大切です。

AIを悪用した攻撃から守る

1つ目は、攻撃する側がAIを使うことへの備えです。NICT(情報通信研究機構)は2026年10月の注意喚起で、AIの活用によってアプリの解析や脆弱性の発見が効率化され、攻撃がより多くのシステムに広がる可能性に注意が必要だと述べました。内閣官房などの2026年5月の注意喚起も、高性能なAIが攻撃者に悪用されることで、脆弱性の発見から悪用までの時間が極めて短くなるおそれがあるとしています。

ただし、2026年10月に国内で相次いだ個人情報の漏えい事案について、IPAは、特定の製品やサービスの脆弱性を狙った攻撃とは断定されておらず、外部に公開しているアプリケーションやアカウントの侵害が起点とうかがえる、としています。AIが原因だとは、書かれていません。ニュースの見出しの強い言葉と、公的機関が書いていることは、分けて読む必要があります。詳しくは、AIによるサイバー攻撃で変わった点と委託先への確認点を解説した記事で整理しています。

AIを悪用した攻撃への基本の備えは、AI以前の対策と変わりません。ソフトウェアの更新、認証の強化、バックアップの確保、公開範囲の見直しなどを、確実に続けることが中心になります。

AIそのものとAIを使う業務を守る

2つ目は、AIシステム自体と、AIを使う業務を守ることです。IPAの「情報セキュリティ10大脅威 2026」の組織向けで、「AIの利用をめぐるサイバーリスク」は3位に初めて入りました。1位はランサム攻撃による被害、2位はサプライチェーンや委託先を狙った攻撃です。

IPAは、AIのセキュリティ面の課題として、サプライチェーン攻撃や漏えい、改ざんのリスク、学習モデルへの攻撃、学習データの改ざんや汚染、個人情報や営業秘密の漏えい、偽情報や誤情報などを挙げています。利用する側が防げるのは、情報の入力とアカウントの管理です。AIを組み込んだシステムを作る側の対策は、総務省の「AIのセキュリティ確保のための技術的対策に係るガイドライン」が整理しています。総務省のガイドラインは、AIシステムに対する主な脅威として、不正な指示を混ぜるプロンプトインジェクション攻撃と、膨大な処理を要求してシステムを遅らせたり止めたりするDoS攻撃(サービス拒否攻撃)を挙げています。このほか、学習データに細工をするデータポイズニング攻撃、細工したモデルを組み込ませる攻撃、モデルを複製するモデル抽出攻撃も、その他の脅威として整理されています。AIに不正な指示を混ぜる攻撃については、プロンプトインジェクションの仕組みと発注側の備えを解説した記事で扱っています。

AIで防御を強める

3つ目は、AIを防御に使うことです。内閣官房などの2026年5月の注意喚起は、サイバーセキュリティ性能の高いAIを、ベンダーでの脆弱性の発見や修正、重要インフラ事業者での検知や対応に活用することで、我が国のサイバー対処能力の更なる強化が期待できるとしています。同じ文書で、高性能なAIを防御に活用することも含めた対策強化を求めています。

その一方で、同じ文書の注記は、高性能なAIを活用するときには、情報漏えいや意図しない学習への流用といったリスクを、適切に管理する必要があると書いています。防御にAIを使うことも、AIの利用に伴うリスクの管理とセットだということです。なお、この注意喚起の宛先は重要インフラ事業者等で、一般の企業に直接の対応を求めるものではありません。考え方として参考にする位置づけです。

AIセキュリティで企業が優先する基本対策

会社の3つの部屋に鍵が掛かり、守る対象ごとに基本対策を置く様子を表したイラスト
守る対象ごとに、優先する対策が決まります

守る対象が分かったら、次は、自社が何を優先するかを決めます。この章では、対象ごとの基本対策と、役割の分け方、最初の行動を説明します。

守る対象ごとの基本対策

対象ごとに、発注側が優先する対策と、確認する相手を並べると、次のとおりです。

3段の引き出しそれぞれに鍵とチェックが付き、守る対象ごとの基本対策を表したイラスト
対策は、守る対象ごとに分けて考えます
守る対象 発注側の基本対策 確認する相手
AIを悪用した攻撃 公開しているシステム、利用している外部サービス、保有しているデータを点検する。更新と認証の基本を固める 公開システムを運用する委託先
AIと業務での利用 入力してよい情報を決める。AIに持たせる権限を絞り、重要な操作には人の承認を入れる AIを使う社内の部署、AIを組み込むシステムの開発会社
防御へのAI活用 導入するときは、任せる範囲、夜間休日の対応、記録の扱いを書面で確かめる 監視や運用サービスの提供会社

どの対象でも共通するのは、AIの賢さに頼らず、権限、承認、記録といった、決まったルールで被害を小さくする考え方です。総務省のガイドラインも、対策を実装しても、AIの性質上、脅威を生じさせる要因を完全に排除することは困難で、複数の対策を重ねてリスクを低減していくことが重要だとしています。

誰が何を担うかを分ける

AIセキュリティの資料は、読む人によって、使うものが違います。IPAは、AI利用者やマネージャ向けに「AI利用者のためのセキュリティ豆知識」を、AI開発者やセキュリティ担当者向けに「AIセキュリティ短信」などを、公開しています。豆知識は、生成AIを利用する際に最低限実施すべきセキュリティ対策を分かりやすくまとめたもので、社内の勉強会にも使えるとされています。

総務省のガイドラインは、想定読者がAI開発者とAI提供者で、AIを使う側の利用者向けではありません。このため、AIを組み込んだシステムを発注する側は、このガイドラインそのものを読み込むよりも、開発会社に、どの対策を実装しているかを聞くための材料として使うのが現実的です。ガイドラインは、ある脅威についての責任の所在を決める趣旨ではない、とも書いています。責任の分け方は、契約で決める必要があります。

総務省のガイドラインには、想定事例として、内部向けのチャットボット(社内の文書を検索して答えるRAGを利用)と、外部向けのチャットボット(外部の情報と連携して答える)の2つが示されています。自社が発注するAIが、どちらに近いかで、想定される攻撃と対策が変わります。内部向けは、社内のデータの取り出しが主な懸念で、権限の管理が対策の中心になります。外部向けは、システムの指示の盗み出しや、外部の情報に隠された指示が、主な懸念として示されています。

最初の3つの行動

何から始めるか迷う場合は、次の3つが、発注側の最初の行動になります。

3段の階段の上に旗が立ち、最初の3つの行動を順に進める様子を表したイラスト
最初の3つの行動から、始めます
  • 入力ルールを決める:入力してはいけない情報と、使ってよいサービスを、文書にする
  • 外注先に確認する:外注先が使うAIツールと、入力禁止の情報を、書面で確認する
  • 公開システムを点検する:公開しているシステム、利用している外部サービス、保有しているデータの一覧を作る

自社が生成AIを導入するときの、セキュリティの確認項目は、AI導入のセキュリティリスクと確認チェックリストが参考になります。AI導入の準備がどこまで整っているかを先に点検したいときは、AI導入準備度チェックリスト(6領域50項目)で足りない領域を確かめ、準備の順番を決められます。

よくある質問

Q. AIセキュリティは、AIを使っていない会社にも関係しますか?
A. 関係します。攻撃する側がAIを使う場合は、AIを使っていない会社も、攻撃の対象になりうるからです。また、委託先が開発や運用にAIを使っていることもあります。自社で使っていなくても、外注先の利用状況を、書面で確認しておくことを勧めます。
Q. AI向けのセキュリティ製品を入れれば、安全になりますか?
A. 製品だけでは、安全とは言えません。英国のNCSCは、プロンプトインジェクションについて、製品や機器だけでは完全には緩和できない残存リスクであり、設計、構築、運用で管理するものだと述べています。製品は、基本の対策を点検したうえで、足りない部分を補う手段として検討してください。
Q. 中小企業は、何から読めばよいですか?
A. 利用する側の立場なら、IPAの「AI利用者のためのセキュリティ豆知識」が、最初の1冊として向いています。AIを組み込んだシステムを発注する立場なら、総務省のガイドラインを、開発会社に確認する項目の材料として使います。
Q. AIエージェントのセキュリティも、同じ資料で分かりますか?
A. 総務省のガイドラインは、AIエージェントを対象外としています。技術が急激に発展している途上で、エージェントに特有の脅威や対策を、現時点では安定して確定することが困難だからです。エージェントを発注する場合は、AIに持たせる権限を絞り、重要な操作に人の承認を入れる、といった基本を、開発会社と個別に確認してください。