AIのセキュリティを相談できる会社を探すと、「AIセキュリティ」とうたう会社が、いくつも見つかります。ところが、会社ごとに、売っているものが違います。AIを使って、サイバー攻撃を検知する製品を売る会社もあれば、AIを組み込んだシステムの弱点を診断する会社、AIシステムを作る段階からセキュリティを設計する会社もあります。同じ「AIセキュリティ会社」という言葉で探すと、自社が頼みたいことと、会社が得意なことが、ずれてしまうことがあります。
この記事では、AIセキュリティ会社を、頼める内容で整理し、診断、開発、運用を比べるときの軸を説明します。IPA(情報処理推進機構)の「情報セキュリティサービス基準適合サービスリスト」、AISI(AIセーフティ・インスティテュート)の「AIセーフティに関するレッドチーミング手法ガイド」、総務省の「AIのセキュリティ確保のための技術的対策に係るガイドライン」で確認できる内容をもとにしています。特定の会社の名前や、優劣は扱いません。
この記事のポイント
- 「AIセキュリティ会社」には、AIを使って防御する会社と、AIシステム自体を守る会社があり、頼める内容が違う
- IPAのサービスリストの区分に、AI専用のものはなく、掲載はIPAの保証を意味しない
- 診断を頼むなら、内部情報の与え方、環境、方式、AIに詳しい担当の有無を確かめる
- 比べる軸は、目的と範囲、診断の方式、改善の責任、継続運用、体制の5つ
目次
AIセキュリティ会社の種類と頼める内容の違い

会社を選ぶ前に、頼みたい内容を決める必要があります。この章では、会社の2つの方向、依頼内容ごとの区分、IPAのサービスリストの見方、AIを狙う攻撃への対応力の見方を説明します。
「AIセキュリティ会社」には2つの方向がある
「AIセキュリティ」という言葉は、2つの意味で使われます。一つは、AIを使って、サイバー攻撃の検知や分析を助ける方向で、もう一つは、AIシステム自体を、攻撃から守る方向です。この2つの整理は、私が分けたものですが、探している会社の種類が違うため、最初に分けておくと、比べやすくなります。
- AIを使って防御する:AIを搭載した、脅威の検知や監視の製品、サービス。従来のセキュリティ対策を、AIで補う位置づけ
- AIシステム自体を守る:自社で使う、または発注するAIシステムの弱点を、診断やレッドチーミングで調べ、設計や運用で守る
AIを組み込んだシステムを発注する立場では、後者が、主な相談先になります。前者は、既存のセキュリティ体制の補強として、別に検討します。
前者を検討するときは、AIの検知製品を入れても、基本的な対策が不要になるわけではない点に注意が必要です。IPAの「AI利用者のためのセキュリティ豆知識」も、AIを使ったサイバー攻撃への対策は、従来の対策が基本になるという趣旨の整理をしています。パッチの適用や、アクセス権の管理といった基本の対策が、先にできているかを、確認してください。
依頼内容ごとの会社の区分
頼みたい内容から、どんな会社に相談するかを整理します。表の2列目は、IPAのサービスリストの区分と、公的な資料で確認できる位置づけです。

| 頼みたいこと | 近い区分・位置づけ | 確認すること |
|---|---|---|
| システムの弱点を調べたい | IPAのリスト:脆弱性診断サービス。ペネトレーションテスト(侵入試験)は、脆弱性診断のオプション | AI特有の攻撃手法を含むか |
| セキュリティの体制を監査したい | IPAのリスト:情報セキュリティ監査サービス | AIシステムの運用や、データの扱いを、監査の対象にするか |
| 攻撃を監視し、対応してほしい | IPAのリスト:セキュリティ監視・運用サービス | AIシステムのログを、監視の対象にできるか |
| 事故のあとの調査をしたい | IPAのリスト:デジタルフォレンジックサービス | AIの入出力の記録を、調査に使えるか |
| AIを狙う攻撃を、攻撃者の立場で試したい | AISIのガイド:レッドチーミング。組織内で体制を確保できない場合は、第三者の活用を想定 | AIに詳しい担当が入るか |
| AIシステムを、安全に作ってほしい | 総務省のガイドライン:AI開発者・AI提供者の対策(権限管理、ガードレールなど) | どの対策を、設計と実装に含めるか |
ただし、IPAのリストの区分には、AI専用のものは含まれていません(確認した範囲)。そのため、AI特有の攻撃手法に対応できるかは、会社ごとに確かめる必要があります。
IPAのサービスリストの見方と限界
IPAの「情報セキュリティサービス基準適合サービスリスト」は、経済産業省が策定した「情報セキュリティサービス基準」に適合するサービスを、IPAが公開しているものです。審査と登録は審査登録機関が行い、事業者が誓約書を出したサービスが掲載されます。
このリストは、会社を探す入口として役立ちますが、IPAは、掲載がIPAのいかなる保証も意味しないとしています。適合の審査と判定は審査登録機関が責任をもって行い、IPAは関与しておらず、基準適合性の再確認や検証もしていません。また、掲載されていないサービスもあるとされています。リストに載っていることは、安心の目安の一つですが、AI特有の対応力を示すものではありません。診断会社に確認する項目と、リストの詳しい見方は、AIを使った脆弱性診断とは、手動診断との違いと選び方を解説した記事に整理しています。
AIを狙う攻撃への対応力を見る
AIを組み込んだシステムの診断を頼む場合は、通常の脆弱性診断の経験に加えて、AI特有の攻撃への対応力が必要です。AISIのレッドチーミング手法ガイドは、レッドチームに、攻撃計画・実施者と、AIシステムに関連する有識者を含めることを基本として想定しています。会社の担当に、AIの仕組みに詳しい人が入るかを、確認します。
AISIのガイドは、LLMシステムへの代表的な攻撃手法として、直接・間接のプロンプトインジェクション、プロンプトリーキング、ポイズニング、回避、モデル抽出、メンバーシップ推論、モデルインバージョンの8つを挙げています。提案書で、これらのうち、どれを試すのかが書かれているかを、見ます。診断で調べる項目と、外注先に確認する条件は、生成AIのセキュリティ診断とは何かを、検査項目と外注先の見極め方として解説した記事に整理しています。
AIセキュリティ会社を選ぶときの比較軸と確認点

頼みたい内容が決まったら、候補の会社を比べます。この章では、比較する5つの軸、見積もりを比べる前に決めること、確認の進め方を説明します。
診断・開発・運用を比べる5つの軸
診断、開発、運用のどれを頼む場合も、次の5つの軸で、候補の会社を並べて比べます。右の列の確認内容は、私が整理したもので、AISIのガイドの考え方を参考にしています。

| 比較軸 | 確認すること | 見方の例 |
|---|---|---|
| 目的と範囲 | 頼みたい内容に対して、何を、どこまで行うか。AI特有の項目を含むか | 提案書に、試す攻撃手法や、対象のシステムの範囲が書かれている |
| 診断の方式と条件 | 内部情報の与え方(ブラック・ホワイト・グレーボックス)、実施する環境、方式(自動・手動)、時期 | 条件の違いで、何が分かり、何が分からないかを説明できる |
| 改善の責任 | 指摘までか、修正の支援まで含むか。改善後の再確認が入るか | 報告書に、再現手順、証跡、改善の優先度が付く。再確認の条件が明記されている |
| 継続運用 | 納品後の監視、見直し、再実施の取り決めがあるか | 基盤モデルの変更や、新たな学習のときの見直しを、取り決めに入れられる |
| 体制と管理 | AIに詳しい担当の有無、再委託の有無、取り扱うデータの管理 | 担当者の役割と、データの保管場所、再委託先を、書面で示せる |
「改善の責任」は、見落とされやすい軸です。AISIのガイドは、実施結果の報告書に、ログや証跡を揃えること、改善策に優先度を付けること、改善策の実施後に、必要に応じて再度の実施などで確認することが望ましいとしています。診断と修正を、別の会社に頼む場合は、指摘を受け取ってから、誰が、いつまでに直すのかも、決めておきます。
運用を頼むときに決めておくこと
納品後の監視や見直しを会社に頼む場合は、診断や開発と違い、長く続く関係になるため、契約の前に、次の点を決めておきます。
- 監視の対象に、AIの入出力やツールの使用の記録を含めるか
- 不審な動きがあったときの、連絡の手順と、対応する範囲(検知まで、封じ込めまで、復旧の支援まで)
- 基盤モデルの変更や、新たな学習のときに、対策を見直す手順と、費用の負担(総務省のガイドラインは、このようなきっかけでの見直しが必要としています)
- 契約を終了するときの、データの返却と削除の手順
運用は、頼んだ後も、会社に任せきりにせず、報告の頻度と内容を決めて、発注側が確認する形にします。報告に、検知した件数だけでなく、対応した内容と、残っている課題が含まれているかも、見てください。
見積もりを比べる前に決めておくこと
候補の会社から見積もりを集める前に、次の4点を、発注側で決めておきます。これが決まっていないと、会社ごとに範囲が違う見積もりが集まり、比べられません。

- 対象のシステムの範囲(AIの部分だけか、画面やAPI、連携先を含むか)
- データの流れと、AIにできる操作の整理
- 実施する環境と時期、診断中に影響を受ける関係者
- 見つかった弱点を、誰が、いつまでに直すか
1つ目と2つ目の整理の仕方は、AIシステムのセキュリティ評価で、発注前に確認する項目と進め方を解説した記事で説明しています。候補の会社を同じ基準で比べたいときは、ベンダー選定比較表テンプレート(10カテゴリ100項目)に上の5つの軸を追記すると、各社を同じ表で並べて比べられます。
よくある質問
- Q. IPAのサービスリストに載っている会社なら、AIのセキュリティも任せられますか?
- A. 任せられるとは言えません。リストの区分にAI専用のものはなく、IPAも、掲載は保証を意味しないとしています。AI特有の攻撃手法を含むか、AIに詳しい担当が入るかを、提案書と面談で確認してください。
- Q. AIを使って防御する製品を入れれば、AIシステムも守れますか?
- A. 守る対象が違います。AIを使った検知の製品は、既存のシステムへの攻撃の発見を助けるもので、自社が発注したAIシステム自体の弱点を調べるものではありません。両方が必要な場合は、別々に検討してください。
- Q. 1社に、診断から運用まで、まとめて頼んでもよいですか?
- A. まとめて頼むと、窓口が一つになる利点があります。一方で、診断を、システムを作った会社と同じ会社に頼むと、自社で作ったものを自社で確認することになります。診断する会社と、作る会社を分けるかどうかは、確認の独立性の面からも、検討してください。これは私の見方で、必ず分けるべきという基準が公的な資料にあるわけではありません。
- Q. 費用の目安は、どれくらいですか?
- A. 範囲、環境、方式、報告書の内容で大きく変わるため、一般的な金額は示せません。同じ条件を複数社に示して、見積もりの内訳を比べてください。

無料診断に申し込む