セキュリティの監視や分析にAIを使えば、人手不足を補えるのか。事例を調べると、製品の導入実績が並ぶだけで、AIにどこまで任せてよいのか、人は何をするのかが分かりにくいものです。この記事では、AIをセキュリティ運用に活用した事例として、公開されている2つの比較試験(Microsoftのフィッシングメール対応の試験と、CSAとDropzone AIのアラート調査の試験)を読み、AIが得意だった業務、人に残る役割、監視を外部に委託するときの確認点を整理します。2つの試験には、製品を提供する会社が関わっています。そのため、数字は「この条件ではこうだった」という参考値として扱ってください。
この記事のポイント
- 公開された2つの比較試験では、AIの支援で、フィッシングメールの振り分けは最大6.5倍、アラートの調査は45〜61%速くなった。ただし、どちらも製品を提供する会社が関わる
- Microsoftの試験では、生産性の向上のうち83%は、AIが危険なものを先頭に並べる「優先付け」によるものだった
- 同じ試験で、AIの支援を受けた人は、AIが誤って「無害」と判定した悪意あるメールを46%見逃した(AIなしでは17%)
- 任せる業務を1つに絞り、時間、見逃し、確認の手間を測り、最終判断者を決めてから広げる。監視を委託するなら、AIが無害と判定した分の扱いを書面で確認する
目次
AIをセキュリティ運用に活用した事例で分かること

最初に、公開されている2つの比較試験の中身を整理します。そのうえで、どの業務で効果が出ていたか、数字をどう読むかを説明します。
公開された2つの比較試験
AIを運用に使った事例は、導入した会社の体験談が中心で、条件をそろえた比較は多くありません。ここでは、人をAIの支援あり・なしに無作為に分けて比べた試験が公開されている、次の2つを取り上げます。
| 項目 | Microsoftの試験 | CSAとDropzone AIの試験 |
|---|---|---|
| 公開 | 2025年10月付の論文。arXivでは2025年11月17日に公開 | 2025年10月7日にCSAが報告書を公表。実施は2025年7月と8月 |
| 対象の業務 | 利用者が報告した、フィッシングの疑いがあるメールの振り分け | エスカレートされたアラートの調査。AWSのS3バケットのアラートと、Microsoft Entra IDのログイン失敗のアラートの2つの場面 |
| 参加者 | プロの分析担当者167人。実際に報告されたメールを、プライバシーを確認して使用 | SOCの経験が異なる148人を、AIの支援あり・なしに無作為に分けた |
| 主な結果 | 1分あたりに見つけた悪意あるメールは最大6.5倍。判定の正確さ(F1値)は最大77%向上 | AIの支援ありは、45%と61%速く、22%と29%正確。AIなしは、報告の詳細さが27%下がった |
| 関わる会社 | 著者はMicrosoftの社員で、AIも同社の製品 | AIはDropzone AIの製品。報告書は同社と共同で公表。分析はCSAの研究者が行い、Dropzone社は内容と編集に関与していないとCSAは説明している |
どちらも、AIの支援があるほうが、速さも正確さも上がったと報告しています。ただし、2つとも、試験の対象は、特定の1つの業務に絞られています。
AIが得意だった優先付けと調査の下調べ
Microsoftの論文は、フィッシングの振り分けのAIを、無作為に分けて比べた試験の中で、生産性の向上のうち83%は、AIが振り分けの順番を並べ替えたことから、17%は、人がAIの判定と説明を使ったことから生じたと推定しています。この試験では、悪意あるメールの疑いが高いものを先頭に並べる役割が、大きく効いていました。
人の時間の使い方も変わりました。AIの支援を受けた人は、悪意あるメールに使う時間が、AIなしより53%長くなりました。無害なメールにかける時間を減らし、危ないメールに時間をかけた形です。また、AIが「悪意あり」と判定したメールを、人がそのまま追認する傾向は見られず、人は自分でも調べていました。
CSAとDropzone AIの試験では、アラートの調査の質が比べられました。AIの支援を受けた人は、報告の詳細さを保つか、わずかに増やしました。AIなしの人は、試験が進むにつれて、報告の詳細さが27%、結論の詳細さが20%下がっています。CSAは、AIが調査の質と、疲れにくさに効いたと読んでいます。
2つを合わせると、効果が確認できたのは、大量の中から確認する順番をつけることと、調べる作業の下調べをすることです。どちらの試験でも、最終的に判断する作業は、人が行っていました。
数字を読むときの注意
2つの試験の数字は、そのまま自社に当てはめられません。何が言えて、何が言えないかを、次の表にまとめます。
| 言えること | 言えないこと |
|---|---|
| 限定した1つの業務では、AIの支援で、作業が速くなり、判定の正確さが上がる可能性がある | 自社の環境で、同じ割合の効果が出ること。業務の種類、データ、AIの誤りの割合で変わる |
| 効果の大半は、優先付けなど、調べる前の整理から来ていた(Microsoftの試験) | AIだけで監視を回せること。どちらの試験でも、最終判断は人が行っていた |
| AIの支援を受けると、報告の質が保たれ、疲れによる低下が小さかった(CSAの試験) | AIの導入で、見逃しが減ること。Microsoftの試験では、AIの誤りを人が見逃す割合は上がった(次の章) |
条件の違いにも注意が必要です。Microsoftの試験では、AIの誤りが人工的に混ぜられ、AIの正しさは80%程度に設定されています。CSAの試験は、想定した2つの場面での結果です。私が調べた範囲では、製品を提供する会社が関わっていない同様の試験は、見つかりませんでした。数字は、導入を決める根拠ではなく、何を測ればよいかを知る手がかりとして使います。
AIをセキュリティ運用に活用するときの役割分担

次に、運用を設計するときの役割分担を説明します。決めるのは、AIが無害と判定した分を誰が見るか、任せる業務の絞り方、委託するときの確認点の3つです。
AIが無害と判定したものを誰が見るか
Microsoftの論文には、運用を決めるうえで特に重要な結果が書かれています。論文は、AIが「悪意あり」と判定したメールは人が調べ、「無害」と判定したメールは調べない運用が、生産性と防御のバランスがよいと結論づけています。AIの支援を受けた人は、AIが無害と判定したメールを、そのまま無害と判定する割合が、AIなしの人より高く、調べても結果があまり変わらないためです。
ただし、この裏側も、論文は示しています。試験では、AIの誤りが人工的に混ぜられていました。AIが誤って「無害」と判定した悪意あるメールを、AIの支援を受けた人が見逃した割合は46%で、AIなしの人の17%より、29ポイント高くなりました。
| 場面 | AIの支援あり | AIなし |
|---|---|---|
| AIの正しい「無害」の判定に、人が同意した割合 | 86% | 65% |
| AIが誤って「無害」と判定した悪意あるメールを、人が見逃した割合 | 46% | 17% |
つまり、AIを入れると、AIの正しい判定には同意しやすくなり、同時に、AIの誤りも拾いにくくなります。この試験の結果を見る限り、AIの判定を信頼することと、AIの見逃しを拾うことは、同時には成り立ちにくいようです。運用では、次の3つを決めておきます。
- AIが無害と判定した分から、一定の割合を抜き取って、人が確認する
- AIの判定と、人の最終判断を記録し、AIの誤りの数を数える
- AIの見逃しの数が、決めた基準を超えたら、AIに任せる範囲を狭める
抜き取る割合と、見逃しの基準は、業務の重要度で変わるため、私は目安を示せません。次の節の試験の期間に、決めてください。
任せる業務を絞って測る5つの手順
AIを運用に入れるときは、最初から広く任せず、1つの業務に絞って測ります。次の5つの手順です。
- 任せる業務を1つに絞る。たとえば、利用者から報告されたフィッシングメールの振り分けや、アラートの1次調査の下調べ
- 試験の期間を決める。この間は、AIの判定を参考にしつつ、最終判断を人が行い、AIの判定は後から採点する
- 3つの数字を測る。かかった時間、AIの見逃し(AIが無害としたが問題だった数)と誤検知(AIが問題としたが無害だった数)、人が確認し直した手間
- 責任の分け方を書く。最終判断をする人、AIの判定を覆す条件、AIが誤ったときの連絡と記録の担当
- 広げる条件を決める。見逃しの数が基準以下で、時間の削減が確認できたら、次の業務へ広げる
3つの数字のうち、見逃しの数は、AIが「無害」と判定した分を抜き取って確認しないと数えられません。前の節の抜き取りが、ここで効きます。
監視を委託するときの確認点
セキュリティの監視や調査を、外部の会社に任せている場合も、同じ確認が要ります。見積もりと提案の段階で、次の6項目を、書面で確かめてください。
- AIが担う範囲(並べ替え、要約、調査の下調べ、判定、自動の対応)と、人が最終判断をする範囲
- AIが「無害」と判定した分の扱い(見ない、抜き取る、全件を確認する)と、抜き取りの割合、記録の残し方
- 効果の報告(作業時間、AIの見逃しと誤検知の数、人が確認し直した件数)を、定期的に受け取れるか
- 監視のログや調査の内容が、どのAIの提供元へ送られ、保存や学習にどう使われるか
- AIが誤ったときの連絡、記録、責任の分け方
- モデルや設定を変えるときの通知と、変更後の再確認の方法
AIを搭載した製品の比べ方は、AIを搭載したセキュリティソフトの比較と選び方の記事で説明しています。運用まで頼む会社の違いは、AIセキュリティ会社の選び方の記事が参考になります。
よくある質問
- Q. AIを入れれば、監視の担当者を減らせますか?
- A. 2つの試験は、人の作業を速くしたり、判定を正確にしたりしたもので、人を減らせる根拠ではありません。最終判断をする人は残り、AIの誤りを拾う作業も必要です。人数は、試験の結果を見てから決めてください。
- Q. ベンダーの導入事例の数字は、そのまま使えますか?
- A. そのままは使えません。対象の業務、測り方、公表した会社、AIの誤りの扱いが、自社と同じかを確かめてください。この記事で取り上げた2つも、製品を提供する会社が関わっています。
- Q. 自社に監視の担当者がいなくても、AIを使えますか?
- A. AIを使うかどうかより先に、監視と対応を誰が担うかを決めます。担当者がいない場合は、監視を外部に任せる形が現実的で、その場合は、前の章の6項目を確認します。

無料診断に申し込む