外注先から「開発にはAIのコード生成を使います」と言われたとき、安全性をどう判断すればよいのか。コードを読めない発注側にとって、AIが書いた部分に弱点が混ざっていても、納品物を見ただけでは分かりません。
結論から書くと、AIを使うかどうかで悩むより、AIを使う前提で確認の仕方を決めておくほうが現実的です。この記事では、コード生成AIのセキュリティで何が起きるのかを調査結果から整理したうえで、契約前に外注先へ聞くこと、要件定義書や契約に書いておくこと、納品時に受け取る証拠を説明します。コードを読めなくても、聞く質問と受け取る書類を決めておけば判断できます。
この記事のポイント
- AIが書いたコードの45%に代表的な脆弱性が混ざったという調査があり、新しいモデルでも改善していない
- 見るべきは生成コードだけでなく、外注先のAIに自社の情報が入力されていないかと、使う部品の安全性
- 契約前の5つの質問と、要件定義書・契約に書く項目で、聞き漏れを防げる
- 納品時は脆弱性の検査結果と部品の一覧を受け取り、検収で確かめる
目次
コード生成AIのセキュリティで起きる問題

AIがコードを書く開発では、人が書く場合とは違う形でセキュリティの問題が入り込みます。しかも外注先の作業の中で起きるため、発注側からは見えません。ここでは、発注側が知っておきたい3つの問題を挙げます。
生成コードに弱点が混ざる確率
セキュリティ企業のVeracodeは2025年7月、100を超える生成AIモデルに80のコーディング課題を解かせた調査を公表しました。AIは動くコードを書けていましたが、課題の45%で、Webアプリで多い代表的な脆弱性(OWASP Top 10に分類されるもの)を含むコードを出力しています。詳しくはVeracodeの調査発表で確認できます。
言語による差もあります。同じ調査で、Javaは70%を超える課題で安全でない実装になり、Pythonは38%、JavaScriptは43%でした。もう1つ見ておきたいのは、新しいモデルになっても安全性は改善していなかったという点です。機能面の出来が上がっても、セキュリティ面が自動で良くなるとは限りません。「最新のAIを使っているから安心」という説明は、そのまま受け取らないほうがよいでしょう。
弱点の種類によっても差があります。同じ調査では、入力欄などから送られた文字列を安全に扱うための対策(クロスサイトスクリプティング対策)をAIが書けなかった課題が86%、操作の記録に不正な文字列を紛れ込ませる攻撃への対策(ログインジェクション対策)が88%でした。どちらも、動作確認で画面を触っただけでは気づきにくい種類の弱点です。「ちゃんと動いた」ことと「安全である」ことは別だと考えてください。
ここで誤解したくないのは、この数字が「AIが書いたコードは危険だから使わせるな」という意味ではないことです。人が書いたコードにも脆弱性は混ざります。論点は、AIが書いた分を誰がどう検査するかです。
しかも、納品されたコードを見て、どこをAIが書いたのかは分かりません。外注先が申告しない限り、発注側は知りようがないのです。AIを使っているかどうかが提案書に書かれないことは、システム開発のAI活用で発注側が確認する点でも触れています。
外注先のAIに自社の情報が渡る
2つ目は、開発中に自社の情報が外注先のAIツールへ入力されることです。要件を伝えるために仕様書を貼る、不具合の調査のためにソースコードを貼る、動作確認のために本番に近いデータを貼る。開発者にとっては普段の作業ですが、入力した内容がどう扱われるかは、使うツールとプラン、設定によって変わります。
- 仕様書や業務ルールなど、自社の未公開の情報
- ソースコードの中に書かれたAPIキーやパスワード
- 動作確認用に使われた、顧客データに近い情報
個人向けの無料プランと法人向けのプランでは、入力内容を学習に使うかどうかの扱いが異なることがあります。どのツールのどのプランを使っているかを聞かないと、リスクの大きさは判断できません。
自社でAIを使う場合のルールや情報漏えいの全体像は、AI導入のセキュリティリスクと確認チェックリストで扱っています。この記事では、外注先の開発作業に限って見ていきます。
実在しない部品を提案される問題
3つ目は、依存する部品の問題です。システムは、他の人が公開している部品(ライブラリやパッケージと呼ばれるもの)を組み合わせて作ります。生成AIは、存在しない部品の名前をそれらしく提案することがあり、研究者の間ではパッケージ・ハルシネーションと呼ばれています。
困るのは、攻撃者がその名前で偽物の部品を公開しておくと、開発者が気づかずに取り込んでしまう可能性があることです。学術論文でも、コード生成AIが存在しない部品名を提案する現象と、偽物を登録されるリスクが指摘されています。
発注側にできるのは、使っている部品の一覧を納品物として受け取ることです。一覧があれば、後から問題が見つかった部品を使っていないかを調べられます。
コード生成AIのセキュリティを外注先に確認する

確認といっても、コードを読む必要はありません。発注側がするのは、聞く、書く、受け取るの3つです。順に説明します。
契約前に外注先へ聞く5つの質問
まず、提案を受ける段階で次の5つを聞きます。質問は提案依頼書の段階で書面にし、回答も書面で残してください。
| 質問 | 聞く理由 | 安心できる答えの目安 |
|---|---|---|
| AIコーディングツールを使うか。使うならツール名とプランは | 入力した情報の扱いがツールとプランで変わる | ツール名とプランをすぐ答えられ、法人向けの設定を使っている |
| 自社の仕様書やソース、顧客データをAIに入力してよい範囲を決めているか | 情報漏えいの入口になる | 入力してはいけない情報を、社内ルールで決めている |
| AIが書いたコードを、人がレビューしているか | 弱点は書いた直後に見つけるほうが直しやすい | 人のレビューを必須の工程にし、見る観点(認証と権限、入力値の検査、秘密情報)がある |
| ツールによる自動の脆弱性検査を、開発中に回しているか | 人のレビューだけでは見落としが出る | 開発工程に組み込まれており、結果を見せてもらえる |
| 使っている部品の一覧を、納品時に出せるか | 偽物や古い部品の混入を後から調べるため | 部品の一覧の提出を、標準の納品物にしている |
答えの内容と同じくらい、答え方も見てください。聞かれて初めて社内で確認し始める会社より、すぐ答えが返ってくる会社のほうが、普段から決めて運用しています。
どの質問も、AIを使うこと自体を責めるものではありません。使っていることを隠さずに話せる会社かどうかを見る質問です。
答えられない質問が出てきたら、その場で外す必要はありません。「確認して回答します」と言われたら、いつまでに書面で返ってくるかを決めてください。期限を決めても回答が出ない、あるいは「AIは使っていない」と言い切るだけで理由の説明がない場合は、確認の運用が弱いと見て、他社の提案と比べる材料にします。
要件定義書と契約に書いておくこと
聞いた内容は、口頭で終わらせず文書に残します。書く場所は2つあり、要件定義書(またはRFP)の非機能要件と、契約書です。次の項目を書いておくと、あとで「聞いていない」「言っていない」を避けられます。
外注先に書面で求めること
- 脆弱性検査の実施:納品前に行う検査の種類と、結果を書面で提出すること
- 重大な脆弱性の扱い:検査で見つかった重大な問題は、納品前に修正すること
- AI利用の申告:使うAIツールとプランを事前に申告し、変更するときは事前に知らせること
- 入力してはいけない情報:顧客データ、認証情報、未公開の事業情報など
- 部品の一覧:使っている部品とバージョンを、納品時に提出すること
- 納品後に見つかった弱点の修正:誰の費用で、いつまでに直すか
「脆弱性検査」と書くときは、種類を分けて書くのがコツです。ツールが機械的に弱点を探す自動検査は、開発中に何度も回せて、見つかった内容も早く分かります。一方、専門家が攻撃する側の視点で実際に試す診断は、自動検査では拾いにくい権限まわりの抜けを見つけるのに向いています。前者は開発中の標準工程として、後者は外部に公開するシステムなどで、と分けて書いておくと、見積もりの比較もしやすくなります。
特に決めておきたいのは、納品後に見つかった弱点の修正です。公開された脆弱性は短い期間で悪用されることがあるので、見つかってから直すまでの期限が曖昧だと、その間も被害にさらされます。無償で直す期間と、対応までの目安日数を契約に書いておくと揉めにくくなります。保守契約を結ぶ場合は、脆弱性への対応が保守の範囲に入っているかも確認してください。
外注先に何を要件として渡すか迷うときは、RFP(提案依頼書)テンプレートの非機能要件の欄に上の項目を追記すると、各社の提案を同じ条件で比べられます。
納品時に受け取る証拠と検収の見方
納品の段階では、コードの出来を見るのではなく、証拠を受け取ります。受け取るのは次の3つです。
| 受け取るもの | 確認すること |
|---|---|
| 脆弱性検査の結果報告 | どの検査を、いつ、何に対して実施し、何が見つかり、どう直したか |
| 部品の一覧 | 名前とバージョンが書かれているか。気になる部品がないか |
| AI利用の申告内容 | 実際に使ったツールが、事前の申告と合っているか |
もう1つ、検収で確認してほしいのは設定です。コードが正しくても、データの保存場所が誰にでも見える状態で公開されていると、情報は漏れます。公開範囲の設定も納品物の一部として、外注先と一緒に確認してください。
検収の進め方そのものは、システム開発の検収の進め方で説明しています。受け取る書類に上の3つを加えるだけで、セキュリティの確認が検収に組み込まれます。
どこまで確認するかは、システムの性質で変わります。社内だけで使う試作なら、専門会社による診断までは不要なことも多いでしょう。一方で、社外のユーザーがログインする、個人情報や決済情報を扱うといった場合は、納品前に専門会社の脆弱性診断を入れることを検討してください。診断の費用は範囲によって大きく変わるので、見積もりを取って比べるのが確実です。運用中のWebシステムの弱点がどこにあるかを先に知りたいときは、Webシステム安全度チェック(全10問・約2分)で確かめられ、診断を入れる範囲を考える材料になります。
よくある質問
- Q. 外注先にAIコーディングの利用を禁止してもよいですか?
- A. 禁止すること自体はできますが、効果は限られます。守られているかを発注側が確かめる手段がないからです。禁止するより、使うツールの申告、入力してはいけない情報、納品時の検査結果を決めるほうが実効性があります。AIを使う会社を一律に外すと、依頼先の選択肢も狭まります。
- Q. AIが書いたコードを、AIにチェックさせれば安全になりますか?
- A. 一定の検出には役立ちますが、それだけで安全とは言えません。AIによる確認にも見落としはあり、誰がどのデータを見てよいかといった業務固有の権限の考え方は、要件を知る人が確かめる必要があります。AIの確認は補助として使い、人のレビューと検査ツールの結果を併用する形が確実です。
- Q. 社内の担当者がAIで作った試作を、そのまま本番にしてもらってよいですか?
- A. 試作のコードには、セキュリティの設計が含まれていないことがあります。そのまま本番に使うのは避け、仕様の参考として外注先に渡して作り直してもらうか、既存のコードの検査を依頼するかを選んでください。ログイン機能や個人情報を含む場合は、特に検査を入れてください。

無料診断に申し込む