AI開発のセキュリティで発注前に確認すべきは、データの扱い・学習利用・保管場所の3領域です。「自社の顧客データがAIモデルの学習に使われないか」「データはどこの国のサーバーに置かれるか」「開発会社は実データをどう扱うか」を、口頭ではなく提案書と契約書の文面で確かめることが原則になります。当社（株式会社課題解決プラットフォーム）はこの3領域の設計を標準工程に含め、業務自動化ミニ開発300,000円〜で提供しています（2026年7月時点・税抜）。
AI開発のセキュリティとは
AI開発のセキュリティとは、自社の業務データを扱うAIシステムを開発・運用する際に、データの漏えい・意図しない学習利用・不適切な保管を防ぐための技術的対策と契約上の取り決めの総称です。
通常のシステム開発と比べて、AI開発には固有の論点が加わります。多くのAIシステムは、外部のAIサービス（大規模言語モデルのAPIなど）へデータを送信して処理する構造だからです。つまり自社のデータが、開発会社だけでなくAIサービス提供事業者にも渡る。この「データが二段階で外部に出る」構造を理解しないまま発注すると、確認すべき相手と項目が漏れます。
発注者が押さえるべき全体像を先に示します。
| 領域 | 問い | 確認する相手 |
|---|---|---|
| データの扱い | 誰が・どの範囲の実データに触れるか | 開発会社 |
| 学習利用 | 入力データがAIモデルの学習に使われるか | AIサービスの規約＋開発会社の設計 |
| 保管場所 | データはどこに・どれだけの期間保存されるか | AIサービスの仕様＋開発会社の設計 |
なぜ「発注前」なのか。どのAIサービスを使い、データをどこへ流すかは、システムの土台に関わる設計判断だからです。完成後に「やはり国内保管にしたい」「学習利用しない契約形態に変えたい」となると、土台からの作り直しに近い手戻りが発生します。機能の要望は後から足せますが、データの流れは後から変えにくい。だからセキュリティの確認だけは、機能の議論より先に済ませる必要があります。
以下、領域ごとに確認方法を具体化します。なお、この記事は発注側の視点で書いていますが、そのまま開発会社への質問リストとして使える構成にしています。
領域1: データの扱い｜開発会社は実データに触れるのか
開発中のデータの扱いを決める
見落とされやすいのが、完成後の運用ではなく「開発中」のデータの扱いです。開発やテストの過程で、開発会社の技術者が自社の実データ（顧客リスト・図面・帳票など）に触れる場面が発生し得ます。確認すべきは次の点です。
- 開発・テストに実データを使うのか、ダミーデータ・マスキング済みデータで行うのか
- 実データを使う場合、受け渡しの方法（暗号化・アクセス制限された環境か）と、触れる担当者の範囲
- 開発完了後、開発会社側に残ったデータの削除手順と削除の証明方法
- 再委託（下請け）の有無と、再委託先にも同じ義務が課されるか
原則は「開発はダミーデータで行い、実データは最小限・管理された環境でのみ使う」です。この方針を提案書に書けるかどうかは、開発会社の経験値がそのまま表れる部分です。
削除については「削除します」の一言で済ませず、削除の対象（受領データ・複製・バックアップ）、時期（検収後◯日以内）、方法、そして削除完了報告書の提出までを取り決めます。ここまで具体化して初めて、削除条項は実効性を持ちます。
秘密保持契約（NDA）は開発契約の前に
要件定義の相談段階で、すでに業務フローや顧客情報の一部を開発会社へ渡すことになります。NDAは開発契約と同時ではなく、具体的な相談を始める前に締結するのが正しい順序です。
個人情報を扱う場合は「委託」の整理が必要
顧客の個人情報を扱うシステムでは、開発会社やAIサービス事業者へのデータの受け渡しが、個人情報の取り扱いの「委託」にあたるかの整理が必要になります。委託にあたる場合、委託元には委託先を監督する義務があり、契約での安全管理措置の取り決めが求められます。また自社のプライバシーポリシーで示した利用目的の範囲内かの確認も必要です。判断が難しいケースでは、設計段階で「個人情報はシステムに入れない・仮名化してから処理する」構成に倒すほうが、運用の負担を含めて安全です。この設計判断を提案できるかも、開発会社の力量の見どころです。
領域2: 学習利用｜入力データはAIモデルに取り込まれるのか
「学習に使われる」とは何が起きることか
AIサービスによっては、利用者が入力したデータをAIモデルの改善（学習）に利用する場合があります。学習に使われたデータは、将来のモデルの応答に間接的に影響する可能性があり、機密情報や個人情報を扱う業務システムでは避けるべき条件です。
誤解を避けるために補足すると、「学習利用」と「一時的な処理」は別物です。APIにデータを送って処理させること自体は、電卓に数字を入れるのと同じ一時的な演算であり、適切な契約形態ならデータがモデルに蓄積されるわけではありません。「AIに入力したら即アウト」という理解では業務利用が一切できなくなり、「何でも入れてよい」では統制になりません。契約形態で線を引くのが正確な理解です。
重要なのは、これが「サービスの種別と契約形態」でほぼ決まることです。
| 契約形態 | 学習利用の一般的な扱い | 業務システムでの利用 |
|---|---|---|
| 個人向け無料版 | 学習に利用される場合がある | 避けるべき |
| 個人向け有料版 | 設定でオプトアウトできる場合が多い | 統制が個人任せになるため不向き |
| 法人向けプラン・API | 学習に利用しない規約が標準 | こちらを前提に設計する |
一般論として、法人向けAPIでは「入力データをモデルの学習に使わない」ことが規約に明記されているのが標準です。ただし規約は変わり得るため、「2026年◯月時点の規約のこの条項」と特定して記録に残すことが実務上のポイントです。
開発会社への質問例
- 本システムが利用するAIサービスの名称・提供事業者・契約形態は何か
- 入力データが学習に利用されないことは、規約のどの条項で確認できるか
- 規約変更を継続的に把握する責任は、運用保守契約でどちらが負うか
- AIサービス側の障害・仕様変更時の代替手段は設計されているか
この4問に文書で答えられない開発会社は、AIサービスを「使ったことはあるが、業務システムとして責任を持った経験が浅い」可能性があります。あわせてAI開発会社の選び方｜失敗しない7つの基準と費用相場の基準でも照合してください。
社内データを参照させる構成では「参照範囲」も確認する
社内の文書やデータベースをAIに参照させて回答させる構成（社内ナレッジ検索など）では、学習利用とは別の論点が生まれます。AIが参照できるデータの範囲と、利用者ごとの権限の対応です。
たとえば全社員が使える質問応答システムが、人事評価や役員会議事録まで参照できる設計になっていると、本来アクセス権のない社員が「質問」を通じて機密情報を引き出せてしまいます。確認すべきは、参照対象データの選定基準、利用者の権限と参照範囲の連動、そして「答えてはいけない質問」への振る舞いの設計です。学習利用の統制ができていても、この参照権限が粗いと社内漏えいの経路になります。
領域3: 保管場所｜データはどこに・いつまで残るのか
確認すべき4点
- サーバーの所在地（リージョン）: データが国内のサーバーで処理・保存されるのか、海外のデータセンターを経由するのか。取引先との契約や業界のガイドラインで国内保管が求められる場合は、設計の前提条件として最初に伝える
- 保存期間とログ: 入力データや処理履歴がAIサービス側・システム側にどれだけの期間残るか。不要なログを残さない設計になっているか
- 暗号化: 通信経路と保存時の暗号化が実装されているか
- アクセス権限: 完成したシステムに誰がアクセスできるか。部署・役職に応じた権限設計と、退職者アカウントの無効化手順があるか
「クラウドだから危険」ではない
保管場所の議論で誤解されやすいのは、クラウド利用そのものをリスク扱いすることです。実際には、自社サーバーの管理が行き届いていない状態のほうが危険なことも多く、問題は「どこにあるか」より「所在と条件を把握・選択できているか」です。発注者が確認すべきは、クラウドか否かではなく、所在地・期間・権限が文書で説明できる設計かどうかです。
同時に、要件の盛りすぎにも注意が必要です。扱うデータが公開情報中心のシステムに国内専用環境や過剰な監査要件を課すと、費用と期間だけが膨らみます。データ分類（公開・社内限定・機密・個人情報）に応じて要件の強度を変えるのが合理的で、この強弱の提案ができる開発会社は信頼できます。
運用開始後も年1回の棚卸しを
保管場所と権限は、納品時に正しくても運用の中で崩れます。担当者の異動でアクセス権が放置される、AIサービス側の規約や仕様が変わる、ログの保存量が想定を超える——いずれもよくある変化です。年1回、アクセス権の棚卸しと利用AIサービスの規約再確認を行う運用をあらかじめ決め、保守契約にその作業が含まれるかを確認しておくと、統制が持続します。
契約書・提案書で押さえる条項チェックリストと費用
発注前の最終確認として、次の項目が契約書・提案書・仕様書のいずれかに明文化されているかを確かめます。
- 秘密保持義務と、対象となる情報の範囲の定義
- 開発・テストにおける実データ利用の可否と条件
- 利用するAIサービスの名称・契約形態と、学習利用に関する規約の特定
- データの保管場所（リージョン）と保存期間
- 開発完了後・契約終了後のデータ削除と、削除完了の報告方法
- 再委託の可否と、再委託先への義務の承継
- 事故発生時の報告義務（何時間以内に・誰へ・何を報告するか）
- 運用開始後の規約変更・仕様変更を監視する責任の所在
8項目すべてが一度で完璧に揃う必要はありませんが、「どれが契約に含まれ、どれが含まれていないか」を発注者が把握していることが重要です。曖昧な項目を残したまま開発が始まると、後から直すコストは数倍になります。
確認のタイミングを段階で分ける
8項目を一度にぶつける必要はありません。商談の進行に合わせて分けると、開発会社側も答えやすくなります。
| 段階 | 確認すること |
|---|---|
| 初回相談の前 | NDAの締結 |
| 提案・見積もり時 | 利用するAIサービスと契約形態・保管場所・実データ利用の方針 |
| 契約時 | 削除義務・再委託・事故時の報告・規約監視の責任分担 |
| 納品・検収時 | 権限設定の実機確認・開発環境のデータ削除報告 |
とくに「納品・検収時」の確認は忘れられがちです。仕様書に書かれた権限設計が実際にそのとおり動くか、検収項目に含めて自分の目で確かめてください。
回答を濁す会社の見分け方
この記事の質問を投げたとき、開発会社の反応は3通りに分かれます。文書で即答する会社、確認して後日文書で回答する会社、「弊社を信頼してください」と口頭で済ませようとする会社です。前の2つは信頼できます。3つ目は、悪意がなくても業務システムのデータ管理を任せる相手としては不安が残ります。セキュリティの質問への対応品質は、開発全体の品質管理の縮図だと考えて差し支えありません。
費用と当社の考え方
セキュリティ要件は、後付けするより最初から織り込むほうが安く済みます。当社のAI開発の料金は次のとおりです（2026年7月時点・税抜）。
| プラン | 料金 | 期間 |
|---|---|---|
| 業務自動化ミニ開発 | 300,000円〜 | 2〜4週間 |
| AI組込み開発 | 800,000円〜 | 1〜3ヶ月 |
| AI開発顧問 | 300,000円/月 | 最低3ヶ月・以降1ヶ月単位 |
当社は全案件に194項目の解決品質基準（うちAI開発40項目）を適用し、データの扱い・学習利用・保管場所の設計と文書化を標準工程に含めて、不合格のまま納品しない体制で開発しています。また、約540ページの自社サイトとAIチャットボットを自社開発・実運用しており、外部AIサービスを業務で安全に使う設計を自社環境で日常的に検証しています。開発の予算感や依頼の流れは業務自動化の外注費用はいくら？相場と依頼手順5ステップも参考になります。
なお、システム側の統制を固めても、社員が個人契約の無料AIに業務データを入力していては意味がありません。入力ルールの整備と教育はAI研修の領域で、開発と研修を並走させることで組織全体の統制がそろいます。社内の点検にはAI研修チェックリストが使えます。
まとめ｜「口頭の安心」ではなく「文面の確認」
| 領域 | 発注前に確認すること |
|---|---|
| データの扱い | 開発中の実データ利用条件・削除手順・再委託 |
| 学習利用 | AIサービスの契約形態と規約の該当条項 |
| 保管場所 | リージョン・保存期間・暗号化・アクセス権限 |
AI開発のセキュリティは、専門知識がなくても「正しい質問リスト」があれば発注者側で統制できます。本記事のチェックリストと質問例をそのまま商談で使ってください。誠実な開発会社ほど、こうした質問を歓迎します。質問に答える過程で設計の詰めが進むため、開発側にとっても手戻りが減るからです。
逆に、セキュリティを理由に導入自体を見送り続けることにもリスクがあります。統制のないまま社員が個人のAI利用を広げる状態こそ、最も管理不能だからです。「正しく確認して、管理された形で導入する」ことが、使わせない統制よりも安全に近づく道です。
これからAI開発を発注する方、既存の見積もりのセキュリティ面に不安がある方は、AI開発サービスをご覧ください。初回30分の無料相談はオンライン対応・秘密厳守です。他社の提案書を持ち込んでのセカンドオピニオン的なご相談でも構いません。データの扱いを含めた確認ポイントを一緒に整理します。