生成AIの情報漏洩リスクと対策｜中小企業が押さえるべき7つのセキュリティ対策【2026年版】

「社員が勝手にChatGPTに顧客情報を入力していないか不安」「生成AIを導入したいが、情報漏洩が怖くて踏み切れない」「セキュリティ対策と言われても、何から手を付ければいいかわからない」——生成AIの業務活用が広がるなかで、こうした悩みを抱える中小企業の経営者・管理部門の方は少なくありません。

総務省の令和7年版情報通信白書によれば、日本の個人の生成AI利用経験は26.7%(2024年度)と前年の9.1%から約3倍に急増しました。一方で、IPA(情報処理推進機構)が2026年1月に公表した「情報セキュリティ10大脅威 2026」では、「AIの利用をめぐるサイバーリスク」が組織編の第3位に初選出されています。利用の広がりとリスクの顕在化が、同時に進んでいるのが2026年の現在地です。

本記事では、中小企業が生成AIを安全に業務活用するために、情報漏洩を中心としたリスクの全体像と、優先順位付きの7つのセキュリティ対策を、官公庁・公的機関の一次データに基づいて解説します。「怖いから使わない」ではなく「正しく恐れて使いこなす」ための実務ガイドとしてご活用ください。

データで見る生成AIセキュリティの現状｜「うちは狙われない」が通用しない理由

まず、生成AIの利用拡大とセキュリティリスクの現状を、公的データで確認します。

利用は急拡大、企業の方針整備は約半数にとどまる

総務省の令和7年版情報通信白書によれば、生成AIを活用する方針(積極的に利用する方針+利用範囲を限定して利用する方針の合計)を定めている日本企業は49.7%(2024年度)で、前年度の42.7%から上昇しています。それでも約半数の企業は方針が未整備のままです。個人の利用経験26.7%に対し、米国68.8%・ドイツ59.2%・中国81.2%と海外の利用率は日本を大きく上回っており、今後日本でも利用者がさらに増えることはほぼ確実です。「会社としてのルールがないまま、社員が個人判断で使う」状態こそが、中小企業にとって最大のリスクと言えます。

AIリスクは「10大脅威」の第3位に初選出

IPAが2026年1月29日に公表した情報セキュリティ10大脅威 2026(組織編)では、1位「ランサム攻撃による被害」、2位「サプライチェーンや委託先を狙った攻撃」に続き、3位に「AIの利用をめぐるサイバーリスク」が初めて選出されました。専門機関が「組織が今警戒すべき脅威」としてAI利用のリスクを明確に位置付けたことは、生成AIのセキュリティ対策がもはや大企業だけの課題ではないことを示しています。

情報漏洩の被害規模は前年比93%増

東京商工リサーチの「2025年『上場企業の個人情報漏えい・紛失事故』調査」(2026年1月30日公表)によれば、2025年に上場企業とその子会社が公表した個人情報の漏えい・紛失事故は180件、漏えいした個人情報は3,063万6,910人分と前年比93.1%増に達しました。事故を公表した社数は158社と過去最多を更新しています。原因別では「ウイルス感染・不正アクセス」が116件(構成比64.4%)と6割超を占め、「誤表示・誤送信」が37件(20.5%)で続きます。つまり漏洩の主因は外部からの攻撃と、人のミスの2つです。生成AIの業務利用は「社員が社外のサービスに情報を入力する機会」を日常的に増やすため、この両方のリスク経路に関わります。

中小企業こそ狙われている——被害の約6割が中小企業

警察庁の「令和7年におけるサイバー空間をめぐる脅威の情勢等について」によれば、令和7年(2025年)のランサムウェア被害報告件数は226件と高水準で推移し、被害企業を規模別に見ると前年と同様に中小企業が約6割を占めています。業種別では製造業が約4割で最多ですが、卸売・小売業、サービス業、情報通信業など幅広い業種で被害が確認されています。さらに同調査のアンケートでは、復旧に総額1,000万円以上を要した組織が全体の5割超、1か月未満で復旧できた組織は5割強にとどまるなど、被害の高額化・長期化が進んでいます。「うちは小さいから狙われない」という想定は、統計上すでに成り立ちません。

生成AI利用に伴うセキュリティリスクの全体像｜4つに分類して整理する

生成AIのリスクは漠然と語られがちですが、対策を立てるには「どこで何が起きるのか」を分解することが先決です。中小企業の実務では、次の4分類で捉えると整理しやすくなります。

ポイントは、①②が「自社の使い方」の問題であるのに対し、③④は「使っていなくても降りかかる」問題だということです。生成AIを禁止しても③④のリスクは消えません。だからこそ「禁止」ではなく「安全に使う体制づくり」が現実解になります。以下、4つのリスクを順に掘り下げます。

リスク①入力による情報漏洩｜個人情報保護委員会が注意喚起する「学習利用」の落とし穴

生成AIのセキュリティで最も広く知られているのが、入力した情報の漏洩リスクです。多くの生成AIサービスでは、利用規約上、入力されたデータがAIの機械学習(精度改善)に利用されることがあります。学習に使われた情報は、他の情報と統計的に結びついた上で、別の利用者への回答として出力されるリスクがあります。

この点については、個人情報保護委員会が2023年6月2日に公表した「生成AIサービスの利用に関する注意喚起等」で、企業(個人情報取扱事業者)向けに次の2点が明示されています。

• 個人情報を含むプロンプトを入力する場合は、特定された利用目的を達成するために必要な範囲内であることを十分に確認すること
• あらかじめ本人の同意を得ることなく個人データを含むプロンプトを入力し、そのデータが応答結果の出力以外の目的(=学習など)で取り扱われる場合、個人情報保護法違反となる可能性がある。そのため、サービス提供事業者が当該データを機械学習に利用しないこと等を十分に確認すること

実務上の含意は明確です。顧客名簿・従業員情報などの個人データを、学習利用をオフにできない環境(多くの無料版・個人向けプラン)に入力することは、法令違反リスクに直結します。具体的には、(1)入力してよい情報・いけない情報を定義する、(2)入力データを学習に利用しない設定・プランを選ぶ、の2つが最低ラインです。判断基準としては「この情報が競合他社や取引先の目に触れたら困るか」「本人の同意なく第三者に渡したら問題になるか」の2問で判定するのが実用的です。

リスク②出力に潜むリスク｜誤情報・権利侵害を「そのまま使う」危険

入力側だけでなく、生成AIの出力にもリスクがあります。前出の個人情報保護委員会の注意喚起でも、生成AIの応答は確率的な相関関係に基づいて生成されるため、不正確な内容の個人情報が出力されるリスクが指摘されています。いわゆるハルシネーション(もっともらしい誤情報)です。

中小企業の実務で特に注意すべき場面は次の3つです。

• 社外向け文書: 提案書・Webコンテンツ・プレスリリースに誤った数値や実在しない情報が混入し、会社の信用を毀損する
• 法令・契約関連: 契約書や規程のドラフトに誤った法解釈が含まれたまま運用してしまう
• 権利関係: 生成物が第三者の著作物等と類似し、権利侵害を指摘される

対応の原則はシンプルで、「生成AIの出力は必ず人間が確認してから使う」というルールを業務フローに組み込むことです。特に社外に出る成果物は「作成者本人以外のダブルチェック」を通す、数値・固有名詞・法令引用は出典に当たって裏取りする、といった確認基準をあらかじめ決めておくと形骸化しにくくなります。どこまで確認するかは文書の重要度で濃淡をつけ、社内メモは本人確認のみ、社外文書は二重チェック、契約・法務は専門家確認、と3段階に分けるのが現実的です。

リスク③アカウント・利用環境｜認証情報の窃取と「シャドーAI」

意外に見落とされがちなのが、生成AIツール自体のアカウント管理です。警察庁の前出資料では、令和7年10月に通販大手が受けたランサムウェア攻撃について、攻撃者が認証情報を窃取・不正使用して複数のサーバにアクセスしたことが紹介されています。生成AIサービスのアカウントも同様で、ID・パスワードが漏れれば、チャット履歴に蓄積された社内情報がまとめて閲覧されるおそれがあります。生成AIは使い込むほど「業務情報の宝庫」になるため、アカウント自体を守る発想が必要です。

もう1つの問題が、会社が把握していないまま従業員が個人アカウントで業務利用する「シャドーAI」です。総務省白書が示すとおり個人の利用経験は1年で約3倍に急増しており、会社が公式ツールを用意しなければ、従業員は個人契約の無料版を使います。無料版は前述のとおり入力データが学習に利用される場合が多く、しかも会社側からは「誰が・何を・どこまで入力したか」を一切把握できません。禁止すればするほど利用が地下に潜り、リスクが見えなくなるのがシャドーAIの厄介な点です。

具体策は、(1)多要素認証(MFA)を必須にする、(2)会社契約の法人プランを用意して「公式の使い道」を与える、(3)退職者アカウントの棚卸しを定期実施する、の3点が基本です。

リスク④攻撃側のAI悪用｜フィッシング・マルウェアが「AIで量産」される時代

生成AIのリスクは「自社が使う」場面だけではありません。攻撃者側も生成AIを使い始めています。警察庁の前出資料では、生成AIを悪用してフィッシングサイトを作成した被疑者の検挙事例や、生成AIを悪用して不正プログラムを作成した17歳の少年の検挙事例が紹介されており、専門知識がない人物でも攻撃ツールを用意できてしまう実態が明らかになっています。IPAの10大脅威2026で「AIの利用をめぐるサイバーリスク」が3位に初選出された背景にも、こうした攻撃側のAI悪用があります。

中小企業にとっての実害は、まずフィッシングメールの巧妙化として現れます。かつては不自然な日本語で見分けられた詐欺メールが、生成AIによって自然な文面で量産されるようになりました。「日本語がおかしいから怪しい」という従来の判別法はもう通用しません。対策の軸足は、(1)送信元ドメインやリンク先URLを確認する習慣づけ、(2)「緊急」「至急」で判断を急がせるメールは電話等の別経路で確認する、(3)怪しいメールを開いてしまった場合の報告先を全員が知っている状態にする、という従業員教育と報告体制の整備に移ります。

中小企業がやるべき7つのセキュリティ対策｜優先順位付きで解説

ここからは、4つのリスクに対応する具体策を、着手すべき順に7つ解説します。最初の3つ(対策1〜3)はコストがほぼかからず即日〜1週間で着手できるもの、対策4〜5は1〜2か月で体制を作るもの、対策6〜7は継続運用の仕組みです。

対策1: 入力禁止情報を定義し、社内ガイドラインを作る(最優先・費用ゼロ)

すべての土台は「何を入力してはいけないか」の明文化です。最低限、(1)顧客・従業員の個人情報、(2)取引先から預かった機密情報、(3)自社の財務・技術・営業秘密、の3カテゴリを入力禁止と定め、全従業員に周知します。A4で1〜2枚の簡易版で構いません。作り方の詳細は生成AI社内ガイドラインの作り方｜中小企業が押さえるべき6つの項目と運用のコツで項目別に解説しています。

対策2: 学習利用されないプラン・設定に切り替える

業務利用するツールは、入力データが学習に利用されない法人向けプラン、または学習オフ設定(オプトアウト)が可能なプランに統一します。個人情報保護委員会の注意喚起が求める「機械学習に利用しないこと等の確認」を満たす、最も確実な方法です。主要サービスの法人プランの違いはChatGPT・Claude・Gemini法人版比較｜中小企業の選び方で詳しく比較しています。

対策3: 多要素認証とアカウント管理を徹底する

生成AIツールを含む業務システム全般で、多要素認証(MFA)を有効化します。TSR調査で漏えい原因の64.4%を占めた「ウイルス感染・不正アクセス」の入口の多くは、認証の突破です。あわせて、共有アカウントの禁止、退職者アカウントの即時停止をルール化します。

対策4: 出力の確認フローを業務に組み込む

「AIの出力は人が確認してから使う」を原則とし、文書の重要度に応じて確認の深さを3段階(社内メモ=本人確認/社外文書=二重チェック/契約・法務=専門家確認)に分けます。確認観点(数値・固有名詞・法令引用・権利関係)をチェックリスト化しておくと、担当者ごとのばらつきを防げます。

対策5: 従業員向けのセキュリティ研修を実施する

ルールを作っても、従業員が「なぜ危険なのか」を理解していなければ守られません。入力禁止情報の判断基準、フィッシングの見分け方、事故時の報告手順を、実際の業務場面に即して教育します。年1回の座学より、短時間でも定期的な演習(疑似フィッシングメール訓練など)のほうが定着します。研修会社の選び方はAI研修の選び方完全ガイドを、社内での人材育成の進め方はAI人材育成の進め方｜中小企業が社内でAI活用人材を育てる4ステップを参考にしてください。

対策6: 利用実態を把握する仕組みを作る(シャドーAI対策)

「どの部署が・どのツールを・何に使っているか」を半期に1回は棚卸しします。法人プランの管理機能を使えば利用状況を管理者が確認でき、把握していない野良利用の発見にもつながります。重要なのは、発見した野良利用を罰するのではなく、公式ツールへ誘導することです。処罰的に運用すると利用が再び地下に潜ります。

対策7: インシデント対応手順を決めておく

誤って機密情報を入力してしまった場合の「報告先・初動・記録」をあらかじめ決めておきます。警察庁調査が示すとおり、被害の復旧には5割超の組織で総額1,000万円以上を要しています。初動の早さが被害範囲を左右するため、「やってしまった」と言い出しやすい報告文化とセットで整備することが重要です。体系的に整備したい場合は、IPAが2026年3月27日に公開した中小企業の情報セキュリティ対策ガイドライン(第4.0版)が無料で利用できます。あわせて、IPAのSECURITY ACTION(セキュリティ対策の自己宣言制度)を宣言すれば、取引先へのアピールにもなり、多くのIT系補助金の申請要件にも対応できます。

無料版と法人版はここが違う｜安全性の比較表

「まず無料版で試したい」という声は多いですが、業務利用の観点では安全性に大きな差があります。一般的な個人向け無料プランと法人向けプランの違いを整理します(具体的な仕様はサービス・プランごとに異なるため、契約前に必ず各社の最新の規約・仕様を確認してください)。

月数千円のコストで「学習利用」「シャドーAI」「アカウント統制」の3つのリスクが同時に下がるため、業務利用が月数時間を超えるなら法人プランへの切り替えが原則と考えてよいでしょう。

7つの対策の優先順位と費用感

7つの対策を「いつ・いくらで」実行するかの目安を整理します。

なお、研修費用は人材開発支援助成金などの公的制度で相当部分をカバーできる場合があります。詳しくはAI研修に使える補助金・助成金まとめをご覧ください。

企業規模別・セキュリティ体制の作り方

「専任のセキュリティ担当を置けない」のが中小企業の現実です。規模別に現実的な体制の組み方を示します。

従業員20名以下: 経営者が「1枚のルール+法人プラン」で統制する

専任担当は不要です。経営者自身がA4で1枚の利用ルール(入力禁止情報・確認ルール・報告先)を作り、全員が同じ法人プランを使う状態にすれば、リスクの大半は抑えられます。ツール選定と初期設定だけ外部の専門家に依頼するのも有効です。

従業員21〜100名: 兼任の推進担当+部門別の運用ルール

総務や情報システム担当者が兼任で「AI利用の窓口」となり、ガイドラインの改訂・問い合わせ対応・棚卸しを担います。営業は顧客情報、経理は財務情報など、部門ごとに扱う機密情報が異なるため、部門別の入力可否リストを整備すると運用が安定します。

従業員100名超: 委員会形式で経営・現場・IT を接続する

経営層・現場代表・IT担当による小規模な委員会(四半期に1回程度)を設け、利用状況・ヒヤリハット・ツール追加の可否を審議します。IPAガイドライン第4.0版の経営者編・実践編を骨格にすると、体系立った整備がしやすくなります。

いずれの規模でも、生成AI導入全体の進め方は中小企業のAI導入完全ガイドで5ステップに整理しています。

よくある失敗パターン5つ｜原因と回避策

失敗1: 「全面禁止」にしてシャドーAIが蔓延する

原因: リスクを恐れて禁止一辺倒にした結果、従業員が個人アカウントで隠れて使い、会社の統制が一切効かない状態になる。回避策: 「禁止」ではなく「安全な公式ルート」を用意する。法人プラン+簡易ガイドラインをセットで導入し、使ってよい場面を明示する。

失敗2: ガイドラインを作って満足し、更新も教育もしない

原因: 策定がゴールになり、現場に浸透しないまま形骸化する。生成AIのサービス仕様は数か月単位で変わるため、1年前のルールはすぐ実態と乖離する。回避策: 半期に1回の見直しをあらかじめ予定に組み込み、改訂のたびに短時間の周知研修をセットで行う。

失敗3: 無料版のまま顧客情報を扱い続ける

原因: 「試用のつもり」の無料版がなし崩し的に本番利用になり、個人データが学習利用される環境に入力され続ける。回避策: 業務利用の開始時点を明確に区切り、その時点で法人プランへ切り替える。切り替え判断を先送りしない。

失敗4: ツールだけ導入して教育を省略する

原因: 「法人プランにしたから安全」と思い込み、入力判断やフィッシング対応など人の側の対策を怠る。TSR調査でも漏えい原因の約2割は誤表示・誤送信という人的ミスであり、ツールでは防ぎきれない。回避策: 対策5の研修を導入とセットで実施し、「なぜ危険か」の理解まで含めて浸透させる。

失敗5: 事故が起きたときの手順がなく、報告が遅れる

原因: 誤入力やアカウント侵害に気づいた従業員が「怒られるのが怖い」と報告をためらい、初動が遅れて被害が拡大する。回避策: 報告先と初動手順を1枚にまとめて全員に配布し、「早く報告した人を責めない」方針を経営者が明言する。

よくある質問(FAQ)

Q1. 生成AIに入力した情報は、必ず漏洩するのですか?

必ず漏洩するわけではありません。リスクの中心は「入力データが学習に利用される設定・プランのまま機密情報を入力すること」です。学習利用されない法人プランや設定を選び、入力禁止情報のルールを守れば、リスクは大幅に下げられます。

Q2. 対策にはどのくらいの費用がかかりますか?

本記事の7つの対策のうち5つは費用ゼロ(社内工数のみ)で着手できます。費用が発生するのは主に法人プラン(1ユーザーあたり月数千円程度)と外部研修(数万〜数十万円、助成金活用可)です。まず対策1〜3の「ゼロ円対策」から始めるのが定石です。

Q3. 小さな会社でも本当に狙われるのでしょうか?

警察庁の統計では、ランサムウェア被害企業の約6割が中小企業です。むしろ対策が手薄な中小企業は、大企業への足がかり(サプライチェーン攻撃)としても狙われます。IPAの10大脅威2026でも「サプライチェーンや委託先を狙った攻撃」は2位に位置付けられています。

Q4. 無料版の生成AIを業務で使うのは絶対にダメですか?

一律禁止とまでは言えませんが、個人情報や機密情報を扱う業務では避けるべきです。公開情報の要約や一般的な文章の下書きなど、機密性のない用途に限定するルールを定めた上でなら、リスクは限定的です。ただし利用実態を会社が把握できない問題は残るため、本格利用の段階では法人プランへの統一を推奨します。

Q5. 社内ガイドラインはどこから作ればよいですか?

最初は「入力禁止情報の定義」「出力の確認ルール」「困ったときの相談先」の3点をA4で1〜2枚にまとめるだけで十分です。詳しい項目立ては生成AI社内ガイドラインの作り方で解説しています。

Q6. 従業員研修では何を教えるべきですか?

(1)入力してよい情報・いけない情報の判断基準、(2)出力の確認方法、(3)フィッシング等の攻撃への対処、(4)事故時の報告手順、の4点が核です。座学だけでなく、自社の実際の業務場面を題材にした演習を組み込むと定着率が大きく変わります。

Q7. セキュリティが不安なので、導入自体を見送るべきでしょうか?

見送りにもコストがあります。企業の生成AI活用方針の策定率は49.7%と半数に達しており、活用企業との生産性差は今後広がっていきます。また、自社が使わなくても攻撃側はAIを悪用してくるため、リスクはゼロになりません。「使わない」より「安全に使う体制を作る」ほうが、リスクとリターンの両面で合理的です。導入が進まない企業の傾向は生成AI活用が進まない中小企業の共通点で分析しています。

まとめ｜「正しく恐れて使いこなす」体制づくりを

本記事の要点を整理します。

• 生成AIの利用は急拡大する一方、IPAの10大脅威2026では「AIの利用をめぐるサイバーリスク」が組織編3位に初選出。リスクへの備えは待ったなし
• リスクは「①入力による漏洩」「②出力の誤り」「③アカウント・シャドーAI」「④攻撃側のAI悪用」の4分類で整理できる。禁止しても③④は消えない
• 対策はガイドライン策定・法人プラン・多要素認証の「ゼロ円3点セット」から着手し、確認フロー・研修・棚卸し・インシデント手順へ広げる
• ランサムウェア被害の約6割は中小企業。復旧費用は5割超の組織で1,000万円以上——事前対策のコストのほうが圧倒的に安い

株式会社Nexiでは、中小企業向けに生成AIの安全な導入・活用を支援しています。入力ルールの設計や従業員向けセキュリティ研修を含むAI研修、ガイドライン策定から運用体制づくりまで伴走するAIコンサルティングをご提供しています。サービスの詳細は資料請求(無料)から、個別のご相談はお問い合わせからお気軽にご連絡ください。