ISMSのAI利用ルールと審査対策|リスク管理からAIMS対応まで解説

ISMS
社員が許可なくChatGPTなどのAIツールを業務で利用しており、ISMS審査で指摘されないか不安を感じていませんか。
この記事では、自社のISMS体制においてAI利用によるセキュリティリスクを管理するために、「AI利用規程」や「リスクアセスメント」を作成・運用する際のポイントを解説します。

生成AIの急速な普及に伴い、多くの企業で業務利用が進んでいますが、それに伴うセキュリティリスクも顕在化しています。
ISMS(情報セキュリティマネジメントシステム)を運用する企業にとって、AI利用に関する明確なルールを策定することは、情報資産を保護し、認証を維持するために重要です。
ルールがない状態では、従業員が意図せず機密情報を漏洩させたり、コンプライアンス上の問題を引き起こしたりする可能性があります。
このような背景から、既存のISMSの枠組みの中でAIのリスクを適切に管理する体制の構築が急務となっています。
ルールを策定し管理体制を整えることは、ISMS審査で有効性を証明する上でも重要です。
管理部門が把握していないAIツールを従業員が業務で利用する「シャドーAI」は、深刻な情報漏洩リスクを引き起こします。
多くの生成AIサービスでは、入力された情報の学習利用の有無は、生成AIサービスの契約プランや設定等によって異なります。機密情報を入力する場合は、学習利用に加え、保存・閲覧等の条件も確認し、意図しない利用や漏えいにつながらないよう管理する必要があります。
ISMSの観点では、組織が管理できていない情報資産の利用は重大なセキュリティインシデントにつながる恐れがあるため、利用を禁止するか、利用条件や必要な対策を確認したツールを指定して利用を許可するかの明確な方針を示すことが求められます。
AIの利用を開始すると、ISMSで要求される情報セキュリティに関連する規程や手順書の見直しが必要になります。
文例集などを参考に整備した規程や手順書が、多数のファイルに分かれている場合もあります。
AI利用という新たな要素を、関係する文書を特定し、矛盾なく反映させる作業は、多大な工数がかかるだけでなく、更新漏れや内容の不整合といったミスを誘発しがちです。
文書の更新や版管理の仕組みが不明確な場合、変更への対応が遅れたり、更新漏れが生じたりするおそれがあり、ISMS運用の形骸化を招く一因となります。
ISMS認証の審査では、AIの利用を含む情報資産の取扱いが、組織の定めたルールとリスクアセスメントに沿って管理されているかが確認されます。
審査員は、組織がAI利用に伴うリスクを正しく認識し、それらを管理下に置くための具体的な対策を講じているかを確認します。
単にルールを策定しているだけでなく、そのルールが現場で確実に遵守され、有効に機能していることを客観的な証拠をもって示すことが重要です。
AI利用では、入力した情報の扱いに関するツール仕様の把握や、利用状況の記録が確認の対象となる場合があります。
審査への準備として、これらのポイントを押さえた管理体制を整え、その実施状況と有効性を説明できるようにしておくことが重要です。
使用するAIツールが、入力されたデータをどのように扱うかを正確に把握することが求められます。
具体的には、各ツールの利用規約やプライバシーポリシーを確認し、入力データがAIモデルの学習に利用されるか、その可否を選択できるかを明確にする必要があります。
例えば、一部のサービスでは設定を変更しない限り、入力情報が学習データとして再利用される規約になっています。
ISMS審査では、こうしたツールの仕様を理解した上で、情報漏えいリスクに対応するための設定や利用方法を組織として定めているかが問われます。なお、学習利用がない場合も、データの保存期間、提供者による閲覧、外部連携等の取扱いを確認する必要があります。
ISMSでは、規格が要求する文書化した情報に加え、組織が運用に必要と判断した記録を保持することが求められます。
AIツールの利用においても例外ではなく、リスクと自社の管理方法に応じて、利用を認めたツール、利用者、利用目的、承認内容など、管理に必要な記録を定めます。
口頭での許可や黙認ではなく、正式な申請・承認フローを定め、その記録をシステムや台帳で管理することが望ましいです。申請・承認は、サービス導入時や利用者登録時に行う方法などがあり、利用の都度の申請が一律に必要となるわけではありません。
審査では、組織が定めたルールどおりに運用されているかを確認するため、利用記録の提示を求められる場合があります。
記録がない場合、ルールが運用されていることを示しにくく、審査で指摘を受けるおそれがあります。

生成AIの利用では、AIの特性に関連するリスクに加え、情報漏えいなどの既存リスクが変化・増大する場合があります。
そのため、ISMS運用の根幹であるリスクアセスメントにおいて、これらのAI特有の脅威を特定し、評価の対象に加える必要があります。
これにより、AI利用の実態に即した情報セキュリティ対策を計画的に実施することが可能となります。
リスクの特定が不十分なままでは、対策も的を射たものにならず、潜在的な脅威を見過ごすことになりかねません。
したがって、既存のリスクアセスメントプロセスを見直し、AIに関連する項目を網羅的に洗い出す作業が不可欠です。
生成AIは、事実に基づかないもっともらしい誤情報を生成すること(ハルシネーション)があります。
AIの回答を鵜呑みにして企画書を作成したり、顧客への回答に利用したりすると、誤った意思決定や信頼の失墜といった業務上のトラブルに発展する可能性があります。
リスクアセスメントでは、ハルシネーションによる誤情報を確認せずに利用するリスクを評価し「AIが生成した情報のファクトチェック手順の策定」や「重要な意思決定におけるAI利用の制限」といった管理策を検討することが重要です。
AIが生成した文章や画像、プログラムコードなどが、意図せず第三者の著作権や商標権、肖像権などを侵害してしまうリスクが存在します。
特に、生成物を商用利用する場合には、法的な紛争に発展する可能性も否定できません。
この脅威に対応するためには、リスクアセスメントを通じて、生成物の利用範囲に関するルールを明確に定める必要があります。
また、学習データに関する公開情報や生成物の利用条件等を確認することも、サービス選定時の判断材料となります。ただし、それだけで生成物の権利侵害リスクを判断できるとは限らないため、利用時の確認も必要です。
効率的なリスク管理のためには、まず利用するAIツールを「情報資産」として明確に登録することから始めるアプローチが有効です。
資産として登録されたAIツールに対して、どのような脅威(ハルシネーション、情報漏洩など)や脆弱性が存在するのかを体系的に紐づけてリスクを評価しましょう。
この方法により、リスクの特定漏れを減らし、管理策の適用範囲を明確にしやすくなります。ツール名だけでなく、入力情報や出力の用途など、利用方法の違いも確認します。
ISMSの審査基準をクリアし、かつ実効性のあるAI利用体制を構築するには、場当たり的な対応ではなく、計画的かつ体系的なアプローチが重要です。
まず現状を正確に把握し、その上で明確なルールを定め、全社に浸透させ、継続的にその有効性を検証していくというPDCAサイクルを回す必要があります。
ここでは、そのプロセスを5つの具体的なステップに分けて解説します。
以下は、AI利用の管理体制を整えるための進め方の一例です。自社の利用実態やリスク、既存のISMSの仕組みに応じて調整しながら進めます。
AIガバナンスの確立は、後述するAIマネジメント規格(ISO/IEC 42001)への対応を見据える上でも重要な基盤となります。
まず、組織内でどのようなAIツールが、どの部署で、どの程度の頻度で利用されているかを正確に把握することから始めます。
アンケートや各部署へのヒアリングに加え、必要に応じて通信ログやCASB(Cloud Access Security Broker:クラウドサービスの利用状況を可視化・制御するツール)を活用し、従業員が利用しているAIサービスを把握します。調査だけですべての利用を把握できるとは限らないため、複数の方法を組み合わせ、継続的に確認します。
これにより「シャドーAI」の実態を可視化し、リスクアセスメントの対象とすべき情報資産を特定します。
この初期調査が、後のガイドライン策定やリスク評価の精度を左右する重要な土台となります。
利用実態調査の結果を踏まえ、ISMSで用いているリスクアセスメントシートやリスク管理表に、AI利用に伴うリスクを追加します。
「ハルシネーションによる業務上の誤判断」や「生成物による著作権侵害」、「AIサービスへのサイバー攻撃による情報窃取」といった脅威を特定し、それぞれのリスクレベル(影響度と発生可能性)を評価します。
その上で、評価結果に基づき、入力できる情報の範囲やツールの選定基準、設定方法などを管理策として検討し、リスク対応計画を文書化します。
利用実態調査とリスク評価の結果を踏まえ、全社共通のAI利用ガイドラインを策定します。
このガイドラインの中核となるのが、入力できる情報と、その条件の明確化です。具体的には、「個人情報」「取引先の非公開情報」「自社の経営戦略に関わる情報」などについて、情報の分類、契約上の制約、AIサービスの利用条件や設定等を踏まえ、入力を禁止する情報と、所定の条件で入力を認める情報を定めます。
また、利用を許可するAIツールや、安全に利用するための設定方法も明記し、従業員が遵守すべき行動基準を具体的に示します。ガイドラインは、独立した文書として設けるほか、既存の規程・手順に内容を追加する方法もあります。
リスク評価の結果に応じてガイドラインや対策を調整し、設定変更や承認手続などの必要な対策を実施して、運用を開始します。その実施状況や確認結果について、必要な記録を残します。
策定したガイドラインは、従業員に周知し、理解させなければ意味がありません。
全従業員を対象としたセキュリティ教育を実施し、AI利用のルールや潜むリスク、インシデント発生時の報告手順などを徹底します。
この教育は、Eラーニングシステムなどを活用して実施し、誰がいつ受講を完了したかを記録として保管することが極めて重要です。
この受講記録は、教育を実施したことを示す客観的な証拠の一つとなります。あわせて、教育の目的や対象者の役割に応じて、理解度や業務での実施状況なども確認し、必要な力量が確保されているか、教育が有効に機能しているかを評価します。
構築したAI利用体制が形骸化していないかを確認するため、定期的に実施する内部監査のチェック項目にAI関連の事項を追加します。
具体的には、「AIツールの利用申請・承認記録が適切に保管されているか」「ガイドラインで禁止されている情報の入力事例がないか」「従業員がルールを正しく理解しているか」といった点を検証します。これらに加え、自社で定めた管理策に応じて、サービスの設定や生成物の確認手順、問題発生時の対応などについても、実施状況と有効性を確認します。
内部監査で不適合が見つかった場合は、必要な修正を行い、原因を検討して是正処置の必要性を評価し、必要な処置を実施します。改善の機会についても対応の必要性を検討し、継続的な運用改善につなげます。

生成AIの利用が常態化する中、情報セキュリティを管理するISMSに加え、AIの開発・提供・利用に関するAIマネジメントシステム(AIMS)の要求事項を定めた国際規格ISO/IEC 42001が注目されています。既にISMSを運用している企業にとっては、その基盤を活かして効率的にAIMSへ対応を拡張することが可能です。
ゼロからAIMSを構築するのではなく、既存の資産を最大限に活用することで、運用負荷を抑えながら、より高度なAIガバナンス体制を構築できます。
最後に、実務で想定される疑問点をQ&A形式で解説します。
AIマネジメントシステム(AIMS)の要求事項を定めたISO/IEC 42001は、ISMSのISO/IEC27001と同様に、マネジメントシステム規格の共通構造(附属書SL)を採用しています。
これにより、ISMSで既に構築されているリスクアセスメント、内部監査、マネジメントレビュー、文書管理といった運用の枠組みを、AIMSにも応用することが可能です。
具体的には、ISMSで構築した方針、リスクアセスメント、内部監査などの仕組みを活かし、AIMSの要求事項を取り込んだ統合的なマネジメントシステムとして運用する方法があります。なお、AIMS認証はISMS認証とは別の認証であり、それぞれの規格の要求事項への適合が評価されます。統合審査の可否は、審査機関にご確認ください。
ISMSとAIMSを統合運用する際は、両規格で重複する管理項目を特定し、文書や記録の二重管理を避ける設計が重要です。
例えば、「方針策定」「役割と責任の明確化」「力量管理(教育)」「内部監査」といったマネジメントシステムの中核部分は、一つのプロセスとして共通化できます。
ISMSとAIMSでは、方針、教育、内部監査などの運用の仕組みを共通化しやすい一方、適用宣言書は規格ごとの附属書Aの管理策に対して作成します。運用を共通化できる部分は一つの手順にまとめ、規格ごとの記載との対応を整理しておくと、運用負荷の増大を抑えられます。
ISMS運用にAIを組み込む過程では、多くの担当者が具体的な審査対応やルール策定に関して疑問を抱きます。
ここでは、特によく寄せられる質問とその回答をまとめました。
これらのQ&Aを通じて、AI利用に関するISMS運用のポイントをより明確に理解し、自社の体制構築に役立ててください。
主に文書記録の確認と担当者・従業員へのヒアリングを通じて行われます。
審査員はまず、AI利用に伴うリスクがリスクアセスメントで評価されているか、AI利用に関するルールが規程やガイドラインなどで定められているかを確認します。
その上で、AIツールの利用申請・承認記録や、従業員への教育記録といった客観的な証拠の提示を求める場合があります。具体的な確認対象は、利用実態やリスク、組織が定めた管理方法等によって異なります。
ヒアリングでは、ルールが形骸化せず、現場で正しく理解・遵守されているかを確認されます。
一般的には、「利用目的の明確化」「入力禁止情報の定義」「利用申請・承認プロセス」などを規定します。
これらを盛り込んだAI利用ガイドラインを策定し、既存の情報セキュリティ基本方針との関連性を明確にすることが重要です。
これにより、組織としてAI利用を管理する意思と具体的な枠組みを内外に示すことができます。
まず、既存のISMSの運用状況とISO42001の要求事項との差分(ギャップ)を分析します。
次に、その分析結果に基づき、AI方針、AIリスクアセスメント、AIシステムインパクトアセスメントなど、AIMS固有の要求事項に対応する規程や手順を整備し、AIMSの適用宣言書を作成します。そして整備したルールや対策を実際に運用し、必要な記録を残します。
その後、ISMSとAIMSの両方の観点を含んだ統合的な内部監査とマネジメントレビューを実施し、認証審査に臨むのが一般的な手順です。

ISMSを運用する企業にとって、生成AIの利用は業務効率化の好機であると同時に、新たな情報セキュリティリスクをもたらします。
審査での不適合を回避し、情報資産を適切に保護するためには、シャドーAIのような無許可利用を防ぎ、AI特有のリスクを特定した上で、具体的な利用ルールを策定・文書化することが不可欠です。
本記事で示した5つのステップに沿って体系的な管理体制を構築し、その運用記録を客観的な証拠として残すことが求められます。
さらに、自社の事業やAIの利用状況に応じて、ISMSの基盤を活かしたAIMSの構築・認証取得を検討することも有効です。
ISMS認証やPマークの取り組みを自動化・効率化
従来のExcelやWordによるアナログ運用を大幅削減
形骸化しない自社に最適な情報セキュリティ体制構築


SecureNavi Blogは、ISMS認証やPマークなど情報セキュリティに関するお役立ち情報を発信しています。SecureNaviとは、今まで煩雑な作業の多かったISMS認証やPマークにおける取り組みを効率化し、組織の情報セキュリティレベルを向上させるクラウドサービスです。




