AI主導のゼロ・トラストとゼロ・トラストによるAIの保護

AIがゼロトラストにもたらすメリット／ゼロトラストがAIをどのように保護するか

「ゼロトラストAI」には、主に2つの意味があります。1つは、AI技術を活用してゼロトラストセキュリティを強化すること、もう1つは、ゼロトラストのフレームワークを用いて、大規模言語モデル（LLM）アプリケーションなどのAIシステムのセキュリティを確保することです。本記事では、これら2つの意味について解説します。

AIがゼロトラストにもたらすメリット

AIは、行動パターン、デバイスの信号、ネットワークのテレメトリを継続的に分析することで、状況に応じた動的なゼロトラストポリシーの適用を可能にします。従来のシステムは静的なルールを適用しますが、AIはログイン行動、アプリケーションの使用状況、データアクセスパターンなどの異常をリアルタイムで検知することで、意思決定を強化します。

機械学習モデルは、変化するリスクに応じて信頼レベルを自動的に調整できるため、手動による介入なしに条件付きアクセスや自動的な是正措置を可能にします。これにより、ゼロトラストは固定されたルールセットから、分散環境全体に拡張可能な、適応性がありインテリジェンス主導のフレームワークへと移行します。

ゼロトラストがAIシステムをどのように保護するか：ゼロトラストAIアクセス（ZTAI）

ゼロトラストアーキテクチャでは、トレーニングからデプロイに至るAIライフサイクルのあらゆる構成要素に対して、きめ細かな制御が適用されます。モデル、データセット、パイプラインへのアクセスは、継続的な認証、最小権限の原則に基づく権限付与、およびリアルタイムのポリシー適用によって管理されます。

ZTAIでは、モデルの重みの変更や推論APIへのアクセスといった機密性の高い操作には、明示的な承認が必要であり、監査の対象となります。暗黙の信頼を排除することで、ゼロトラストは、内部関係者による改ざん、モデルの持ち出し、不正な再学習といった脅威への曝露リスクを低減します。

AIがゼロトラストセキュリティにどのような変革をもたらしているか

ゼロトラストは従来、ルールベースのアクセス制御、ID管理、および静的なポリシーの適用に依存してきました。人工知能（AI）の台頭に伴い、これらのシステムはより適応性が高く、インテリジェントなものへと進化しています。AIは、ユーザーの行動、デバイスの状態、ネットワークの活動状況といった膨大な量のテレメトリデータをリアルタイムで分析することで、ゼロトラストアーキテクチャを向上させます。

AIを活用したツールは、本人確認プロセスも改善します。行動バイオメトリクス、リスクスコアリング、および状況に応じたアクセス判断は、リアルタイムの分析に基づいて自動化できるようになりました。 例えば、ユーザーが普段とは異なる場所からログインしたり、通常の行動パターンから外れた行動をとったりした場合、AIはそのセッションにフラグを立て、追加の認証を要求したり、即座にアクセス権を無効にしたりすることができます。この継続的かつ自動化された検証は、ゼロトラストの原則と密接に整合しています。

AIは、セキュリティチームが対応範囲を拡大するのを支援します。静的なポリシーや手動によるレビューのみに依存するのではなく、AIはエンドポイント、クラウドサービス、アプリケーションにわたるシグナルを相互に関連付け、より高い精度でリスクを特定することができます。脅威アクターが防御を突破するために自動化やAIをますます活用する中、ゼロトラスト環境においてAIを活用することは、レジリエンスを維持するために不可欠となっています。

関連コンテンツゼロ・トラスト戦略ガイドを読む（近日公開予定）

AIを活用したゼロトラストによって、どのようなリスクを軽減できるか？

AI APIへの不正アクセス／不正利用

AI APIは、社内外の関係者に対して一連の機能を提供します。これらのAPIが保護されていない状態のまま放置されたり、脆弱な認証情報によって管理されたりすると、攻撃者が不正アクセスを行い、データ漏洩、モデルの盗用、あるいはシステム障害を引き起こす可能性があります。ゼロトラストでは、ネットワーク上の位置や想定される信頼レベルにかかわらず、すべてのリクエストに対してAPIエンドポイントの認証と認可を行う必要があります。

機密性の高いAPI機能へのアクセスは、ポリシーによって制限され、不審な活動がないか監視されるべきです。APIの不正利用は、意図しないものであっても、権限の範囲を超えてしまう社内スタッフやアプリケーションに起因する場合もあります。ゼロトラストの観点からは、誰がAIサービスを呼び出したり、変更したり、操作したりできるかについての可視性と制御が極めて重要となります。

モデルの操作

モデル操作とは、AIモデルやその学習データを改変し、予測結果を歪めたり、バイアスを導入したり、有害な動作を引き起こしたりすることを指します。この脅威は、学習パイプライン、モデルファイル、またはデプロイ用APIへのアクセスを通じて発生する可能性があります。ゼロトラスト環境では、暗号化、コードの整合性チェック、セキュリティ認証などの制御手段を採用し、信頼できる主体のみがモデルを修正またはデプロイできるようにしています。

こうした攻撃は、内部者による脅威やサプライチェーンのリスクを悪用する場合もあり、攻撃者は、展開済みのモデルの再トレーニングや更新を行う権限を持つユーザーに対する管理が不十分であることを突いてきます。「ゼロトラスト」では、AIのライフサイクルに影響を与えるあらゆるプロセスにおいて、厳格な認証と最小権限の原則が求められます。組織は、すべての変更を検証し、すべての修正内容を記録するとともに、展開済みのモデルを正常な状態と確認済みのベースラインと定期的に照合する必要があります。

プロンプト注入および悪意のある入力攻撃

プロンプトインジェクションや悪意のある入力攻撃は、大規模言語モデルや生成AIがユーザーから提供されたデータを処理する仕組みを悪用するものです。攻撃者は、モデルの挙動を操作したり、機密情報を抽出したり、有害な出力を生成したりするような入力を仕組む可能性があります。ゼロトラストを実現するには、これらの攻撃がモデルのロジックに到達したり、それを破壊したりすることを防ぐため、厳格なサニタイズ、検証、および文脈に応じた入力フィルタリングが必要です。

モデルとのあらゆるやり取り、特に公開APIを通じて行われるものは、異常なパターンがないか監視・分析する必要があります。防御を強化するため、ゼロトラストシステムではアプリケーション層を分離し、信頼できないソースからの直接アクセスを制限しています。攻撃者が戦術を進化させるにつれて、入力の監視、異常検知、および自動対応メカニズムも継続的に適応させていきます。

敵対的AI

敵対的AIとは、攻撃者が機械学習モデルを混乱させたり、回避させたり、あるいは機能不全に陥らせたりすることを目的として、データやシナリオを巧妙に作り出すことを指します。こうした攻撃により、セキュリティ対策が迂回されたり、分析結果が歪められたり、自動化システムで誤検知や検知漏れが発生したりする可能性があります。 ゼロトラスト戦略では、敵対的AIに対して、敵対的テスト、アンサンブルモデリング、モデル強化などの多層的な防御策を講じることで対抗し、攻撃者が結果を予測したり影響を与えたりすることを困難にします。

継続的な監視敵対的な操作の兆候を検知することが、堅牢な対応の鍵となります。データの取り込み、モデルへのアクセス、および異常な挙動の発見に関して厳格な管理を実施することで、組織は実際の被害が発生する前に、不審な活動を自動的に検出して隔離することができます。

ゼロトラストは、AIワークロードのセキュリティ確保にどのように役立つのか？

AIエージェントおよびモデルの本人確認

ゼロトラスト環境では、AIエージェントやモデルは、人間のユーザーと同様に、第一級のアイデンティティとして扱われます。各モデル、プロセス、またはエージェントには一意のアイデンティティが割り当てられ、その権限は明示的に定義され、継続的に検証されます。これにより、いかなるエージェントやモデルも、過剰な権限や暗黙の権限を持って動作することを防ぎます。

IDベースの制御により、組織はAIスタック全体にわたって最小権限のアクセス原則を徹底することができます。 例えば、AIエージェントが企業データへのアクセスを試みたり、API呼び出しを実行したりする場合、そのリクエストは、時刻、デバイス、要求されたデータの機密性といったリアルタイムのコンテキストに基づいて承認されます。これにより、自律型システムであっても、各ステップにおいて実行が許可されていることを証明しなければならないことが保証されます。

こうした安全対策がなければ、AIエージェントは意図された範囲を超えて行動し、データの流出や不正なワークフローの連鎖を引き起こす可能性があります。ゼロトラスト・アイデンティティ・ガバナンスは、AIによるあらゆるやり取りの正当性を継続的に検証・強制することで、こうした脆弱性を解消します。

APIを通じて外部ユーザーに公開されている、セキュリティ対策が施された生成AIモデル

生成AIモデルをAPIを通じて公開することは、特にそれらのモデルが機密データを扱ったり、信頼できないネットワーク上で動作したりする場合、重大なリスクをもたらします。APIキーやプロンプトフィルターといった従来のアクセス制御だけでは、プロンプトインジェクションや自動化による悪用といった高度な脅威を阻止するには不十分です。

ゼロトラストは、プロンプトレベルよりも下位——ネットワーク層、システム層、およびアイデンティティ層——でアクセス制御を徹底することで、このリスクを軽減します。すべてのAPI呼び出しは、認証・認可され、コンテキストに基づいて評価されます。たとえプロンプトが無害に見えたとしても、AIプロセスが信頼できるとは決して見なされません。これにより、攻撃者が巧妙な入力によって権限を昇格させたり、意図しないデータを抽出したりする機会が排除されます。

継続的な監視また、すべてのAPI通信における身元追跡により、さらなる防御層が追加されます。もし、侵害されたユーザーや悪意のあるエージェントが不審なリクエストを送信し始めた場合、ゼロトラスト制御により、プロンプトや出力レベルでの検知に依存することなく、その動作を隔離し、アクセス権を剥奪し、データの漏洩を防ぐことができます。

ゼロトラスト制約下における複数当事者間のフェデレーテッドAI

複数の組織やシステムが協力してAIモデルを学習・利用する「フェデレーテッドAI」のシナリオにおいて、共有リスクを管理するためには「ゼロトラスト」が不可欠となります。フェデレーションに参加する各当事者は、身元に基づくポリシーを徹底し、どの参加者も明示的に許可された範囲を超えてデータやリソースにアクセスできないようにする必要があります。

ゼロトラストにより、分散型AIワークフロー全体にわたって、きめ細かなアクセス制御と可視化が可能になります。例えば、ある組織がホストするAIモデルは、別の組織が所有するデータソースと連携できますが、それは身元が確認された条件下でのみ、かつ制限された監査可能な権限の範囲内でのみ行われます。

AIシステムは自律的かつ大規模に稼働できるため、相互作用の連鎖におけるすべてのリンクでゼロトラストを徹底することが極めて重要です。これには、動的なコンテキストに基づいてアクセス判断が行われることを確保すること、およびアクセス権限がエントリポイントだけでなく、下流のあらゆるアクションを通じて適用されるようにすることが含まれます。 これにより、人間、機械、コードを問わず、信頼できないコンポーネントがフェデレーションシステムに対して意図しない影響力を行使することを防ぐことができます。

ゼロトラストAIアクセス（ZTAI）とは何か？

ゼロトラストAIアクセス（ZTAI）は、従来のゼロトラストの原則を、データパイプライン、学習および推論システム、API、モデルアーティファクトを含むAIスタック全体に拡張したものです。このアプローチでは、まず、AIワークロードとやり取りを行うすべてのエンティティ（ユーザー、エージェント、サービス、データソース）を特定し、認証することから始めます。

ZTAIは、リアルタイムのリスクシグナルとコンテキスト認識を活用して新たな脅威に対応しつつ、AIに関連するあらゆる操作に対して、ポリシーに基づく最小権限の制御を実施します。いかなる相互作用も本質的に信頼されることはなく、継続的な検証が標準となっています。また、ZTAIには、AI環境に特化して設計された継続的な監視、ログ記録、および異常に対する自動対応メカニズムも組み込まれています。

AIワークロードには機密情報や専有情報が含まれることが多いため、ZTAIのポリシーは、データ資産のセグメンテーションと暗号化、監査証跡の確保、および分散型アーキテクチャ全体にわたる可視性の維持を目的として設計されています。このアプローチは、敵対的攻撃、APIの悪用、内部関係者による不正操作などの脅威が、損害や業務中断を引き起こす前に検知し、封じ込めることを目指しています。

AI時代に向けたゼロトラストセキュリティ：Exabeam

Exabeamのセキュリティ運用プラットフォームは、AIのスピードでゼロトラストの中核ソリューションを補完する包括的なテレメトリと高度な分析機能を提供することで、ゼロトラストアーキテクチャをサポートしています。Exabeamは、ゼロトラストの主要プロバイダーではありませんが、IDおよびアクセス管理システム、ネットワーク機器、エンドポイントセキュリティツールなど、さまざまなソースからのデータ取り込みを専門としています。 このデータ収集は、すべてのアクセス要求を継続的に検証し、進行中のリスクを評価するために必要な詳細な情報を提供するため、ゼロトラストモデルにとって極めて重要です。

行動分析と機械学習を活用することで、Exabeam、侵害や確立されたZero Trustポリシーからの逸脱を示す可能性のある異常や不審な行動を検出することができます。例えば、ユーザーが通常と異なる場所からリソースにアクセスしようとした場合、またはデバイスの動作が確立されたベースラインから逸脱した場合、Exabeam、これらのイベントにフラグを立てることができます。この機能は、セキュリティ・チームに不可欠なコンテキストとアラートを提供し、「信頼せず、常に検証する」フレームワークの中でも潜在的な脅威に対応する能力を強化する。

最終的には、Exabeam、ゼロ・トラスト環境で生成される膨大なデータの流れを、まとまりのあるセキュリティの物語に統合するのに役立つ。アクセス試行とリソース相互作用の「誰が、何を、いつ、どこで」を理解するのに役立つ。これは、侵害の微妙なインジケータさえも確実に識別し、セキュリティ担当者の注意を喚起して、情報に基づいた意思決定と迅速な対応を可能にすることで、ゼロ・トラスト戦略の全体的な有効性に貢献する。