セキュリティとコンプライアンスは、エンタープライズ AI の導入に不可欠です。 企業のお客様は、AI アプリケーションが設計によってセキュリティで保護され、内部ポリシーと外部規制の両方に準拠することを期待しています。
これらの期待を満たさしないと、次の結果が発生する可能性があります。
- セキュリティとコンプライアンスのレビュー中の拒否。
- データ リークまたはその他の有害な AI 動作。
- 顧客の信頼の喪失と導入の減少。
責任を持って AI をスケーリングするには、組織は強力なデータ セキュリティとガバナンスの基盤を構築する必要があります。 AI アプリケーションでは機密性の高いエンタープライズ データがますます処理されるため、開発者は、設計と実装時に、開発ライフサイクルの早い段階でセキュリティとコンプライアンスの制御を組み込む必要があります。
Microsoft Purviewでは、Microsoft Foundry やその他の AI プラットフォームが、モデルやデプロイ プラットフォームに関係なく、エンタープライズ レベルのデータ セキュリティとガバナンス制御をカスタム AI アプリケーションとエージェントに統合できるようにする API とサービスを提供します。
この記事では、開発者が Microsoft Purview と統合して、Microsoft Foundry、Agent Framework、またはカスタム AI アプリを使用して構築された AI アプリとエージェントのデータ セキュリティとコンプライアンスの要件をサポートする方法について説明します。 次の表は、Microsoft Purviewシナリオと、各シナリオで開発者が選択する必要があるオプションをまとめたものです。
| シナリオ | Microsoft Foundry | エージェント フレームワーク | Microsoft Purview API |
|---|---|---|---|
| AI アプリによって実行時に使用されるデータを管理する | サポートされている | サポートされている | サポートされている |
| データ 漏洩やインサイダー リスクから保護する | サポートしていません | サポートされている | サポートされている |
| データの過剰共有を防止する | サポートしていません | サポートしていません | サポートされている |
AI アプリによって実行時に使用されるデータを管理する
次のMicrosoft Purview機能を使用して、AI アプリのデータ ガバナンスを提供できます。
- 機密データの使用状況、危険な動作、非倫理的な AI 対話のためのリアルタイム分析。
- 追跡可能性の監査。
- 有害または未承認のコンテンツを検出するためのコミュニケーション コンプライアンス。
- 法的および規制上のニーズに対応するデータ ライフサイクル管理と電子情報開示。
次のオプションを使用して、これらのMicrosoft Purview機能を Microsoft Foundry またはカスタム AI アプリに統合できます。
Microsoft Foundry へのMicrosoft Purviewのネイティブ統合 (推奨): Microsoft Foundry でモデルを使用する場合は、Microsoft Foundry に埋め込まれている監査と関連するガバナンスの結果にMicrosoft Purview設定を使用します。 Azure管理者は、特定のAzure サブスクリプションの設定を有効にすることができます。 開発者が実行する必要があるアクションはありません。 この設定により、そのサブスクリプションで実行されているすべてのAzure AI ベースのアプリケーションのデータをMicrosoft Purviewに送信して、ガバナンスとコンプライアンスの成果をサポートできます。 この設定を有効にする方法の詳細については、「Microsoft Purviewを使用したAzure AI のデータ セキュリティの有効化」を参照してください。
API を使用する: Microsoft Foundry 開発者は、Microsoft GraphでMicrosoft Purview API を使用して、AI アプリからMicrosoft Purviewにプロンプトと応答データをプログラムで送信できます。
API ベースの統合には、次の API を使用します。
詳細については、「Microsoft Graph での Microsoft Purview API の使用」を参照してください。
エージェント フレームワーク: Microsoft Agent Framework を使用してエージェントを構築する場合は、エージェントをセキュリティで保護するMicrosoft Purview機能を追加できます。 これらの機能により、エージェントにデータのセキュリティとコンプライアンスが追加されます。 エージェントのミドルウェア パイプラインに Microsoft Purview ポリシー ミドルウェアを追加します:
- プロンプトと応答を傍受して、Microsoft Purview に渡します。
- Microsoft Purviewで組織の DLP ポリシーを適用します。
詳細については、「エージェント フレームワークでMicrosoft Purview SDKを使用する」を参照してください。
データ 漏洩やインサイダー リスクから保護する
開発者は、Agent Framework または Microsoft Purview API を使用して、アプリケーションにMicrosoft Purview データ損失防止 (DLP) ポリシーを適用できます。
エージェント フレームワーク: Microsoft Agent Framework を使用してエージェントを構築する場合は、エージェントをセキュリティで保護するMicrosoft Purview機能を追加できます。 これらの機能により、エージェントにデータのセキュリティとコンプライアンスが追加されます。 エージェントのミドルウェア パイプラインに、Microsoft Purview ポリシー ミドルウェアを追加します:
- プロンプトと応答を傍受して Microsoft Purview に送信します。
- Microsoft Purviewで組織の DLP ポリシーを適用します。
詳細については、「エージェント フレームワークでMicrosoft Purview SDKを使用する」を参照してください。
API を使用する: このオプションを使用すると、アプリケーションは、Microsoft Purviewで設定されたポリシーに従って、AI アプリとエージェントの動作を理解して適用できます。 たとえば、大規模言語モデル (LLM) と共有されている機密情報を保護したり、AI アプリの危険なユーザーと共有される機密情報を制御したりできます。
API ベースの統合には、次の API を使用します。
Important
MICROSOFT PURVIEWで新しい DLP ポリシーを設定して DLP 統合をテストするには、New-DlpComplianceRule コマンドレットを実行します。 詳細については、「 New-DlpComplianceRule」を参照してください。
Azure AI コード サンプル:
データの過剰な共有を防止する
機密ラベルがデータに適用される場合、データの過剰共有は制限されます。 開発者は、Microsoft Purview API または Azure AI 検索 を使用して、LLM が応答を生成する際に使用するデータに適用された秘密度ラベルを尊重できます。 どちらのオプションも、AI によって生成された応答がアクセス制御を尊重し、データの過剰な共有を防ぎ、AI アプリ環境の外部と同様に、ユーザーが表示する権限を持つコンテンツに制限することを保証します。
Microsoft Purview秘密度ラベルのインデックス作成が有効になっている場合、Azure AI 検索はクエリ時にドキュメント ラベルのメタデータをチェックし、Microsoft Purview ポリシーに基づいてアクセス フィルターを適用し、要求元のユーザーがアクセスを許可されている結果のみを返します。
このシナリオを構築するときは、次のいずれかの API を使用できます。