watsonx.governance を使用すると、機械学習と生成された AI モデルのエンドツーエンド・モニターを提供する AI ガバナンス・ソリューションにより、責任を持ち、透明性があり、説明可能な AI ワークフローを加速できます。 リクエストから本番稼動まで、foundation modelモデルと機械学習資産を監視します。 IBMツールまたはサードパーティ製プロバイダーで構築されたモデルに関する事実を単一のダッシュボードに収集し、コンプライアンスとガバナンスの目標達成を支援します。
AI ガバナンス機能は、導入環境によって異なります。
- Watsonx.governanceの上IBM Cloudほとんどの AI ガバナンス機能を提供します。 統合することができますIBMOpenPagesガバナンス コンソールを有効にするサービス。 すべてのソリューションが利用可能です (ライセンスが必要です)。
- Watsonx.governanceの上Amazon Web Services（AWS) は、ガバナンス コンソールにモデル リスク ガバナンス ソリューションを提供します。
包括的なガバナンス・ソリューションの開発
watsonx.governanceを使用すると、モデル、ユーザー、およびデータ・セットに関連するリスクをモニターして軽減しながら、AI ガバナンスのベスト・プラクティスを予測機械学習モデルから生成 AI に拡張できます。 このアプローチには、以下のような利点があります。
- 責任ある AI: 予測機械学習モデルの管理から、あらゆる基盤またはモデル・プロバイダーによる生成 AI の使用に至るまで、責任ある AI のプラクティスを拡張します。
- 説明性: 自動化を使用して、追跡対象モデルの透明性と説明性を向上させます。 AI に関連するリスクを検出して軽減するためのツールを使用します。
- 透明性の高い規制ポリシー: エンドツーエンドの AI ライフサイクルを追跡することで AI リスクを軽減し、企業全体の AI ソリューションの社内ポリシーと社外の規制への準拠を支援します。
AI リスク・アトラスをガイドとして使用する
AIリスクアトラスを確認し、AIモデルを使用する際の潜在的なリスクについて学び、ガバナンスの旅を始めましょう。 AIリスク・アトラスは、ジェネレーティブAI、基盤モデル、機械学習モデルなど、AIモデルを扱う際のリスクを理解するためのガイドを提供する。 潜在的なリスクの記述に加えて、現実世界のコンテキストを提供します。 これは教育リソースとして意図されたものであり、規範的なツールとして意図されたものではありません。
watsonx.governance のコンポーネント
Watsonx.governance には、統合ソリューションでガバナンスのニーズに対応するための以下のツールが含まれています。
- Watson OpenScale には、指定したしきい値に照らして導入済みの資産を評価するモニターを構成するためのツールが用意されています。 例えば、予測機械学習モデルが、監視された結果の公正さについて指定されたしきい値の下で実行されたとき、または精度からドリフトしたときに警告するしきい値を構成することができます。 ファウンデーション・モデルのアラートは、ヘイトフルまたは不正な言語の存在や個人情報の検出のためにしきい値を超過した場合に警告することができます。 モデルの正常性モニターは、デプロイされたモデルのリアルタイムのパフォーマンス・トラッキングを提供します。
- AI Factsheets は、明示的に追跡する機械学習モデルおよびプロンプト・テンプレートのメタデータを収集します。 AI ユース・ケースを作成して、モデルまたはプロンプト・テンプレートを管理するためのすべての情報を、要求フェーズから開発を経て実動に至るまで収集します。 複数のバージョンまたはモデルを管理するか、ユース・ケース内でビジネス上の問題を解決するためのさまざまなアプローチを比較します。 ファクトシートには、モデルに関する情報 (作成情報、使用されるデータ、ライフサイクル内のアセットの場所など) が表示されます。 共通モデル・インベントリー・ダッシュボードには、追跡対象のすべての資産のビューが表示されます。また、ポリシーとコンプライアンスの目標をすべて満たす特定のモデルの詳細を表示することもできます。
実際のガバナンス
この図は典型的なガバナンスの流れを示しており、ビジネス上の問題を解決するためのAIのユースケースを定義し、問題を解決するためのモデルやプロンプトテンプレートなどのAI資産を要求することから始まる。 この図は、フローに関係する可能性があるさまざまな役割を示しています。問題を定義するモデル所有者から始めて、アセットを作成する開発者から、そのアセットをテストするバリデーターに移ります。 次のステップでは、リスクオフィサーがソリューションをレビューして承認し、ML運用エンジニアに渡してデプロイさせ、本番環境でアセットを監視できるアプリ開発者に渡すかもしれない。 このアプローチでは、これらの役割の一部を組み合わせることができます。
ガバナンス・コンソールでガバナンスを拡張
オプションで、 IBM OpenPages Model Risk Governance と統合して、共通ダッシュボードからガバナンス・タスクおよびアクティビティーを管理します。 また、 OpenPages を使用して、ガバナンス・プロセスをサポートするワークフローを開発することもできます。
リスク評価アンケートを使用して、AI ソリューションの潜在的なリスクを評価し、リスク スコアを割り当てます。
詳細については、ガバナンスコンソールでリスクとコンプライアンスを管理する。
watsonx.aiでガバナンスを拡張する
資産を開発してガバナンスに追加するためのエンドツーエンド・エクスペリエンスを作成するには、 watsonx.ai を watsonx.governanceと共に使用します。 Watsonx.aiは、watsonx.aiStudioとwatsonx.aiRuntimeサービスを拡張し、大規模な言語モデルアセットのキュレーションコレクションのプロンプトテンプレートを保存する機能など、基盤モデルを扱うためのサービスを提供します。
watsonx.aiについて詳しくは、以下を参照してください。
今後のステップ
- ガバナンス戦略の立案
- IBM watsonx.governanceのプラン・オプションの手順に従って、Watson OpenScalewithAI Factsheetsをプロビジョニングします。