watsonx.governance 를 사용하여 기계 학습 및 생성 AI 모델에 대한 엔드-투-엔드 모니터링을 제공하는 AI 통제 솔루션을 통해 책임 있고 투명하며 설명 가능한 AI 워크플로우를 가속화할 수 있습니다. 요청부터 프로덕션까지 foundation model 머신 러닝 에셋을 모니터링하세요. 단일 대시보드에서 IBM 도구 또는 타사 제공업체로 구축된 모델에 대한 사실을 수집하여 규정 준수 및 거버넌스 목표를 달성할 수 있도록 지원합니다.
AI 거버넌스 기능은 배포 환경에 따라 다릅니다.
- Watsonx.governance ~에 IBM Cloud 대부분의 AI 거버넌스 기능을 제공합니다. 통합할 수 있습니다. IBM OpenPages 거버넌스 콘솔을 활성화하는 서비스입니다. 모든 솔루션을 사용할 수 있습니다(라이센스 필요).
- Watsonx.governance ~에 Amazon Web Services ( AWS )는 모델 위험 거버넌스 솔루션과 함께 거버넌스 콘솔을 제공합니다.
포괄적인 거버넌스 솔루션 개발
watsonx.governance를 사용하여 모델, 사용자 및 데이터 세트와 연관된 위험을 모니터링하고 완화하면서 AI 거버넌스의 우수 사례를 예측 머신 러닝 모델에서 생성 AI로 확장할 수 있습니다. 이 접근 방식의 이점은 다음과 같습니다.
- 책임 있는 AI: 예측 머신 러닝 모델을 관리하는 것에서 기반 또는 모델 제공자와 함께 생성 AI를 사용하는 것으로 책임 있는 AI의 사례를 확장합니다.
- 설명 가능성: 자동화를 사용하여 추적된 모델의 투명성 및 설명 가능성을 개선합니다. AI와 연관된 위험을 발견하고 완화하기 위한 도구를 사용하십시오.
- 투명하고 규제적인 정책: 엔드-투-엔드 AI 라이프사이클을 추적하여 엔터프라이즈 전반의 AI 솔루션에 대한 내부 정책 및 외부 규정의 준수를 지원함으로써 AI 위험을 완화합니다.
AI 리스크 지도를 안내서로 사용
거버넌스 여정을 시작하려면 AI 리스크 아틀라스를 검토하여 AI 모델 작업의 잠재적 위험에 대해 알아보세요. AI 리스크 아틀라스는 제너레이티브 AI, 기초 모델, 머신러닝 모델 등 AI 모델 작업의 일부 위험을 이해하는 데 도움이 되는 가이드를 제공합니다. 잠재적 위험을 설명하는 것 외에도 실제 컨텍스트를 제공합니다. 이는 교육 자원으로 사용되며 지시 도구로 사용되지 않습니다.
watsonx.governance 의 컴포넌트
Watsonx.governance 에는 통합 솔루션에서 거버넌스 요구사항을 해결하기 위한 다음 도구가 포함되어 있습니다.
- Watson OpenScale 은 사용자가 지정하는 임계값에 대해 배치된 자산을 평가하는 모니터를 구성하기 위한 도구를 제공합니다. 예를 들어, 예측 머신 러닝 모델이 모니터링된 결과의 공정성을 위해 지정된 임계값 미만으로 수행되거나 정확도에서 벗어날 때 경고하는 임계값을 구성할 수 있습니다. 기본 모델에 대한 경보는 혐오스럽거나 남용적인 언어의 존재 또는 개인 식별 가능 정보의 발견으로 임계값이 위반되는 경우 사용자에게 경고할 수 있습니다. 모델 상태 모니터는 배치된 모델에 대한 실시간 성능 추적을 제공합니다.
- AI Factsheets 는 명시적으로 추적하는 기계 학습 모델 및 프롬프트 템플리트에 대한 메타데이터를 수집합니다. AI 유스 케이스를 개발하여 개발을 통해 요청 단계에서 프로덕션으로 모델 또는 프롬프트 템플리트를 관리하기 위한 모든 정보를 수집합니다. 여러 버전 또는 모델을 관리하거나 다른 접근 방식을 비교하여 유스 케이스 내에서 비즈니스 문제점을 해결합니다. 팩시밀리는 작성 정보, 사용되는 데이터 및 라이프사이클에서 자산이 있는 위치를 포함하여 모델에 대한 정보를 표시합니다. 공통 모델 인벤토리 대시보드는 모든 추적된 자산의 보기를 제공하거나, 특정 모델의 세부사항을 볼 수 있습니다. 모두 정책 및 준수 목표를 충족하는 서비스입니다.
작동 중인 통제
이 그림은 비즈니스 문제를 해결하기 위한 AI 사용 사례를 정의하는 것부터 시작하여 문제를 해결하기 위해 모델이나 프롬프트 템플릿과 같은 AI 자산을 요청하는 일반적인 거버넌스 흐름을 보여 줍니다. 이 그림은 문제점을 정의하는 모델 소유자에서 시작하여 자산을 빌드하는 개발자에서 자산을 테스트하는 유효성 검증기로 이동하여 플로우에 포함될 수 있는 다양한 역할을 보여줍니다. 다음 단계에서는 리스크 책임자가 솔루션을 검토하고 승인한 후 ML 운영 엔지니어에게 넘겨 배포한 다음, 프로덕션 환경에서 자산을 모니터링할 수 있는 앱 개발자에게 전달할 수 있습니다. 사용자의 접근 방식은 이러한 역할 중 일부를 결합할 수 있습니다.
거버넌스 콘솔로 거버넌스 확장
선택적으로 IBM OpenPages Model Risk Governance 와 통합하여 공통 대시보드에서 통제 태스크 및 활동을 관리합니다. OpenPages 를 사용하여 통제 프로세스를 지원하는 워크플로우를 개발할 수도 있습니다.
위험 평가 설문지을 사용하여 AI 솔루션의 잠재적 위험을 평가하고 위험 점수를 할당하세요.
자세한 내용은 다음을 참조하세요. 거버넌스 콘솔을 통한 위험 및 규정 준수 관리.
watsonx.ai 통한 거버넌스 확장
자산을 개발한 후 통제에 추가하기 위한 엔드-투-엔드 환경을 작성하려면 watsonx.ai 를 watsonx.governance와 함께 사용하십시오. Watsonx.ai 대규모 언어 모델 에셋의 선별된 컬렉션을 위한 프롬프트 템플릿을 저장하는 기능을 포함하여 기초 모델과 함께 작동하도록 ' watsonx.ai Studio 및 ' watsonx.ai ' 런타임 서비스를 확장합니다.
watsonx.ai에 대한 자세한 정보는 다음을 참조하십시오.
다음 단계
- 거버넌스 전략 계획
- 왓슨 Watson OpenScale AI Factsheets 프로비저닝하려면 IBM watsonx.governance 제공 플랜 옵션의 단계를 따르세요.