ModelOps 도구를 사용하여 개발에서 프로덕션까지 AI 자산을 관리할 수 있습니다.
ModelOps 설명
MLOps는 애플리케이션과 모델 파이프라인 간의 cadences를 동기화합니다. 다음과 같은 사례를 기반으로 합니다.
- DevOps -기계 학습 모델을 작성에서 교육, 배치 및 프로덕션으로 가져옵니다.
- ModelOps -평가 및 재훈련을 포함하여 일반적인 기계 학습 모델의 라이프사이클을 관리합니다.
MLOps에는 기계 학습 모델의 루틴 배치뿐만 아니라 지속적인 재훈련, 자동화된 업데이트, 동기화된 개발 및 보다 복잡한 기계 학습 모델의 배치도 포함됩니다. MLOps 전략 개발에 대한 자세한 정보는 다음 자원을 탐색하십시오.
- watsonx.ai 유스 케이스 에서는 기계 학습 모델 및 생성 AI 솔루션을 개발하고 배치하는 방법에 대해 설명합니다.
- watsonx.governance 유스 케이스 에서는 프로덕션에서 기계 학습 및 생성 AI 모델을 모니터, 유지보수, 자동화 및 통제하는 방법에 대해 설명합니다.
ModelOps 도구
사용 중인 플랫폼 및 사용 가능하게 설정한 서비스에 따라 자산을 관리하는 데 도움이 되는 도구 조합을 사용하여 ModelOps 프로세스를 디자인할 수 있습니다.
- 파이프라인 -AI 라이프사이클을 통해 머신 러닝 모델의 엔드-투-엔드 플로우를 자동화합니다.
- AI 통제 - aAI 자산의 요청, 빌드, 배치 및 평가를 포함하여 모델의 라이프사이클을 추적하는 팩시밀리의 중앙 집중식 저장소를 작성합니다.
- cpdctl 명령행 인터페이스 도구를 사용하여 Cloud Pak for Data as a Service 에서 호스팅되는 기계 학습 자산을 관리하고 자동화하기 위한 cpdctl 명령행 인터페이스 도구 . IBM Cloud 의 자동 구성을 사용하여 cpdctl API 명령으로 쉽게 연결할 수 있습니다.
배치 영역으로 액세스 관리
배치 영역을 사용하여 AI 라이프사이클을 통해 이동하는 자산에 대한 액세스를 구성하고 관리합니다. 예를 들어, 다음 방법으로 배치 영역에 대한 액세스를 관리할 수 있습니다.
- 배치 영역을 작성하고 이를 배치 단계로 개발 에 지정하십시오. 자산을 통제하는 경우 이 유형의 공간에 있는 배치가 유스 케이스의 개발 단계에 표시됩니다. 데이터 과학자에게 액세스 권한을 지정하여 자산을 작성하거나 DevOps 사용자에게 액세스 권한을 지정하여 배치를 작성하십시오.
- 배치 영역을 작성하고 배치 단계로 테스트 에 지정하십시오. 자산을 통제하는 경우 이 유형의 영역에 있는 배치가 유스 케이스의 유효성 검증 단계에 표시됩니다. 모델 유효성 검증기에 대한 액세스를 지정하여 배치를 테스트하십시오.
- 배치 영역을 작성하고 이를 배치 단계로 프로덕션 에 지정하십시오. 자산을 통제하는 경우 이 유형의 영역에 있는 배치가 유스 케이스의 조작 단계에 표시됩니다. 이 공간에 대한 액세스를 프로덕션 환경에 배치된 자산을 관리하는 ModelOps 사용자로 제한하십시오.
파이프라인을 사용하여 ModelOps 자동화
IBM Orchestration Pipeline 편집기는 작성부터 배치까지 엔드-투-엔드 자산 플로우를 조정하기 위한 그래픽 인터페이스를 제공합니다. 머신 러닝 모델 및 Python 스크립트를 작성, 훈련, 배치 및 업데이트하도록 파이프라인을 어셈블 및 구성하십시오. ModelOps 프로세스를 더 단순하고 반복 가능하게 하십시오.
AI Factsheets 를 사용하여 모델 추적
AI Factsheets 는 조직 전체에서 데이터 과학 모델을 추적하고 세부사항을 카탈로그에 저장하는 기능을 제공합니다. 프로덕션에 있는 모델 및 개발이나 변형이 필요한 항목을 한 눈에 봅니다. 통제 기능을 사용하여 데이터 과학자에서 ModelOps 관리자로의 통신 플로우를 관리하는 프로세스를 설정하십시오.
모델 배치 평가
Watson OpenScale 을 사용하여 신뢰와 투명성으로 AI를 분석하고 AI 모델이 의사결정에 관련되는 방식을 이해하십시오. 편향성 및 드리프트를 탐지하고 완화합니다. 예측의 품질 및 정확성을 높입니다. 트랜잭션을 설명하고 가정 분석을 수행합니다.
자산 및 라이프사이클 관리 자동화
watsonx.ai 런타임 Python 클라이언트를 사용하여 노트북에서 AI 라이프사이클을 자동화할 수 있습니다.
이 샘플 노트북 은 다음을 수행하는 방법을 보여줍니다.
- 데이터 세트가 있는 외부적으로 훈련된 scikit-learn 모델 다운로드
- watsonx.ai 런타임 리포지토리에서 외부 모델 유지
- 클라이언트 라이브러리를 사용하여 온라인 스코어링을 위한 모델 배치
- 클라이언트 라이브러리를 사용하여 샘플 레코드 스코어링
- 이전에 지속된 모델 업데이트
- 모델을 제자리에 다시 배치
- 배치 스케일링
또는 IBM Cloud Pak for Data 명령줄 인터페이스(cpd-cli)를 사용하여 구성 설정을 관리하고 엔드투엔드 플로우를 자동화할 수 있습니다. 이 엔드-투-엔드 플로우에는 모델 훈련, 모델 저장, 배치 영역 작성 및 모델 배치가 포함됩니다.
일반적인 ModelOps 시나리오
Cloud Pak for Data 의 일반적인 ModelOps 시나리오는 다음과 같습니다.
- 데이터 자산 구성 및 관리
- AutoAI 를 사용하여 모델 훈련
- 모델 저장 및 배치
- 모든 협업자가 라이프사이클을 통해 모델의 진행상태를 추적하고 조직 표준을 준수하는지 확인할 수 있도록 유스 케이스에서 모델을 추적합니다.
- 편향성에 대한 배치 평가
- 더 나은 성능의 모델을 사용하여 배치 업데이트
- 조직 전체에서 배치 및 작업 모니터링
추가 리소스
- ModelOps Wikipedia 아티클
- ModelOps 블로그 게시물을 읽어보세요.
- IBM ModelOps에 게시된 블로그 게시물에서는 AI 투자에서 ModelOps를 사용하여 가치를 창출하는 방법에 대해 설명합니다.
- IBM이 ModelOps를 주소 지정하는 방법을 참조하십시오..
상위 주제: 자산 배치 및 관리