IBM watsonx as a Service 개요
IBM watsonx as a Service 는 조직의 신뢰할 수 있는 데이터에 액세스하고 AI 프로세스를 자동화하며 애플리케이션에서 AI를 제공할 수 있는 안전한 협업 환경입니다. IBM watsonx.ai 컴포넌트는 기반 모델에 의해 구동되는 생성 AI 기능에 대해 작업하고 머신 러닝 모델을 빌드하기 위한 통합 도구의 스튜디오를 제공합니다. IBM watsonx.governance 컴포넌트는 기계 학습 및 생성 AI 모델에 대한 엔드-투-엔드 모니터링을 제공하여 책임 있고 투명하며 설명 가능한 AI 워크플로우를 가속화합니다.
AI 엔지니어, 데이터 과학자, AI 리스크 및 컴플라이언스 담당자는 watsonx.ai 및 watsonx.governance: 를 사용하여 다음 목표를 달성할 수 있습니다.
기계 학습 모델 빌드 오픈 소스 프레임워크 및 코드 기반, 자동화 또는 시각적 데이터 과학 도구를 사용하여 모델을 빌드합니다.
기본 모델을 사용하여 개발 입력 텍스트에서 컨텐츠를 생성, 분류, 요약 또는 추출하기 위한 프롬프트를 생성합니다. IBM 모델 또는 Hugging Face의 오픈 소스 모델 중에서 선택하십시오. 기본 모델을 조정하여 프롬프트 출력을 사용자 정의하십시오.
AI 라이프사이클 관리 AI 모델을 훈련, 유효성 검증 및 배치하기 위해 모든 통합 도구 및 런타임을 사용하여 전체 AI 모델 라이프사이클을 관리하고 자동화합니다.
AI 통제 AI 모델의 세부 히스토리를 추적하고 모델 출력을 평가하여 준수를 보장합니다.
데이터 엔지니어는 IBM watsonx.data를 사용하여 레이크하우스 아키텍처에서 엔터프라이즈 데이터를 수집, 저장, 조회 및 분석할 수 있습니다. IBM watsonx.data 문서를 참조하십시오.
다음 그래픽은 통합된 사용자 경험을 제공하는 공통 코어 기능 외에 watsonx.ai 및 watsonx.governance 컴포넌트의 기능을 보여줍니다. watsonx.data 경험은 별도이며 그래픽에 표시되지 않습니다.
Watsonx.ai
Watsonx.ai 에는 데이터 및 모델에 대한 작업을 위한 도구, 생성 AI를 위한 배치된 기반 모델, 컴퓨팅 및 추론을 위한 하드웨어 및 소프트웨어 자원이 포함되어 있습니다.
watsonx.ai를 소개하는 이 짧은 비디오를 보십시오.
데이터 준비 및 모델에 대한 작업을 위한 도구
watsonx.ai 도구는 프로젝트라는 협업 작업공간에 있습니다.
watsonx.ai 도구를 사용하여 다음 방법으로 데이터를 준비하고 모델에 대해 작업할 수 있습니다.
- 데이터 준비: 원격 데이터 소스에서 데이터 파일 또는 데이터 테이블을 세분화하고 시각화하거나 합성 테이블 형식 데이터를 생성합니다.
- 기계 학습 모델 빌드: 자동으로 모델 후보를 생성하거나, 기계 학습 모델 훈련 플로우를 작성하거나, Python 또는 R에서 모델 훈련 코드를 작성합니다.
- 기초 모델에 대한 작업: 생성 AI 프롬프트를 사용하여 경험하거나, 유스 케이스에 맞게 기초 모델을 조정하거나, Python으로 생성 AI 솔루션 코드를 작성하십시오.
- 모델 라이프사이클 자동화: 노트북, Data Refinery및 기계 학습 파이프라인을 자동화하는 반복 가능하고 스케줄된 플로우를 작성합니다.
도구 목록, 해당 자동화 레벨 및 이를 사용하여 데이터를 준비하거나 모델에 대해 작업할 수 있는지 여부에 대해서는 데이터 분석 및 모델에 대한 작업을 참조하십시오. 생성 AI 도구의 경우 생성 AI 솔루션 개발을 참조하십시오.
배치된 기본 모델
IBM watsonx.ai 에는 생성 AI를 위한 다양한 배치된 대형 언어 모델이 있습니다. 배치된 기반 모델에는 Hugging Face의 오픈 소스 모델과 IBM 기반 모델이 포함됩니다. 추론 유스 케이스에 적합한 기초 모델을 선택할 수 있습니다. 기본 모델을 튜닝하여 기본 모델 동작을 사용자 정의할 수 있습니다.
watsonx.ai에 배치되는 지원되는 기본 모델의 목록은 지원되는 기본 모델을 참조하십시오.
컴퓨팅 및 추론을 위한 사용 자원
서비스 플랜에 따라 매월 설정된 사용량 리소스가 있거나 이용하는 리소스에 대해 비용이 청구될 수 있습니다.
watsonx.ai로 도구를 실행할 때 다음 유형의 자원을 이용합니다.
- 계산 사용
- 작업, 노트북, 모델 또는 배치를 훈련 또는 튜닝하는 실험을 실행할 때 컴퓨팅 리소스 사용량은 런타임 환경 및 해당 활성 지속 기간의 비율을 기반으로 계산됩니다. 계산 자원에는 워크로드에 특정한 적절한 하드웨어 및 소프트웨어가 포함됩니다. 계산 사용량은 용량 단위 시간으로 측정됩니다. 프로젝트에서 도구를 실행하기 위한 계산 자원 선택을 참조하십시오.
- 참조 사용법
- 기초 모델에 대해 추론을 실행할 때 추론 사용법은 프롬프트 입력 및 출력 텍스트에 있는 토큰의 합계에 기초 모델의 비율을 곱한 값으로 계산됩니다. 토큰은 텍스트의 기본 단위입니다. 추론은 자원 단위로 측정됩니다. 자원 단위 미터링을 참조하십시오.
Watsonx.governance
Watsonx.governance 에는 모델을 관리하기 위한 도구와 모델을 평가하고 설명하기 위한 사용 자원이 포함되어 있습니다.
AI 거버넌스 기능은 배포 환경에 따라 다릅니다.
- Watsonx.governance ~에 IBM Cloud 대부분의 AI 거버넌스 기능을 제공합니다. 통합할 수 있습니다. IBM OpenPages 거버넌스 콘솔을 활성화하는 서비스입니다. 모든 솔루션을 사용할 수 있습니다(라이센스 필요).
- Watsonx.governance ~에 Amazon Web Services ( AWS )는 모델 위험 거버넌스 솔루션과 함께 거버넌스 콘솔을 제공합니다.
watsonx.governance를 소개하는 이 짧은 비디오를 보십시오.
모델 관리를 위한 도구
watsonx.governance 도구를 사용하여 다음 방법으로 모델을 통제할 수 있습니다.
모델 모니터 및 평가: 모델 출력을 모니터하고 모델 예측을 설명할 수 있습니다. watsonx.governance 모델 모니터링 및 평가 도구는 프로젝트 및 배치 영역에 있습니다.
AI 유스 케이스 추적 및 문서화: 모델 라이프사이클 상태, 일반 모델 및 배치 세부사항, 훈련 정보 및 메트릭, 배치 메트릭을 볼 수 있습니다. AI 유스 케이스의 watsonx.governance 모델 추적 도구입니다.
거버넌스 콘솔에서 거버넌스 활동 관리 선택적으로 다음과 통합 watsonx 거버넌스 콘솔 IBM OpenPages. 거버넌스 콘솔을 사용하여 팩트시트의 데이터를 동기화하고 워크플로 및 기타 규정 준수 도구를 사용하여 거버넌스 기능을 확장합니다.
모델 평가 및 설명을 위한 사용 자원
watsonx.governance를 사용하여 모델 평가 및 설명을 실행할 때 자원을 이용합니다. 서비스 플랜에 따라 매월 설정된 사용량 리소스가 있거나 이용하는 리소스에 대해 비용이 청구될 수 있습니다. 자원 사용량은 모델 평가 및 설명 수를 기반으로 계산됩니다. 평가 및 설명은 자원 단위로 측정됩니다.
공통 코어 기능
Watsonx 에는 IBM Cloud Pak for Data 의 다음 핵심 기능이 조직이 효율적으로 협업할 수 있는 안전하고 확장 가능한 기반으로 포함되어 있습니다.
- 연결
- 관리
- 스토리지
- 작업공간
- 자원 허브
연결
원격 데이터 소스에 대한 연결을 작성하고 연결된 데이터를 가져올 수 있습니다. 개인 또는 공유 신임 정보를 사용하여 연결을 구성할 수 있습니다. 지원되는 커넥터 목록은 커넥터를 참조하십시오.
Platform assets catalog의 플랫폼에서 다른 사용자와 연결을 공유할 수 있습니다.
관리
다음 관리 기능은 보안 및 유연성을 제공합니다.
- 소프트웨어 및 하드웨어
Watsonx 는 IBM Cloud의 IBM 에서 완전히 관리됩니다. 소프트웨어 업데이트는 자동입니다. 사용량 자원 및 스토리지의 스케일링은 자동입니다.
- 보안, 준수 및 격리
watsonx 의 데이터 보안, 네트워크 보안, 보안 표준 준수 및 격리는 IBM Cloud에서 관리됩니다. 데이터는 저장 및 이동 중에 암호화됩니다. 추가 보안 및 암호화 옵션을 설정할 수 있습니다.
사용자가 작성하는 데이터 및 모델을 포함하여 watsonx에 대한 작업은 사용자 계정에 대해 개인용입니다. 귀하의 데이터 및 모델은 IBM 또는 기타 개인이나 조직에서 액세스하거나 사용할 수 없습니다.
보안 및 옵션에 대해 자세히 알아보십시오.
- 서비스 프로비저닝
watsonx 플랫폼의 Watsonx.ai 에는 Watson Studio, Watson Machine Learning및 IBM Cloud Object Storage 서비스가 포함되어 있습니다. watsonx 플랫폼의 Watsonx.governance 에는 watsonx.governance 서비스가 포함되어 있습니다.
watsonx 서비스 카탈로그에서 데이터 소스 서비스와 같은 서비스를 추가할 수 있습니다. IBM Cloud 서비스 작성 및 관리를 참조하십시오.
- 사용자 관리
사용자 및 사용자 그룹을 추가하고 IBM Cloud Identity and Access Management로 계정 역할 및 권한을 관리합니다. 플랫폼 전체의 각 협업 작업 영역에서 역할을 지정합니다. 사용자 및 액세스 관리를 참조하십시오.
스토리지
IBM Cloud Object Storage 서비스 인스턴스는 사용자가 작성하거나 작업공간에 추가하는 자산에 대한 스토리지를 제공할 수 있도록 자동으로 프로비저닝됩니다. IBM Cloud Object Storage 에 저장되는 정보는 암호화되고 복원성이 있습니다. 각 작업공간에는 자체 전용 버킷이 있습니다. 작업공간의 오브젝트 스토리지를 참조하십시오.
작업공간
Watsonx 는 팀 또는 조직과 함께 작업할 수 있는 협업 작업 영역 세트로 구성됩니다. 각 작업공간에는 조치를 수행할 수 있는 권한을 제공하는 역할이 있는 구성원 세트가 있습니다.
대부분의 사용자는 사용자가 작성하거나 작업공간에 추가하는 항목인 자산에 대해 작업합니다. 자산은 데이터, 모델 또는 기타 유형의 코드나 정보를 나타낼 수 있습니다. 데이터 자산에는 데이터를 나타내는 메타데이터가 포함되어 있습니다. 모델과 같은 도구에서 작성하는 자산은 데이터에 대해 작업하기 위해 코드를 실행합니다. 메타데이터, 히스토리 및 모델에 대한 보고서를 포함하는 모델 유스 케이스와 같은 기타 자산에 대한 정보를 포함하는 자산을 작성할 수도 있습니다. 자산 유형 및 특성을 참조하십시오.
watsonx에서 다음 유형의 작업공간에서 작업할 수 있습니다.
- 프로젝트
- 배치 영역
- 플랫폼 연결
- AI 유스 케이스
사용자가 속한 모든 작업공간에서 자산을 검색할 수 있습니다.
프로젝트
프로젝트는 데이터 과학 및 모델 빌더 팀이 데이터를 사용하여 자산 (예: 저장된 프롬프트, 노트북, 모델 또는 파이프라인) 을 작성하는 위치입니다. 샌드박스 프로젝트라고 하는 첫 번째 프로젝트는 watsonx.ai에 등록할 때 자동으로 작성됩니다. 샌드박스 프로젝트를 참조하십시오.
다음 이미지는 프로젝트의 개요 페이지가 표시되는 모양을 보여줍니다.
배치 영역
배치 영역은 ModelOps 팀이 모델 및 기타 배치 가능한 자산을 프로덕션에 배치한 후 프로덕션에서 배치를 테스트하고 관리하는 위치입니다. 프로젝트에서 모델 및 배치 가능한 자산을 빌드한 후에는 이를 배치 영역으로 승격시킵니다. 배치 영역을 참조하십시오.
다음 이미지는 배치 공간의 개요 페이지가 어떻게 표시되는지 보여줍니다.
플랫폼 연결
플랫폼 연결은 연결 자산을 나열하는 Platform assets catalog 의 보기입니다. 프로젝트 또는 배치 영역에서 플랫폼 연결에 액세스할 수 있습니다.
다음 이미지는 플랫폼 연결의 연결 페이지가 표시되는 모양을 보여줍니다.
AI 유스 케이스
AI 유스 케이스는 모델 유스 케이스를 나열하는 Platform assets catalog 의 보기입니다. 유스 케이스는 팩트 시트에서 AI 자산에 대한 세부사항을 추적합니다.
다음 이미지는 AI 유스 케이스 페이지의 모양을 보여줍니다.
자원 허브
Watsonx 에는 배치된 기반 모델, 데이터 자산, 프롬프트, 노트북 및 샘플 프로젝트를 제공하는 통합된 샘플 콜렉션이 포함되어 있습니다. 샘플 노트북은 데이터 과학 및 머신 러닝 코드의 예제를 제공합니다. 샘플 프로젝트에는 데이터, 모델, 기타 자산 및 특정 비즈니스 문제점을 해결하는 방법에 대한 자세한 지시사항 세트가 포함되어 있습니다.
다음 이미지는 자원 허브의 모양을 보여줍니다.
자원 허브의 둘러보기를 보려면 이 비디오를 보십시오.
이 비디오는 이 문서의 개념 및 태스크를 학습하기 위한 시각적 방법을 제공합니다.