watsonx 환경 개요
watsonx 환경은 조직의 신뢰할 수 있는 데이터에 액세스하고, AI 프로세스를 자동화하고, 애플리케이션에서 AI를 제공할 수 있는 안전하고 협업적인 환경입니다. IBM watsonx.ai 서비스는 제너레이티브 AI 및 머신러닝 솔루션 구축을 위한 통합 도구 스튜디오를 제공합니다. IBM watsonx.governance 서비스는 책임감 있고 투명하며 설명 가능한 AI 워크플로우를 가속화할 수 있도록 AI 솔루션에 대한 엔드투엔드 모니터링을 제공합니다.
AI 엔지니어, 데이터 과학자, AI 리스크 및 컴플라이언스 담당자는 watsonx.ai 및 watsonx.governance: 를 사용하여 다음 목표를 달성할 수 있습니다.
- 제너레이티브 AI 솔루션 구축
- 프롬프트, 에이전트, 레트리뷰션 증강 생성(RAG) 패턴 및 기초 모델의 기타 기능을 포함하는 솔루션을 구축하세요. IBM 모델, 타사 모델, 오픈 소스 모델 또는 사용자 지정 파운데이션 모델 가져오기 중에서 선택합니다. 기본 모델을 조정하여 프롬프트 출력을 사용자 정의하십시오.
- 머신 러닝 솔루션 구축
- 오픈 소스 프레임워크와 코드 기반, 자동화 또는 시각적 데이터 과학 도구로 모델을 구축하세요. 통합 도구와 런타임으로 모델 라이프사이클을 관리하고 자동화하여 머신러닝 모델을 학습, 검증, 배포하세요.
- AI 관리
- AI 모델의 자세한 이력을 추적하고, 위험을 평가하고, 모델 결과물을 평가하여 규정 준수를 보장하세요.
플랫폼 아키텍처
watsonx 경험은 IBM watsonx 플랫폼의 일부입니다. IBM watsonx 플랫폼에는 서비스와 작업 공간을 공유하는 여러 통합 환경이 있습니다. 액세스할 수 있는 경험은 IBM Cloud 계정에서 프로비저닝된 watsonx 서비스에 따라 달라집니다. 경험은 특정 작업을 위한 도구에 집중적으로 액세스할 수 있는 기능을 제공합니다.
IBM watsonx 플랫폼에는 이러한 통합 경험이 포함되어 있습니다:
- watsonx 여기에는 AI 솔루션 구축 및 관리를 위한 watsonx.ai Studio, watsonx.ai 런타임 및 watsonx.governance 서비스가 포함되어 있습니다.
- Data Fabric 여기에는 신뢰할 수 있는 고품질의 데이터 제품을 준비하고 공유하기 위한 watsonx.data intelligence 서비스가 포함되어 있습니다.
- watsonx.data 프리미엄에는 watsonx.data, watsonx.ai Studio, watsonx.ai 런타임, watsonx.data intelligence 서비스 등 AI를 위한 비정형 데이터 변환을 위한 서비스가 포함되어 있습니다.
서로 다른 작업을 하는 사용자가 함께 작업할 수 있도록 경험 간에 프로젝트가 공유됩니다. 다양한 도구로 작업하기 위해 환경 간에 전환할 수 있습니다. 같은 프로젝트에서 공동 작업하는 사용자들은 서로 다른 환경에서 작업할 수 있습니다. 예를 들어 데이터 엔지니어와 AI 엔지니어가 같은 프로젝트의 공동 작업자라고 가정해 보겠습니다. Data Fabric 환경에서 작업 중인 데이터 엔지니어가 데이터 자산을 준비합니다. watsonx 환경에서 작업 중인 AI 엔지니어는 데이터 자산을 사용하여 모델을 학습시킵니다. 경험 간 전환을 참조하세요.
다음 그림은 IBM Cloud 플랫폼에서 통합 경험의 아키텍처, 각 경험의 서비스 및 기능, 공유 기능을 보여줍니다.
Cloud Pak for Data as a Service 환경에는 다른 환경과 동일한 서비스가 많이 포함되어 있지만 생성 AI 또는 비정형 데이터 처리 기능이 없습니다. 프로젝트는 공유되지 않지만 Cloud Pak for Data as a Service 에서 watsonx 환경으로 프로젝트를 전환할 수 있습니다.
Watsonx.ai
Watsonx.ai 에는 AI 솔루션 구축을 위한 API 및 도구, 제너레이티브 AI를 위한 배포된 기반 모델, 컴퓨팅 및 추론을 위한 하드웨어 및 소프트웨어 리소스가 포함되어 있습니다.
watsonx.ai를 소개하는 이 짧은 비디오를 보십시오.
이 비디오는 이 문서의 개념 및 태스크를 학습하기 위한 시각적 방법을 제공합니다.
데이터 준비 및 AI 솔루션 구축 방법
대부분의 작업에서 코드 작성과 UI의 도구 작업 중 하나를 선택할 수 있습니다. watsonx.ai 도구는 프로젝트라는 협업 작업공간에 있습니다.
다음과 같은 방법으로 데이터를 준비하고 AI 솔루션을 구축할 수 있습니다:
- AI 데이터 준비
- Data Refinery 을 사용하여 원격 데이터 원본의 데이터 파일 또는 데이터 테이블을 세분화하고 시각화합니다.
- Synthetic Data Generator 을 사용하여 머신 러닝 모델 학습을 위한 합성 구조화 데이터를 생성합니다.
- 합성 데이터 생성 API로 기초 모델을 튜닝하거나 AI 솔루션을 테스트하기 위한 합성 비정형 데이터를 생성하세요.
- 벡터 인덱스를 사용하여 비정형 데이터를 벡터화하여 RAG 패턴으로 변환하세요.
- 데이터 준비하기를 참조하세요.
- 제너레이티브 AI 솔루션 구축
- Python SDK, REST API 또는 Node.js 을 사용하여 생성형 AI 솔루션 코드를 작성하세요.
- Prompt Lab 에서 생성형 AI 프롬프트를 실험해 보세요.
- AutoAI 으로 RAG 패턴을 자동화하세요.
- Tuning Studio 를 사용하여 사용 사례에 맞게 파운데이션 모델을 조정하세요.
- 에이전트 랩으로 AI 에이전트를 구축하세요.
- 제너레이티브 AI 솔루션 개발을 참조하세요.
- 머신 러닝 모델 빌드
- AutoAI 을 사용하여 예측 모델 후보를 자동으로 생성합니다.
- SPSS Modeler 을 사용하여 머신 러닝 모델 학습 흐름을 만듭니다.
- Python 또는 R에서 모델을 훈련하기 위해 Jupyter 노트북을 작성합니다.
- Decision Optimization 로 최적화 문제를 해결하세요.
- 오케스트레이션 파이프라인으로 머신 러닝 라이프사이클을 자동화하세요.
- 데이터 과학 솔루션을 참조하세요.
배치된 기본 모델
IBM watsonx.ai 에는 생성 AI를 위한 다양한 배치된 대형 언어 모델이 있습니다. 배포된 파운데이션 모델에는 오픈 소스 모델과 IBM 파운데이션 모델이 있습니다. 사용자 지정 파운데이션 모델을 배포하거나 온디맨드 모델을 배포할 수도 있습니다. 파운데이션 모델을 조정하여 파운데이션 모델 동작을 사용자 지정할 수 있습니다.
watsonx.ai에 배치되는 지원되는 기본 모델의 목록은 지원되는 기본 모델을 참조하십시오.
사용 리소스
서비스 플랜에 따라 매월 설정된 사용량 리소스가 있거나 이용하는 리소스에 대해 비용이 청구될 수 있습니다.
watsonx.ai에서 도구 또는 호스트 모델을 실행하면 다음과 같은 유형의 리소스가 사용됩니다:
- 계산 사용
- 작업, 노트북, 모델을 학습하거나 조정하는 실험 또는 배포를 실행할 때 컴퓨팅 리소스 사용량은 런타임 환경의 비율과 활성 기간을 기준으로 계산됩니다. 계산 자원에는 워크로드에 특정한 적절한 하드웨어 및 소프트웨어가 포함됩니다. 계산 사용량은 용량 단위 시간으로 측정됩니다.
- 추론 사용법
- 기초 모델에 대해 추론을 실행할 때 추론 사용량은 프롬프트 입력 및 출력 텍스트의 토큰 합계와 기초 모델에 대한 요율을 곱한 값으로 계산됩니다. 토큰은 텍스트의 기본 단위입니다. 추론은 자원 단위로 측정됩니다.
- 모델 호스팅
- 사용자 지정 파운데이션 모델 또는 주문형 파운데이션 모델을 배포하는 경우 시간당 요금이 청구됩니다. 청구 요금은 모델 하드웨어 구성에 따라 다르며 모델 호스팅 및 추론에 적용됩니다. 모델이 성공적으로 배포되면 요금이 부과되기 시작하여 모델이 삭제될 때까지 계속됩니다.
- 텍스트 추출
- 텍스트 추출을 사용하여 문서 파일을 AI 모델 친화적인 JSON 파일 형식으로 변환하는 경우 페이지당 요금이 부과됩니다.
사용 및 청구에 대한 자세한 정보:
Watsonx.governance
Watsonx.governance 에는 모델을 관리하기 위한 도구와 모델을 평가하고 설명하기 위한 사용 자원이 포함되어 있습니다.
AI 거버넌스 기능은 배포 환경에 따라 다릅니다.
- Watsonx.governance ~에 IBM Cloud 대부분의 AI 거버넌스 기능을 제공합니다. 통합할 수 있습니다. IBM OpenPages 거버넌스 콘솔을 활성화하는 서비스입니다. 모든 솔루션을 사용할 수 있습니다(라이센스 필요).
- Watsonx.governance ~에 Amazon Web Services ( AWS )는 모델 위험 거버넌스 솔루션과 함께 거버넌스 콘솔을 제공합니다.
watsonx.governance를 소개하는 이 짧은 비디오를 보십시오.
이 비디오는 이 문서의 개념 및 태스크를 학습하기 위한 시각적 방법을 제공합니다.
AI를 관리하는 방법
watsonx.governance API 및 도구를 사용하여 다음과 같은 방법으로 AI를 관리할 수 있습니다:
- AI 자산 모니터링 및 평가
- 머신러닝 모델 출력을 모니터링하고 모델 예측을 설명하세요.
- 생성형 AI 프롬프트를 평가하고 비교하세요.
- watsonx.governance 모델 모니터링 및 평가 도구는 프로젝트 및 배포 공간에 있습니다.
- AI 자산 평가하기를 참조하세요.
- AI 사용 사례 추적 및 문서화
- 모델 수명 주기 상태, 일반 모델 및 배포 세부 정보, 교육 정보 및 메트릭, AI 사용 사례를 통한 배포 메트릭을 확인합니다.
- AI 사용 사례에서 자산 관리를 참조하세요.
- 거버넌스 활동 관리
- 팩트 시트의 데이터를 거버넌스 콘솔과 동기화합니다.
- 거버넌스 콘솔을 통해 워크플로 및 기타 규정 준수 도구로 거버넌스 기능을 확장하세요.
- IBM OpenPages 에서 watsonx 거버넌스 콘솔과 통합해야 합니다.
- 거버넌스 콘솔에서 위험 및 규정 준수 관리하기를 참조하세요.
사용 리소스
watsonx.governance를 사용하여 모델 평가 및 설명을 실행할 때 자원을 이용합니다. 서비스 플랜에 따라 매월 설정된 사용량 리소스가 있거나 이용하는 리소스에 대해 비용이 청구될 수 있습니다. 자원 사용량은 모델 평가 및 설명 수를 기반으로 계산됩니다. 평가 및 설명은 자원 단위로 측정됩니다.
공유 기능
Watsonx 에는 안전하고 확장 가능한 협업을 위해 서비스 및 경험 간에 공유되는 다음과 같은 기능이 포함되어 있습니다:
- 연결
- 관리
- 스토리지
- 작업공간
- 자원 허브
연결
원격 데이터 소스에 대한 연결을 작성하고 연결된 데이터를 가져올 수 있습니다. 개인 또는 공유 신임 정보를 사용하여 연결을 구성할 수 있습니다. 지원되는 커넥터 목록은 커넥터를 참조하십시오.
Platform assets catalog의 플랫폼에서 다른 사용자와 연결을 공유할 수 있습니다.
관리
다음 관리 기능은 보안 및 유연성을 제공합니다.
- 소프트웨어 및 하드웨어
Watsonx 는 IBM Cloud 에서 IBM 에 의해 완전히 관리됩니다. 소프트웨어 업데이트는 자동입니다. 사용량 자원 및 스토리지의 스케일링은 자동입니다.
- 보안, 준수 및 격리
watsonx 의 데이터 보안, 네트워크 보안, 보안 표준 준수 및 격리는 IBM Cloud 에서 관리합니다. 데이터는 저장 및 이동 중에 암호화됩니다. 추가 보안 및 암호화 옵션을 설정할 수 있습니다.
사용자가 작성하는 데이터 및 모델을 포함하여 watsonx에 대한 작업은 사용자 계정에 대해 개인용입니다. 귀하의 데이터 및 모델은 IBM 또는 기타 개인이나 조직에서 액세스하거나 사용할 수 없습니다.
보안 및 옵션에 대해 자세히 알아보십시오.
- 서비스 프로비저닝
서비스 카탈로그에서 서비스를 추가할 수 있습니다. IBM Cloud 서비스 작성 및 관리를 참조하십시오.
다른 경험에서 일부 서비스에 액세스해야 합니다. 예를 들어 watsonx.data intelligence 서비스를 추가하는 경우 이를 사용하려면 Data Fabric 환경으로 전환해야 합니다.
IBM watsonx 경험에서 데이터 원본 서비스를 추가하고 이에 대한 연결을 만들 수 있지만, 데이터 원본 서비스는 IBM Cloud 콘솔에서 관리합니다.
- 사용자 관리
IBM Cloud Identity and Access Management 을 사용하여 사용자 및 사용자 그룹을 추가하고 IBM Cloud 계정 역할 및 권한을 관리합니다. 플랫폼 전체의 각 협업 작업 영역에서 역할을 지정합니다. 사용자 및 액세스 관리하기를 참조하세요.
저장소 켜기 IBM Cloud
watsonx 경험에 가입하면 IBM Cloud Object Storage 서비스 인스턴스가 자동으로 프로비저닝되어 사용자가 만들거나 워크스페이스에 추가하는 에셋을 위한 스토리지를 제공합니다. IBM Cloud Object Storage 서비스 인스턴스는 여러 경험에서 공유됩니다. IBM Cloud Object Storage 에 저장되는 정보는 암호화되어 있으며 복원력이 뛰어납니다. 각 작업공간에는 자체 전용 버킷이 있습니다. 작업공간의 오브젝트 스토리지를 참조하십시오.
작업공간
watsonx 환경은 팀 또는 조직과 함께 작업할 수 있는 일련의 공동 작업 공간으로 구성되어 있습니다. 각 작업공간에는 조치를 수행할 수 있는 권한을 제공하는 역할이 있는 구성원 세트가 있습니다.
대부분의 사용자는 사용자가 작성하거나 작업공간에 추가하는 항목인 자산에 대해 작업합니다. 자산은 데이터, 모델 또는 기타 유형의 코드나 정보를 나타낼 수 있습니다. 데이터 자산에는 데이터를 나타내는 메타데이터가 포함되어 있습니다. 모델과 같은 도구에서 작성하는 자산은 데이터에 대해 작업하기 위해 코드를 실행합니다. 메타데이터, 히스토리 및 모델에 대한 보고서를 포함하는 모델 유스 케이스와 같은 기타 자산에 대한 정보를 포함하는 자산을 작성할 수도 있습니다. 자산 유형 및 특성을 참조하십시오.
watsonx 환경에서는 이러한 유형의 작업 공간에서 작업할 수 있습니다:
- 프로젝트
- 배치 영역
- 플랫폼 연결
- 인벤토리
사용자가 속한 모든 작업공간에서 자산을 검색할 수 있습니다.
프로젝트
프로젝트는 데이터 과학 및 모델 빌더 팀이 데이터를 사용하여 자산 (예: 저장된 프롬프트, 노트북, 모델 또는 파이프라인) 을 작성하는 위치입니다. 샌드박스 프로젝트라고 하는 첫 번째 프로젝트는 watsonx.ai에 등록할 때 자동으로 작성됩니다. 샌드박스 프로젝트를 참조하십시오.
프로젝트는 통합된 경험 전반에서 공유됩니다. 그러나 현재 경험에서 유효한 에셋만 보고 실행할 수 있습니다. 예를 들어 watsonx 환경에서는 데이터 자산의 메타데이터를 보강할 수 없습니다.
다음 이미지는 프로젝트의 개요 페이지가 표시되는 모양을 보여줍니다.
배치 영역
배치 영역은 ModelOps 팀이 모델 및 기타 배치 가능한 자산을 프로덕션에 배치한 후 프로덕션에서 배치를 테스트하고 관리하는 위치입니다. 프로젝트에서 모델 및 배치 가능한 자산을 빌드한 후에는 이를 배치 영역으로 승격시킵니다. 배치 영역을 참조하십시오.
다음 이미지는 배치 공간의 개요 페이지가 어떻게 표시되는지 보여줍니다.
플랫폼 연결
플랫폼 연결은 연결 자산을 나열하는 Platform assets catalog 의 보기입니다. 프로젝트 또는 배치 영역에서 플랫폼 연결에 액세스할 수 있습니다. Platform assets catalog 은 통합된 경험에서 공유됩니다.
다음 이미지는 플랫폼 연결의 연결 페이지가 표시되는 모양을 보여줍니다.
인벤토리
목록에는 AI 활용 사례가 저장됩니다. 유스 케이스는 팩트 시트에서 AI 자산에 대한 세부사항을 추적합니다. 또한 모든 인벤토리의 모든 AI 활용 사례를 볼 수 있습니다.
다음 이미지는 AI 유스 케이스 페이지의 모양을 보여줍니다.
자원 허브
Watsonx 에는 배치된 기반 모델, 데이터 자산, 프롬프트, 노트북 및 샘플 프로젝트를 제공하는 통합된 샘플 콜렉션이 포함되어 있습니다. 샘플 노트북은 데이터 과학 및 머신 러닝 코드의 예제를 제공합니다. 샘플 프로젝트에는 데이터, 모델, 기타 자산 및 특정 비즈니스 문제점을 해결하는 방법에 대한 자세한 지시사항 세트가 포함되어 있습니다.
다음 이미지는 자원 허브의 모양을 보여줍니다.
자원 허브의 둘러보기를 보려면 이 비디오를 보십시오.
이 비디오는 이 문서의 개념 및 태스크를 학습하기 위한 시각적 방법을 제공합니다.