빠른 시작: 검색 증강 생성 패턴으로 foundation model 프롬프트하기

샘플 노트북을 저장하려면 프로젝트가 필요합니다.

샌드박스 프로젝트를 작성하고 서비스를 연관시키는 방법을 보려면 비디오를 보십시오. 그런 다음 단계에 따라 기존 프로젝트가 있는지 확인하거나 샌드박스 프로젝트를 작성하십시오.

단계에 따라 기존 프로젝트가 있는지 확인하거나 프로젝트를 작성하십시오.

1. watsonx 홈 화면에서 프로젝트 섹션으로 스크롤하십시오. 목록에 프로젝트가 표시되면 watsonx.ai 런타임 서비스 연결로 건너뛰세요. 프로젝트가 표시되지 않으면 다음 단계에 따라 프로젝트를 작성하십시오.

2. 샌드박스 프로젝트 작성을 클릭하십시오. 프로젝트가 작성되면 프로젝트 섹션에 샌드박스가 표시됩니다.

3. 기존 프로젝트 또는 새 샌드박스 프로젝트를 여십시오.

샘플 노트북은 작은 지식 기반 및 단순 검색 구성요소를 사용하여 기본 패턴을 보여줍니다. 이 노트북에서 사용되는 시나리오는 정원에 심을 씨를 판매하는 회사를 위한 것입니다. 온라인 시드 카탈로그의 웹 사이트에는 고객이 정원을 계획하고 궁극적으로 구매할 시드를 선택하는 데 도움이 되는 많은 기사가 있습니다. 기사의 내용에 대한 고객의 질문에 답하기 위해 새로운 와이퍼가 웹사이트에 추가되고 있습니다.

이 비디오를 보고 샘플 노트북을 프로젝트에 추가하는 방법을 확인한 후 단계에 따라 노트북을 프로젝트에 추가하십시오.

1. 리소스 허브에서 RAG: 간단한 소개 노트북에 액세스하세요.

2. 프로젝트에 추가를 클릭하십시오.

3. 목록에서 프로젝트를 선택하고 추가를 클릭하십시오.

4. 노트북 이름 및 설명을 입력하십시오 (선택적).

5. 이 노트북에 대해 런타임 환경을 선택하십시오.

6. 작성을 클릭하십시오. 노트북 편집기가 로드되기를 기다리십시오.

7. 메뉴에서 커널 > 다시 시작 및 출력 지우기를 클릭한 후 다시 시작 및 모든 출력 지우기 를 클릭하여 확인하고 마지막으로 저장된 실행에서 출력을 지우십시오.

연관된 서비스에 대한 추가 정보는 연관된 서비스 추가를 참조하십시오.

이 작업을 미리 보려면 00:57부터 시작하는 동영상을 시청하세요.

노트북을 실행하려면 먼저 환경을 설정해야 합니다. 노트북 전제조건을 확인하려면 다음 단계를 수행하십시오.

1. 노트북의 IBM Cloud 의 IBM watsonx 의 경우 섹션으로 스크롤하여 노트북을 실행하기 위한 두 가지 전제조건을 확인하십시오.

2. IBM Cloud API 키 만들기 섹션에서 API 키를 사용하여 watsonx.ai 런타임 API에 자격 증명을 전달해야 합니다. 아직 저장된 API 키가 없는 경우에는 다음 단계를 수행하여 API 키를 작성합니다.
   

   1. IBM Cloud 콘솔 API 키 페이지에 액세스합니다.

   2. IBM Cloud API 키 작성을 클릭하십시오. 기존 API키가 있는 경우 단추에 작성이라는 레이블이 붙을 수 있습니다.

   3. 이름 및 설명을 입력하십시오.

   4. 작성을 클릭하십시오.

   5. 복사 API 키입니다.

   6. 나중에 사용할 수 있도록 API 키를 다운로드하십시오.

3. 현재 프로젝트에 watsonx.ai 런타임 서비스 인스턴스 연결하기 섹션을 검토하세요. 태스크 1에서 이 전제조건을 완료했습니다.

4. 셀 실행으로 스크롤하여 IBM Cloud API키 섹션을 제공하십시오.

   1. 실행 아이콘 ' '을 클릭하여 셀을 실행합니다.

   2. API키를 붙여넣고 Enter를 누르십시오.

5. 셀을 실행하여 IBM Cloud IBM watsonx 대한 자격 증명을 설정하기에서 실행 아이콘 ' '을 클릭하여 셀을 실행하고 자격 증명을 설정합니다.

이 태스크를 미리 보려면 01:03에서 시작하는 비디오를 시청하십시오.

샘플 노트북에는 검색 기능이 보강된 생성 및 특정 유스 케이스에 맞게 노트북을 조정하는 방법에 대한 정보가 포함되어 있습니다. 노트북을 실행하고 출력을 검토하려면 다음 단계를 수행하십시오.

1. 노트북에서 2단계: 지식 기반 데이터베이스 작성 섹션으로 스크롤하십시오.

   1. 해당 섹션의 세 셀 각각에 대해 실행 아이콘 ' '을 클릭합니다.

   2. 섹션에 있는 세 개의 셀에 대한 출력을 검토하십시오. 이러한 셀의 코드는 지식 기반을 두 기사의 콜렉션으로 설정합니다. 이러한 기사는 watsonx.ai에 대한 샘플로 작성되었으며 다른 곳에서 발행된 실제 기사가 아닙니다. 저자와 출판 날짜는 허구입니다.

2. 노트북에서 3단계: 단순 검색 컴포넌트 빌드 섹션으로 스크롤하십시오.

   1. 해당 섹션의 두 셀 각각에 대해 실행 아이콘 ' '을 클릭합니다.

   2. 섹션의 두 셀에 대한 출력을 검토하십시오. 이러한 셀의 코드는 단순 검색 컴포넌트를 빌드합니다. 검색 기능 보강 생성에 대해 설명하는 많은 기사에서는 검색 컴포넌트가 벡터 데이터베이스를 사용한다고 가정합니다. 그러나 일반 검색 기능 보강 생성 패턴을 수행하기 위해 지식 기반에서 관련 컨텐츠를 안정적으로 리턴할 수 있는 검색 및 검색 메소드가 수행됩니다. 이 노트북에서 검색 구성요소는 단순 정규식 일치를 기반으로 지식 기반의 두 기사 중 하나 또는 다른 하나의 인덱스를 리턴하는 단순 검색 기능입니다.

3. 노트북에서 4단계: 직종 프롬프트 텍스트 섹션으로 스크롤하십시오.

   1. 해당 섹션의 두 셀 각각에 대해 실행 아이콘 ' '을 클릭합니다.

   2. 섹션의 두 셀에 대한 출력을 검토하십시오. 이 셀의 코드는 프롬프트 텍스트를 작성합니다. 지정된 태스크에 대한 최상의 프롬프트가 없습니다. 그러나 bigscience/mt0-xxl-13b, google/flan-t5-xxl-11b또는 google/flan-ul2-20b와 같이 명령어로 조정된 모델은 일반적으로 샘플 프롬프트를 사용하여 이 태스크를 수행할 수 있습니다. 보수적인 디코딩 방법들은 간결한 응답들을 향하는 경향이 있다. 프롬프트에서 생성 시 대체될 두 개의 문자열 플레이스홀더 ( %s(으) 로 표시됨) 를 확인하십시오.

      • 첫 번째 플레이스홀더는 지식 기반에서 관련 기사의 텍스트로 바뀝니다.
      • 두 번째 플레이스홀더가 응답할 질문으로 바뀝니다.

4. 노트북에서 5단계: 기본 모델 Python 라이브러리를 사용하여 출력 생성 섹션으로 스크롤하십시오.

   1. 해당 섹션의 세 셀 각각에 대해 실행 아이콘 ' '을 클릭합니다.

   2. 섹션에 있는 세 개의 셀에 대한 출력을 검토하십시오. 이러한 셀의 코드는 Python 라이브러리를 사용하여 출력을 생성합니다. Python 라이브러리를 사용하여 프로그래밍 방식으로 watsonx.ai 에서 기초 모델을 프롬프트할 수 있습니다. 라이브러리에 대한 자세한 정보는 다음 주제를 참조하십시오.

   • 기초 모델 Python 라이브러리 소개
   • watsonx Python 라이브러리 레퍼런스

5. 노트북에서 6단계: 검색 기능이 보강된 생성을 수행하기 위해 모두 함께 가져오기 섹션으로 스크롤하십시오.

   1. 해당 섹션의 두 셀 각각에 대해 실행 아이콘 ' '을 클릭합니다. 이 코드는 검색 기능 보강 생성을 수행하기 위해 모든 것을 함께 가져옵니다.

   2. 섹션의 첫 번째 셀에 대한 출력을 검토하십시오. 이 셀의 코드는 사용자 입력 요소를 설정합니다.

   3. 섹션의 두 번째 셀에 대해 토마토 또는 오이와 관련된 질문을 입력하여 응답과 소스를 확인하십시오. 예를 들어, Do I use mulch with tomatoes?입니다.

   4. 질문에 대한 응답을 검토하십시오.