0 / 0
영어 버전 문서로 돌아가기
빠른 시작: 검색 증강 생성 패턴으로 foundation model 프롬프트하기
마지막 업데이트 날짜: 2024년 11월 28일
빠른 시작: 검색 증강 생성 패턴으로 foundation model 프롬프트하기

IBM watsonx.ai 에서 기본 모델을 사용하여 검색 기능이 보강된 생성 패턴을 적용하여 지식 기반 데이터베이스의 정보를 기반으로 하는 사실적으로 정확한 출력을 생성하는 방법을 학습하려면 이 튜토리얼을 사용하십시오. 기초 모델은 다양한 이유로 인해 사실적으로 부정확한 출력을 생성할 수 있습니다. 생성된 출력의 정확성을 향상시키는 한 가지 방법은 프롬프트 텍스트에서 컨텍스트로 필요한 팩트를 제공하는 것입니다. 이 학습서는 검색 기능 보강 생성 패턴 메소드를 사용하여 생성된 출력의 정확성을 향상시키는 샘플 노트북을 사용합니다.

필수 서비스
watsonx.ai 스튜디오
watsonx.ai 런타임

기본 워크플로우에는 다음 태스크가 포함됩니다.

  1. 프로젝트를 여십시오. 프로젝트는 데이터 작업을 위해 다른 사용자와 협업하는 위치입니다.
  2. 프로젝트에 노트북을 추가하십시오. 나만의 노트북을 만들거나 프로젝트에 샘플 노트북을 추가할 수 있습니다.
  3. 코드를 추가하고 편집한 후 노트북을 실행하십시오.
  4. 노트북 출력을 검토하십시오.

검색 기능 보강 생성 패턴에 대해 읽기

지식 기반의 정보를 활용하여 프롬프트에 컨텍스트를 포함하는 기술을 확장할 수 있습니다. 검색 기능 보강 생성 패턴에는 다음과 같은 세 가지 기본 단계가 포함됩니다.

  • 지식 기반에서 관련 컨텐츠 검색
  • 가장 관련이 있는 컨텐츠를 컨텍스트로 프롬프트에 가져오기
  • 결합된 프롬프트 텍스트를 모델로 전송하여 출력 생성

검색 기능 보강 생성 패턴에 대해 자세히 읽기

검색 기능 보강 생성 패턴 사용에 대한 비디오 보기

비디오 보기 비디오를 시청하면 이 학습서의 단계를 미리 볼 수 있습니다. 비디오에 표시된 사용자 인터페이스에 약간의 차이가 있을 수 있습니다. 이 비디오는 작성된 학습서와 함께 사용하기 위한 것입니다.

이 비디오는 이 문서의 개념 및 태스크를 학습하기 위한 시각적 방법을 제공합니다.


검색 증강 생성 패턴으로 foundation model 메시지를 표시하는 튜토리얼을 사용해 보세요

이 학습서에서는 다음 태스크를 완료합니다.





이 학습을 완료하기 위한 팁
다음은 이 학습서를 성공적으로 완료하기 위한 몇 가지 팁입니다.

비디오 사진 사용

팁: 비디오를 시작한 후 학습을 통해 화면이동하면 비디오가 그림 모드로 이동합니다. 사진에서 가장 좋은 경험을 얻으려면 비디오 목차를 닫으십시오. 그림 모드를 사용하여 이 학습서의 태스크를 완료하면서 비디오를 따라갈 수 있습니다. 각 태스크에 대한 시간소인을 클릭하여 수행하십시오.

다음 애니메이션 이미지는 비디오 픽처 인 픽처 및 목차 기능을 사용하는 방법을 보여줍니다.

그림 및 장 사용 방법

커뮤니티에서 도움 받기

이 튜토리얼에 도움이 필요하면 watsonx 커뮤니티 토론 포럼에서 질문하거나 답변을 찾을 수 있습니다.

브라우저 창 설정

이 튜토리얼을 완료하는 최적의 경험을 위해 한 브라우저 창에서 Cloud Pak for Data 를 열고 두 애플리케이션 간에 쉽게 전환할 수 있도록 다른 브라우저 창에서 이 튜토리얼 페이지를 열어 두십시오. 따라하기 쉽도록 두 개의 브라우저 창을 나란히 배열하는 것을 고려하십시오.

병행 학습서 및 UI

팁: 사용자 인터페이스에서 이 학습서를 완료하는 동안 안내서 둘러보기가 표시되면 나중에를 클릭하십시오.



태스크 1: 프로젝트 열기

샘플 노트북을 저장하려면 프로젝트가 필요합니다.

샌드박스 프로젝트를 작성하고 서비스를 연관시키는 방법을 보려면 비디오를 보십시오. 그런 다음 단계에 따라 기존 프로젝트가 있는지 확인하거나 샌드박스 프로젝트를 작성하십시오.

이 비디오는 이 문서의 개념 및 태스크를 학습하기 위한 시각적 방법을 제공합니다.

단계에 따라 기존 프로젝트가 있는지 확인하거나 프로젝트를 작성하십시오.

  1. watsonx 홈 화면에서 프로젝트 섹션으로 스크롤하십시오. 목록에 프로젝트가 표시되면 watsonx.ai 런타임 서비스 연결로 건너뛰세요. 프로젝트가 표시되지 않으면 다음 단계에 따라 프로젝트를 작성하십시오.

  2. 샌드박스 프로젝트 작성을 클릭하십시오. 프로젝트가 작성되면 프로젝트 섹션에 샌드박스가 표시됩니다.

  3. 기존 프로젝트 또는 새 샌드박스 프로젝트를 여십시오.

watsonx.ai 런타임 서비스를 프로젝트와 연결합니다

' watsonx.ai 런타임을 사용하여 ' foundation model' 런타임을 표시하므로 다음 단계에 따라 ' watsonx.ai 런타임 서비스 인스턴스를 프로젝트와 연결하세요.

  1. 프로젝트에서 관리 탭을 클릭하십시오.

  2. 서비스 및 통합 페이지를 클릭하십시오.

  3. 이 프로젝트에 연결된 watsonx.ai 런타임 서비스가 있는지 확인합니다. 연관된 서비스가 없는 경우 다음 단계를 수행하십시오.

    1. 서비스 연관을 클릭하십시오.

    2. watsonx.ai 런타임 서비스 인스턴스 옆의 확인란을 선택합니다.

    3. 연관을 클릭하십시오.

    4. 필요한 경우 취소 를 클릭하여 서비스 및 통합 페이지로 돌아가십시오.

추가 정보나 동영상을 보려면 프로젝트 작성을 참조하십시오.

체크포인트 아이콘 진행 상황 확인

다음 이미지는 연관된 서비스가 있는 관리 탭을 표시합니다. 이제 프로젝트에 샘플 노트북을 추가할 준비가 되었습니다.

프로젝트의 관리 탭




태스크 2: 프로젝트에 샘플 노트북 추가

샘플 노트북은 작은 지식 기반 및 단순 검색 구성요소를 사용하여 기본 패턴을 보여줍니다. 이 노트북에서 사용되는 시나리오는 정원에 심을 씨를 판매하는 회사를 위한 것입니다. 온라인 시드 카탈로그의 웹 사이트에는 고객이 정원을 계획하고 궁극적으로 구매할 시드를 선택하는 데 도움이 되는 많은 기사가 있습니다. 기사의 내용에 대한 고객의 질문에 답하기 위해 새로운 와이퍼가 웹사이트에 추가되고 있습니다.

이 비디오를 보고 샘플 노트북을 프로젝트에 추가하는 방법을 확인한 후 단계에 따라 노트북을 프로젝트에 추가하십시오.

이 비디오는 이 문서의 개념 및 태스크를 학습하기 위한 시각적 방법을 제공합니다.

  1. 리소스 허브에서 RAG: 간단한 소개 노트북에 액세스하세요.

  2. 프로젝트에 추가를 클릭하십시오.

  3. 목록에서 프로젝트를 선택하고 추가를 클릭하십시오.

  4. 노트북 이름 및 설명을 입력하십시오 (선택적).

  5. 이 노트북에 대해 런타임 환경을 선택하십시오.

  6. 작성을 클릭하십시오. 노트북 편집기가 로드되기를 기다리십시오.

  7. 메뉴에서 커널 > 다시 시작 및 출력 지우기를 클릭한 후 다시 시작 및 모든 출력 지우기 를 클릭하여 확인하고 마지막으로 저장된 실행에서 출력을 지우십시오.


연관된 서비스에 대한 추가 정보는 연관된 서비스 추가를 참조하십시오.

체크포인트 아이콘 진행 상황 확인

다음 이미지는 편집 모드에서 열린 노트북을 표시합니다. 이제 노트북을 실행하기 위한 전제조건을 설정할 준비가 되었습니다.

편집 모드에서 노트북 열기




태스크 3: 노트북 편집

학습서 비디오 미리보기 이 작업을 미리 보려면 00:57부터 시작하는 동영상을 시청하세요.

노트북을 실행하려면 먼저 환경을 설정해야 합니다. 노트북 전제조건을 확인하려면 다음 단계를 수행하십시오.

  1. 노트북의 IBM Cloud 의 IBM watsonx 의 경우 섹션으로 스크롤하여 노트북을 실행하기 위한 두 가지 전제조건을 확인하십시오.

  2. IBM Cloud API 키 만들기 섹션에서 API 키를 사용하여 watsonx.ai 런타임 API에 자격 증명을 전달해야 합니다. 아직 저장된 API 키가 없는 경우에는 다음 단계를 수행하여 API 키를 작성합니다.

    1. IBM Cloud 콘솔 API 키 페이지에 액세스합니다.

    2. IBM Cloud API 키 작성을 클릭하십시오. 기존 API키가 있는 경우 단추에 작성이라는 레이블이 붙을 수 있습니다.

    3. 이름 및 설명을 입력하십시오.

    4. 작성을 클릭하십시오.

    5. 복사 API 키입니다.

    6. 나중에 사용할 수 있도록 API 키를 다운로드하십시오.

  3. 현재 프로젝트에 watsonx.ai 런타임 서비스 인스턴스 연결하기 섹션을 검토하세요. 태스크 1에서 이 전제조건을 완료했습니다.

  4. 셀 실행으로 스크롤하여 IBM Cloud API키 섹션을 제공하십시오.

    1. 실행 아이콘 ' 다음을 실행하십시오. '을 클릭하여 셀을 실행합니다.

    2. API키를 붙여넣고 Enter를 누르십시오.

  5. 셀을 실행하여 IBM Cloud IBM watsonx 대한 자격 증명을 설정하기에서 실행 아이콘 ' 다음을 실행하십시오. '을 클릭하여 셀을 실행하고 자격 증명을 설정합니다.

체크포인트 아이콘 진행 상황 확인

다음 이미지는 전제조건이 완료된 노트북을 표시합니다. 이제 노트북을 실행하고 출력을 검토할 준비가 되었습니다.

전제조건이 완료된 노트북




태스크 4: 노트북 실행 및 출력 검토

학습서 비디오 미리보기 이 태스크를 미리 보려면 01:03에서 시작하는 비디오를 시청하십시오.

샘플 노트북에는 검색 기능이 보강된 생성 및 특정 유스 케이스에 맞게 노트북을 조정하는 방법에 대한 정보가 포함되어 있습니다. 노트북을 실행하고 출력을 검토하려면 다음 단계를 수행하십시오.

  1. 노트북에서 2단계: 지식 기반 데이터베이스 작성 섹션으로 스크롤하십시오.

    1. 해당 섹션의 세 셀 각각에 대해 실행 아이콘 ' 다음을 실행하십시오. '을 클릭합니다.

    2. 섹션에 있는 세 개의 셀에 대한 출력을 검토하십시오. 이러한 셀의 코드는 지식 기반을 두 기사의 콜렉션으로 설정합니다. 이러한 기사는 watsonx.ai에 대한 샘플로 작성되었으며 다른 곳에서 발행된 실제 기사가 아닙니다. 저자와 출판 날짜는 허구입니다.

  2. 노트북에서 3단계: 단순 검색 컴포넌트 빌드 섹션으로 스크롤하십시오.

    1. 해당 섹션의 두 셀 각각에 대해 실행 아이콘 ' 다음을 실행하십시오. '을 클릭합니다.

    2. 섹션의 두 셀에 대한 출력을 검토하십시오. 이러한 셀의 코드는 단순 검색 컴포넌트를 빌드합니다. 검색 기능 보강 생성에 대해 설명하는 많은 기사에서는 검색 컴포넌트가 벡터 데이터베이스를 사용한다고 가정합니다. 그러나 일반 검색 기능 보강 생성 패턴을 수행하기 위해 지식 기반에서 관련 컨텐츠를 안정적으로 리턴할 수 있는 검색 및 검색 메소드가 수행됩니다. 이 노트북에서 검색 구성요소는 단순 정규식 일치를 기반으로 지식 기반의 두 기사 중 하나 또는 다른 하나의 인덱스를 리턴하는 단순 검색 기능입니다.

  3. 노트북에서 4단계: 직종 프롬프트 텍스트 섹션으로 스크롤하십시오.

    1. 해당 섹션의 두 셀 각각에 대해 실행 아이콘 ' 다음을 실행하십시오. '을 클릭합니다.

    2. 섹션의 두 셀에 대한 출력을 검토하십시오. 이 셀의 코드는 프롬프트 텍스트를 작성합니다. 지정된 태스크에 대한 최상의 프롬프트가 없습니다. 그러나 bigscience/mt0-xxl-13b, google/flan-t5-xxl-11b또는 google/flan-ul2-20b와 같이 명령어로 조정된 모델은 일반적으로 샘플 프롬프트를 사용하여 이 태스크를 수행할 수 있습니다. 보수적인 디코딩 방법들은 간결한 응답들을 향하는 경향이 있다. 프롬프트에서 생성 시 대체될 두 개의 문자열 플레이스홀더 ( %s(으) 로 표시됨) 를 확인하십시오.

      • 첫 번째 플레이스홀더는 지식 기반에서 관련 기사의 텍스트로 바뀝니다.
      • 두 번째 플레이스홀더가 응답할 질문으로 바뀝니다.
  4. 노트북에서 5단계: 기본 모델 Python 라이브러리를 사용하여 출력 생성 섹션으로 스크롤하십시오.

    1. 해당 섹션의 세 셀 각각에 대해 실행 아이콘 ' 다음을 실행하십시오. '을 클릭합니다.

    2. 섹션에 있는 세 개의 셀에 대한 출력을 검토하십시오. 이러한 셀의 코드는 Python 라이브러리를 사용하여 출력을 생성합니다. Python 라이브러리를 사용하여 프로그래밍 방식으로 watsonx.ai 에서 기초 모델을 프롬프트할 수 있습니다. 라이브러리에 대한 자세한 정보는 다음 주제를 참조하십시오.

  5. 노트북에서 6단계: 검색 기능이 보강된 생성을 수행하기 위해 모두 함께 가져오기 섹션으로 스크롤하십시오.

    1. 해당 섹션의 두 셀 각각에 대해 실행 아이콘 ' 다음을 실행하십시오. '을 클릭합니다. 이 코드는 검색 기능 보강 생성을 수행하기 위해 모든 것을 함께 가져옵니다.

    2. 섹션의 첫 번째 셀에 대한 출력을 검토하십시오. 이 셀의 코드는 사용자 입력 요소를 설정합니다.

    3. 섹션의 두 번째 셀에 대해 토마토 또는 오이와 관련된 질문을 입력하여 응답과 소스를 확인하십시오. 예를 들어, Do I use mulch with tomatoes?입니다.

    4. 질문에 대한 응답을 검토하십시오.

체크포인트 아이콘 진행 상황 확인

다음 이미지는 완료된 노트북을 표시합니다.

완료된 노트북



다음 단계

  • 비디오 보기 02:55부터 시작하는 동영상을 시청하여 검색 증강 생성 패턴을 프로덕션 솔루션에 적용할 때 고려해야 할 사항에 대해 알아보세요.
  • 프롬프트 랩을 사용하여 프롬프트 foundation model 튜토리얼을 사용해 보세요.
  • 다른 watsonx.ai 유스 케이스 튜토리얼을 시도하십시오.

추가 자원

상위 주제: 빠른 시작 학습서

일반적인 AI 검색 및 응답
이러한 응답은 제품 문서의 컨텐츠를 기반으로 하는 watsonx.ai 의 대형 언어 모델에 의해 생성됩니다. 자세히 알아보기