AutoAI RAG 인덱스를 사용하여 문서와 채팅하기

시작하기 전에

AutoAI RAG 패턴의 벡터화된 문서를 사용하려면 다음 요구 사항을 충족하는지 확인하세요:

1. 프롬프트를 생성하는 데 사용하는 프로젝트에서 Milvus 데이터베이스 인스턴스에 연결할 수 있습니다.
2. 지원되는 임베딩 모델을 사용하여 문서를 벡터화했습니다.

벡터화된 콘텐츠로 Prompt 랩에서 작업하는 방법에 대한 자세한 내용은 벡터화된 문서를 추가하여 foundation model 프롬프트를 기초로 하는 방법을 참조하세요.

Milvus 의 색인 연결을 통해 문서와 채팅하기

1. foundation model 채팅 모드에서 Prompt Lab 를 선택한 다음, 프롬프트에 사용할 모델 변수를 지정합니다.

2. 문서 업로드 아이콘 을 클릭한 다음 문서 추가를 선택합니다.

3. 선택 watsonx.data Milvus 벡터 저장소로.

4. 근거 문서의 이름을 입력하고 색인에 대한 연결을 선택하여 세부 사항을 정의합니다.

5. AutoAI RAG 패턴을 만드는 데 사용되는 임베딩 모델을 지정합니다: slate-125m-english-rtrvr.

6. 근거 문서로 사용할 컬렉션을 선택합니다.

7. Milvus 컬렉션 필드 스키마를 정의하고, 문서 이름 필드 에 document_id 를, 텍스트 필드의 값으로 text 를 지정합니다.

8. 작성을 클릭하십시오.

9. 문서에 있는 정보에 대한 질문을 제출하여 모델이 문맥 정보를 얼마나 잘 활용하여 질문에 답하는지 확인합니다.

   예를 들어, 기초 문서에 설명된 개념에 대해 질문하세요.

자세히 알아보기

프롬프트 사용에 대한 자세한 내용은 Prompt Lab.

상위 주제: AutoAI RAG 패턴 자동화하기