관련성별로 컨텐츠 분류

콘텐츠를 분류하는 데 능숙한 foundation model 사용하여 문서가 프롬프트에 포함되기 전에 먼저 질문에 효과적으로 답변할 수 있는지 여부를 결정하세요.

예를 들어, For each question and sample document, check whether the document contains the information that is required to answer the question. If the sample document appears to contain information that is useful for answering the question, respond 'Yes'. Otherwise, respond 'No'. 와 같은 프롬프트를 사용할 수 있습니다.

최대 토큰 수 매개변수를 1로 설정하면 모델이 예 또는 아니오 응답을 리턴할 가능성이 높습니다.

이 분류 방법을 사용하여 검색으로 검색되는 관련 없는 문서 또는 문장을 찾아 제거하십시오. 그런 다음 foundation model 프롬프트에서 질문과 함께 보낼 관련 콘텐츠를 다시 조합합니다.

긴 문서 요약

긴 문서의 경우 foundation model 사용하여 문서의 섹션을 요약하세요. 그런 다음 전체 문서를 foundation model 공급하는 대신 해당 요약본을 제출할 수 있습니다.

예를 들어, 하나의 긴 미팅 대화 내용에서 유용한 요약을 생성하기 위해 대화 내용을 여러 개의 작은 청크로 나누고 각각을 개별적으로 요약할 수 있습니다. 또는 다른 발표자의 기고를 사용하여 세그먼트를 검색하고 추출할 수 있습니다. 그런 다음 요약을 연결하여 foundation model 제출하는 프롬프트의 컨텍스트로 사용할 수 있습니다.

컨텐츠에서 텍스트 임베드 생성

텍스트 임베딩은 실제 값 숫자의 벡터인 정보 단위 (예: 단어 또는 문장) 의 숫자 표시입니다.

RAG 유스 케이스에서 텍스트 임베드를 활용하려면 다음 단계를 완료하십시오.

1. 텍스트 분할기를 사용하여 컨텐츠를 의미 있는 세그먼트로 분할하십시오.

   예를 들어 재귀 문자 분할기를 사용하여 문서를 foundation model 설정한 구문 및 글자 수 제한 요구 사항을 충족하는 세그먼트로 분할할 수 있습니다. ' LangChain: Recursively split by character 참조.

2. 임베드 모델을 사용하여 문서 청크를 문서 세그먼트의 의미를 캡처하는 벡터로 변환하십시오.

3. 문서 세그먼트를 나타내는 벡터를 벡터 데이터베이스에 저장하십시오.

4. 런타임에 키워드 또는 검색 쿼리를 사용하여 벡터 저장소를 검색하여 foundation model 공급할 가장 관련성이 높은 문서 세그먼트를 검색합니다.

텍스트를 임베딩으로 변환하면 모델이 사실에 입각한 답변을 제공하는 데 도움이 되는 근거 정보를 제거하지 않고 foundation model 프롬프트의 크기를 줄일 수 있습니다.

텍스트 변환을 위해 IBM 임베드 모델을 사용하는 방법에 대한 자세한 정보는 검색 기능이 보강된 생성 태스크에서 벡터화된 텍스트 사용을 참조하십시오.