0 / 0

검색 기능이 보강된 생성 태스크에서 벡터화된 텍스트 사용

마지막 업데이트 날짜: 2025년 3월 04일
검색 기능이 보강된 생성 태스크에서 벡터화된 텍스트 사용

임베드 모델을 사용하여 검색 기능이 보강된 생성 태스크에 도움이 되도록 문장 또는 구절의 의미를 캡처하는 텍스트 임베드를 작성하십시오.

검색 증강 생성(Retrieval-augmented generation, RAG)은 기초 모델 프롬프트에 외부 소스의 지식을 추가하는 기술입니다. 텍스트 임베딩을 사용하면 사실에 입각한 답변을 도출하는 데 도움이 되는 프롬프트에 포함할 수 있는 더 높은 품질의 관련 정보를 찾을 수 있습니다.

다음 다이어그램은 임베드 지원이 있는 검색 기능이 보강된 생성 패턴을 보여줍니다.

벡터 저장소에서 파생된 검색 결과를 검색 기능 보강 생성을 위한 입력에 추가하는 것을 표시하는 다이어그램

임베드 지원이 있는 검색 기능 보강 생성 패턴에는 다음 단계가 포함됩니다.

  1. 컨텐츠를 텍스트 임베드로 변환하고 벡터 데이터 저장소에 저장하십시오.
  2. 동일한 임베드 모델을 사용하여 사용자 입력을 텍스트 임베드로 변환하십시오.
  3. 지식 기반에서 사용자의 질문과 관련된 컨텐츠에 대한 유사성 또는 시맨틱 검색을 실행하십시오.
  4. 가장 관련성이 높은 검색 결과를 컨텍스트로 프롬프트에 가져오고 다음 단락의 정보만 사용하여 "다음 질문에 응답" 과 같은 지시사항을 추가하십시오.
  5. 조합된 프롬프트 텍스트(지침 + 검색 결과 + 질문)를 기초 모델로 보냅니다.
  6. 기초 모델은 프롬프트의 문맥 정보를 사용하여 사실에 근거한 답변을 생성합니다.

기초 모델 입력에서 Prompt Lab

Prompt Lab 에는 채팅 모드에 RAG 사용 사례를 구현하는 데 도움이 되는 기능이 내장되어 있습니다. 시작하려면 관련 문서를 프롬프트와 연결합니다. 추가한 문서는 벡터화되어 벡터 데이터베이스에 저장됩니다. 채팅에 질문이 제출되면, 데이터베이스가 검색되고, 관련 결과가 기초 모델에 제출된 입력에 포함됩니다. 더 자세한 정보는 문맥 정보에 기초 모델 프롬프트 접지를 참고하세요.

샘플 노트북

watsonx Granite 모델 시리즈, 크로마, LangChain 사용하여 질문에 답하기(RAG) 샘플 노트에서는 임베딩을 통해 RAG 사용 사례를 개선하기 위해 따라야 할 단계를 안내합니다.

자세히 알아보기

상위 주제: 검색 증강 세대