검색 기능이 보강된 생성 태스크에서 벡터화된 텍스트 사용
마지막 업데이트 날짜: 2025년 3월 04일
임베드 모델을 사용하여 검색 기능이 보강된 생성 태스크에 도움이 되도록 문장 또는 구절의 의미를 캡처하는 텍스트 임베드를 작성하십시오.
검색 증강 생성(Retrieval-augmented generation, RAG)은 기초 모델 프롬프트에 외부 소스의 지식을 추가하는 기술입니다. 텍스트 임베딩을 사용하면 사실에 입각한 답변을 도출하는 데 도움이 되는 프롬프트에 포함할 수 있는 더 높은 품질의 관련 정보를 찾을 수 있습니다.
다음 다이어그램은 임베드 지원이 있는 검색 기능이 보강된 생성 패턴을 보여줍니다.
임베드 지원이 있는 검색 기능 보강 생성 패턴에는 다음 단계가 포함됩니다.
- 컨텐츠를 텍스트 임베드로 변환하고 벡터 데이터 저장소에 저장하십시오.
- 동일한 임베드 모델을 사용하여 사용자 입력을 텍스트 임베드로 변환하십시오.
- 지식 기반에서 사용자의 질문과 관련된 컨텐츠에 대한 유사성 또는 시맨틱 검색을 실행하십시오.
- 가장 관련성이 높은 검색 결과를 컨텍스트로 프롬프트에 가져오고 다음 단락의 정보만 사용하여 "다음 질문에 응답" 과 같은 지시사항을 추가하십시오.
- 조합된 프롬프트 텍스트(지침 + 검색 결과 + 질문)를 기초 모델로 보냅니다.
- 기초 모델은 프롬프트의 문맥 정보를 사용하여 사실에 근거한 답변을 생성합니다.
기초 모델 입력에서 Prompt Lab
Prompt Lab 에는 채팅 모드에 RAG 사용 사례를 구현하는 데 도움이 되는 기능이 내장되어 있습니다. 시작하려면 관련 문서를 프롬프트와 연결합니다. 추가한 문서는 벡터화되어 벡터 데이터베이스에 저장됩니다. 채팅에 질문이 제출되면, 데이터베이스가 검색되고, 관련 결과가 기초 모델에 제출된 입력에 포함됩니다. 더 자세한 정보는 문맥 정보에 기초 모델 프롬프트 접지를 참고하세요.
샘플 노트북
watsonx Granite 모델 시리즈, 크로마, LangChain 사용하여 질문에 답하기(RAG) 샘플 노트에서는 임베딩을 통해 RAG 사용 사례를 개선하기 위해 따라야 할 단계를 안내합니다.
자세히 알아보기
상위 주제: 검색 증강 세대
주제가 도움이 되었습니까?
0/1000