검색 강화 생성을 통한 질문에 대한 답변을 위한 솔루션 패턴
검색 증강 생성(RAG) 패턴을 적용하여 지식 기반의 정보를 바탕으로 사용자의 질문에 답변을 제공하는 생성형 AI 솔루션을 만들 수 있습니다.
사용 사례 및 요구 사항
RAG 패턴은 제공한 정보로 질문에 대한 답변을 보충할 기초 모델이 필요할 때 유용합니다. 예를 들어, 신제품에 대한 챗봇을 구현하여 제품 설명서를 바탕으로 질문에 답변을 제공한다고 가정해 보겠습니다.
제품 설명서를 바탕으로 질문에 답하는 RAG 솔루션에는 다음과 같은 작업이 포함될 수 있습니다
- 제품 설명서에서 사용자 질문에 대한 답을 찾으십시오.
- 제품 설명서를 바탕으로 답변을 생성합니다.
- 답변을 제공하는 문서 주제에 대한 링크.
- 모든 질문과 답변을 저장합니다.
- 답변에 대한 사용자 피드백을 수집합니다.
- 문서 작성자에게 부정적인 피드백을 전달합니다.
솔루션 아키텍처
RAG 패턴은 일반적으로 다음과 같은 구성 요소를 포함합니다
- 원본 문서가 포함된 지식 기반.
- 문서의 텍스트를 벡터 임베딩으로 변환하는 임베딩 모델입니다. 벡터 임베딩은 숫자로 표현된 것입니다.
- 문서의 벡터 내장 정보를 저장하는 벡터 데이터베이스와 콘텐츠를 검색하고 가져오는 벡터 인덱스입니다.
- 사용자 질문, 검색된 콘텐츠, 답변을 생성하기 위한 지침을 결합한 프롬프트 템플릿입니다.
- 검색된 콘텐츠를 바탕으로 사용자의 질문에 대한 답변을 생성하는 기초 모델입니다.
완성된 솔루션에는 다음 구성 요소도 포함될 수 있습니다
- 사용자가 질문을 하고, 답변을 받고, 답변에 대한 피드백을 제공할 수 있는 사용자 인터페이스를 갖춘 앱입니다.
- 검색된 결과가 질문에 얼마나 유사한지에 따라 정렬하는 것이 아니라 질문에 얼마나 잘 답하는지에 따라 정렬하는 재순위 모델입니다.
- 질문, 답변, 사용자 피드백의 로그.
- 문서 작성자에게 피드백을 전달하는 방법으로, 이 방법을 통해 문서를 업데이트하여 더 나은 답변을 생성할 수 있습니다.
- 만족스럽지 못한 답변에 대응할 최고의 전문가를 식별하는 방법.
예를 들어, 다음 그림은 사용자 피드백을 바탕으로 AI 답변을 개선하기 위해 콘텐츠를 조정함으로써 RAG 솔루션을 최적화하는 방법을 보여줍니다.
솔루션 구현
RAG 패턴 솔루션을 구현하려면 다음의 주요 단계를 따르십시오
- 벡터 데이터베이스를 설정합니다.
- 벡터 인덱스를 만듭니다.
- 프롬프트에서 벡터 인덱스를 지정합니다.
- 프롬프트를 평가합니다.
- 선택적 구성 요소를 추가합니다.
- 패턴을 AI 서비스로 배포하십시오.
- 애플리케이션에서 AI 서비스 엔드포인트를 호출합니다.
도구
Prompt Lab 에서 빠른 개념 증명을 만들 수 있습니다. 문서 파일을 업로드하고 인메모리 벡터 저장소에 벡터 색인을 생성할 수 있습니다. 문서와의 대화하기를 참조하십시오. 벡터 데이터베이스를 설정할 때, 프롬프트에서 참조할 수 있는 벡터 인덱스를 만들 수 있습니다. 기초 모델 프롬프트의 기초를 다지기 위해 벡터화된 문서 추가하기를 참조하십시오.
RAG 액셀러레이터로 RAG 솔루션을 빠르게 시작할 수 있습니다. Python 액셀러레이터는 솔루션에 맞게 커스터마이징할 수 있는 RAG 패턴을 구현하는 샘플 프로젝트입니다. RAG 액셀러레이터에 대한 Q&A를 참조하십시오.
최고의 RAG 패턴 검색을 자동화하고, RAG 솔루션을 구축하기 위해 AutoAI (자동화된 규칙 기반 분석) 도구를 실행할 수 있습니다. AutoAI 실험에서 배포에 이르는 엔드투엔드 흐름을 자동화합니다. AutoAI 를 사용하여 RAG 패턴 자동화하기 를 참조하십시오.
사용자 인터페이스를 건너뛰고 REST API, Python 라이브러리 또는 Node.js SDK를 사용하여 코드를 작성할 수 있습니다. watsonx 개발자 허브를 참조하세요.
자세히 알아보기
상위 주제: 생성적 AI 솔루션 계획하기