예

다음 프롬프트에는 일부 요소를 설정하기 위한 컨텍스트가 포함되어 있습니다.

Aisha recently painted the kitchen yellow, which is her favorite color.

Aisha's favorite color is 

아이샤가 일반적인 사전 학습 데이터 세트에 포함된 많은 온라인 기사에서 좋아하는 색이 언급된 유명 인사가 아니라면, 프롬프트 시작 부분의 문맥이 없으면 어떤 foundation model 프롬프트 끝에서 정확한 문장을 안정적으로 완성할 수 없습니다.

팩트가 채워진 컨텍스트를 포함하는 텍스트로 모델을 프롬프트하는 경우 모델이 생성하는 출력이 더 정확할 수 있습니다. 자세한 정보는 사실적으로 정확한 출력 생성을 참조하십시오.

검색 기능 보강 생성의 오리진

이 백서에서는 검색 증강 생성 (RAG)이라는 용어가 소개되었습니다: 지식 집약적인 NLP 작업을 위한 검색 증강 생성.

" 매개변수식 메모리가 사전 훈련된 seq2seq 변환기이고 비매개변수식 메모리가 사전 훈련된 신경검색기로 액세스되는 Wikipedia의 밀집 벡터 색인인 RAG 모델을 빌드합니다.

이 문서에서 RAG 모델 이라는 용어는 검색기 (특정 조회 인코더 및 벡터 기반 문서 검색 색인) 및 생성기 (사전 훈련된 특정 생성 언어 모델) 의 특정 구현을 의미합니다. 그러나 기본 검색 및 생성 접근 방식은 다른 검색기 컴포넌트 및 기초 모델을 사용하도록 일반화될 수 있습니다.

지식 기반 데이터베이스

지식 기반 데이터베이스는 다음과 같은 정보 포함 아티팩트의 콜렉션일 수 있습니다.

• 내부 회사 위키 페이지의 프로세스 정보
• GitHub 의 파일 (모든 형식: 마크다운, 일반 텍스트, JSON, 코드)
• 협업 도구의 메시지
• 긴 텍스트 블록을 포함할 수 있는 제품 문서의 주제
• SQL (Structured Query Language) 조회를 지원하는 데이터베이스의 텍스트 단락 (예: Db2 )
• PDF 파일로 저장되는 법적 계약과 같은 파일 콜렉션이 있는 문서 저장소
• Content Management 시스템의 고객 지원 티켓

검색기

검색기는 IBM Watson Discovery 와 같은 검색 도구 또는 GitHub에서 제공하는 것과 같은 검색 및 컨텐츠 API를 포함하여 지식 기반에서 관련 컨텐츠를 안정적으로 리턴하는 검색 및 컨텐츠 도구의 조합일 수 있습니다.

벡터 데이터베이스도 효과적인 검색기입니다. 벡터 데이터베이스는 데이터뿐만 아니라 데이터의 벡터 임베딩도 저장합니다. 이는 시맨틱 의미를 캡처하는 데이터의 숫자 표현입니다. 조회 시 조회 텍스트의 벡터 임베딩이 관련 일치를 찾는 데 사용됩니다.

IBM watsonx.ai 벡터 데이터베이스는 포함되어 있지 않지만 다음에서 기초 모델을 사용할 수 있습니다. watsonx.ai 시중의 모든 벡터 데이터베이스와 함께 사용할 수 있습니다. 그만큼 예시 노트북 Chroma와 같은 널리 사용되는 벡터 데이터베이스에 연결하는 단계를 설명합니다. Elasticsearch.

검색기가 벡터화된 텍스트를 사용하는 RAG 패턴을 구현하는 데 도움을 주기 위해, watsonx.ai 문장과 구절을 벡터로 변환하는 데 사용할 수 있는 임베딩 API와 임베딩 모델을 제공합니다. 이 유형의 RAG 구현에 대한 자세한 정보는 검색 기능이 보강된 생성 태스크와 함께 벡터화된 텍스트 사용을 참조하십시오.

생성 프로그램

생성기 컴포넌트는 watsonx.ai에 있는 모든 모델을 사용할 수 있습니다. 이 모델은 사용자의 유스 케이스, 프롬프트 형식 및 컨텍스트에 대해 가져오는 컨텐츠에 적합합니다.