Translation not up to date
IBM watsonx.ai ' de temel modelleri kullanarak, bilgi tabanındaki bilgilere dayalı olarak, alma artırılmış oluşturma kalıbını uygulayarak gerçek anlamda doğru çıktı oluşturabilirsiniz.
Bu video, bu belgedeki kavramları ve görevleri öğrenmek için görsel bir yöntem sağlar.
Video bölümleri
[ 0:08 ] Senaryo açıklaması
[ 0:27 ] Kalıp genel bakış
[ 1:03 ] Bilgi tabanı
[ 1:22 ] Arama bileşeni
[ 1:41 ] Bağlam ile artırılmış bilgi istemi
[ 2:13 ] Çıktı oluşturma
[ 2:31 ] Tam çözüm
[ 2:55 ] Arama için dikkat edilecek noktalar
[ 3:58 ] Bilgi istemi metni için dikkat edilecek noktalar
[ 5:01 ] Açıklanabilirlik için dikkate alınması gerekenler
Bilgi isteminizde bağlam sağlanması doğruluğu artırır
Temel modeller, çeşitli nedenlerden dolayı gerçeğe uygun olmayan çıktı üretebilir. Oluşturulan çıktının doğruluğunu artırmanın bir yolu, bilgi istemi metninizde bağlam olarak gerekli olguları sağlamaktır.
Örnek
Aşağıdaki bilgi istemi, bazı gerçeklerin oluşturulması için bağlamı içerir:
Aisha recently painted the kitchen yellow, which is her favorite color.
Aisha's favorite color is
Aisha, ortak ön eğitim veri setlerinde yer alan birçok çevrimiçi makalede en sevdiği renkten bahsedilmediği sürece, komut isteminin başında bağlam olmadan, hiçbir temel model, cümlenin sonunda doğru şekilde tamamlanmasını güvenilir bir şekilde oluşturamaz.
Olgu dolu bağlamı içeren bir metni içeren bir modeli sorarsanız, modelin ürettiği çıktının doğru olma olasılığı daha yüksektir. Daha fazla ayrıntı için bkz. Facgerçeği doğru çıktı oluşturma.
Alma-artırılmış oluşturma örüntüsü
Bilgi tabanındaki bilgileri kullanarak bilgi istemlerinize bağlam ekleme tekniğini yatay olarak ölçekleyebilirsiniz.
Aşağıdaki çizge, alma artırılmış oluşturma örüntüsünü göstermektedir. Çizge bir soru yanıtlama örneğini gösterse de, aynı iş akışı diğer kullanım senaryolarını destekler.
Alma artırılmış oluşturma örüntüsü aşağıdaki adımları içerir:
- Bilgi tabanında kullanıcının girişiyle ilgili içeriği arayın.
- En uygun arama sonuçlarını bağlam olarak bilgi isteminize alın ve "Aşağıdaki soruyu yalnızca aşağıdaki bölümlerden gelen bilgileri kullanarak yanıtlayın" gibi bir yönerge ekleyin.
- Kullandığınız temel model yönerge ayarlı değilse: Beklenen giriş ve çıkış biçimini gösteren birkaç örnek ekleyin.
- Çıkış oluşturmak için modele birleşik bilgi istemi metnini gönderin.
Alma-artırılmış oluşturma kaynağı
retrieval-augmented generation (RAG) terimi şu belgede kullanılmıştır: Bilgi yoğunluklu NLP görevleri için artırılmış nesil.
"Parametrik belleğin önceden eğitilmiş seq2seq transformatörü olduğu ve parametrik olmayan belleğin, önceden eğitilmiş bir sinirsel alıcısı ile erişilen Wikipedia 'nın yoğun bir vektör endeksidir."
Bu belgede "RAG modelleri" terimi, alıcının (belirli bir sorgu kodlayıcı ve vektör tabanlı belge arama dizini) ve oluşturucunun (belirli bir önceden eğitilmiş, üretken dil modeli) belirli bir uygulamasını ifade eder. Ancak, temel arama ve oluşturma yaklaşımı farklı alıcı bileşenleri ve temel modelleri kullanmak için genelleştirilebilir.
Bilgi bankası
Bilgi tabanı, aşağıdakiler gibi bilgi içeren yapay nesnelerin herhangi bir derlemi olabilir:
- Şirket içi viki sayfalarındaki bilgileri işle
- GitHub ' daki dosyalar (herhangi bir biçimde: Markdown, düz metin, JSON, kod)
- İşbirliği aracındaki iletiler
- Ürün belgelerindeki konular
- Db2 gibi bir veritabanındaki metin geçişlerinde
- PDF dosyalarındaki yasal sözleşmeler derlemesi
- Bir içerik yönetimi sistemindeki müşteri desteği bildirim kayıtları
Alıcı
Alıcı, bilgi tabanından güvenilir bir şekilde ilgili içeriği döndüren arama ve içerik araçlarının herhangi bir birleşimi olabilir:
- IBM Watson Discovery gibi arama araçları
- Arama ve içerik API 'leri (GitHub ' da buna benzer API ' ler var; örneğin)
- Vektör veritabanları (örneğin, chromadb)
Oluşturucu
Üreteç bileşeni, watsonx.aiiçindeki herhangi bir modeli kullanabilir; bunlardan hangisi kullanım senaryoya, bilgi istemi biçimine ve bağlam için çekmekte olduğunuz içeriğe uygunsa.
Örnekler
Aşağıdaki örnekler, alma artırılmış oluşturma örüntüsünün uygulanmasını göstermektedir.
| Örnek | Açıklama | Bağlantı Oluştur |
|---|---|---|
| Basit giriş | Bu örnek not defteri, temel örüntüyü göstermek için küçük bir bilgi tabanı ve basit bir arama bileşeni kullanır. | Alma-artırılmış oluşturmaya giriş |
| Gerçek dünya örneği | watsonx.ai belgelerinde, belgelerdeki konuları bilgi tabanı olarak kullanarak temel sorulara yanıt verebilen bir arama ve yanıt özelliği vardır. | Temel model kullanılarak watsonx.ai sorularının yanıtlanması |
| LangChain Ile Örnek | Bu örnek not defteri, watsonx.aiiçinde LangChain ile alma-augumentli oluşturma desteğini gösteren adımları ve kodu içerir. Veri alma, bilgi tabanı oluşturma, sorgulama ve model testi için komutlar sunar. | RAG kullanarak soruları yanıtlamak için watsonx ve LangChain kullanın |
| LangChain ve Elasticsearch vektör veritabanı örneği | Bu örnek not defterinde, Elasticsearch vektör veritabanındaki belgelere gömme modeli uygulamak için LangChain ' in nasıl kullanılacağı gösterilmektedir. Not defteri daha sonra, gelen sorulara yanıt oluşturmak için veri deposunu dizinler ve kullanır. | Sorulara yanıt vermek için watsonx, Elasticsearchve LangChain kullanın (RAG) |
| Elasticsearch Python SDK ile ilgili örnek | Bu örnek not defterinde, Elasticsearch vektör veritabanındaki belgelere bir gömme modeli uygulamak için Elasticsearch Python SDK ' nın nasıl kullanılacağı gösterilmektedir. Not defteri daha sonra, gelen sorulara yanıt oluşturmak için veri deposunu dizinler ve kullanır. | Sorulara yanıt vermek için watsonxve Elasticsearch Python SDK kullanın (RAG) |
Daha fazla bilgi
Şu öğretici programları deneyin:
- Bilgi İstemi Laboratuvarı kullanarak temel modelden bilgi isteminde bulun
- Alma artırılmış oluşturma kalıbıyla bir temel modelden bilgi isteminde bulun
Üst konu: Foundation modelleri