Die von IBM bereitgestellten Branchenbeschleuniger sind eine Reihe von End-to-End-Lösungen, die Sie als Beispiele verwenden oder an gängige Geschäftsprobleme anpassen können.
Übersicht über branchenspezifische Akzeleratoren
Ein Branchenbeschleuniger soll Ihnen helfen, ein bestimmtes Geschäftsproblem mit einer generativen KI-Lösung zu lösen. Durchsuchen Sie die Beschleuniger im Ressourcenzentrum und erstellen Sie die gewünschten.
Ein Accelerator besteht aus einem Beispielprojekt, das alles enthält, was Sie für die Erstellung einer generischen KI-Lösung benötigen. Das Beispielprojekt kann Datenbestände, Jupyter-Notizbücher, Skripte, Jobs und Parametersätze enthalten.
Prozessübersicht
Jeder Akzelerator enthält detaillierte Anweisungen. Die folgenden Schritte geben einen Überblick über den Prozess für Beispielprojekte:
Um mit einem Beschleuniger zu beginnen:
- Gehen Sie zum Beispielprojekt im Ressourcenzentrum. Sie können die Beispiele im Ressourcenzentrum filtern, um alle Projekte oder Branchenbeschleuniger anzuzeigen.
- Klicken Sie auf "Projekt erstellen" und führen Sie die Schritte zum Erstellen des Projekts aus.
- Folgen Sie den Anweisungen, um die Notebooks zu starten und andere Aufgaben zu erledigen.
Fragen und Antworten mit RAG Accelerator
Probieren Sie die Fragen und Antworten mit RAG Accelerator aus, um eine durch Abruf ergänzte Generation (RAG) einzurichten, die eine sachlich korrekte Ausgabe generiert, die auf Informationen aus bereitgestellten Dokumenten basiert. Sie müssen watsonx angemeldet sein, um auf den Beschleuniger im Ressourcenzentrum zugreifen zu können.
Die Fragen und Antworten mit RAG Accelerator bieten ein fortgeschrittenes RAG-Muster und eine Implementierung, die die folgenden Prozesse umfasst:
- Dokumentenverarbeitung : Konvertierung, Verarbeitung und Indexierung von Dokumenten zur Erstellung eines Vektorindex.
- Antwortgenerierung : Beantwortung von Fragen durch abrufgestützte Generierung auf der Grundlage von Vektorsuchergebnissen.
- Protokollierung von Eingabe/Ausgabe : Die Protokollierung von Fragen, abgerufenen Blöcken und Metadaten sowie Antworten in einem sekundären Protokollindex.
- Sammlung von Benutzerfeedback : Das Benutzerfeedback wird an die entsprechenden Eingabe-/Ausgabeprotokolleinträge angehängt.
- Inhaltsanalyse : Ein Bericht über den spezifischen Inhalt, der verbessert werden muss, um Antworten zu verbessern, die negatives Nutzerfeedback erhalten haben.
- Eingreifen durch den Menschen : Die Ermittlung der besten Experten zur Beantwortung unbefriedigender Antworten mithilfe eines Vektorindex mit Expertenprofilen.
Die folgende Grafik zeigt, dass die Prozesse der Q&A mit RAG Accelerator zyklisch sind, sodass der Dokumentinhalt basierend auf dem Feedback der Benutzer aktualisiert wird.
Dokumentenbearbeitung
Ein Notizbuch für die Dokumentenverarbeitung und -indexierung automatisiert die Konvertierung, Aufteilung und Indexierung von Dokumenten in einem Vektorindex in einer dieser Vektordatenbanken:
- watsonx.data Milvus
- watsonx mit Elastic Search Enterprise oder IBM Cloud Databases for Elasticsearch.
Die Beispieldokumentensammlung, die vektorisiert werden soll, ist eine Version dieser Dokumentation watsonx as a Service, die in einer ZIP-Datei gespeichert ist. Sie können das Notebook so anpassen, dass vorhandene Vektorindizes ausgeführt werden, die Sie außerhalb von watsonx mit anderen Tools erstellt haben, z. B. Elastic Connectors und Pipelines, Spark-Pipelines oder Ihre eigenen Prozesse.
Antwortgenerierung
Das Notebook für die Q&A Python Funktion definiert den Python Funktionscode und automatisiert seine Bereitstellung mit einem genau definierten URL Suffix in einem Bereitstellungsbereich. Die Q&A mit Python wird durch Parametersätze konfiguriert. Die Funktion nimmt eine Frage als Eingabe und fragt den Vektorindex ab, um die relevantesten Blöcke für die Beantwortung der Frage und die Block-Metadaten, einschließlich Links zu Quelldokumenten, abzurufen. Die Funktion fügt die relevantesten Textbausteine zur konfigurierten Eingabeaufforderungsvorlage hinzu und gibt die generierte Antwort, die berechnete Treue-Bewertung und die abgerufenen Textbausteine mit Metadaten zurück.
Protokollierung von Ein- und Ausgaben
Für jeden Aufruf der Q&A-Funktion mit Python können Sie die Protokollierung des Eingabe- und Ausgabetextes aktivieren. Alle personenbezogenen Daten werden vor der Protokollierung entfernt. Der Protokollindex ist vom Vektorindex für die Dokumente in der Vektordatenbank getrennt.
Wenn die Eingabe-/Ausgabe-Protokollierung aktiv ist, können Sie Vorschläge zur Vervollständigung von Fragen aktivieren, wenn Benutzer ihre Fragen eingeben. Wenn der Benutzer eine Vervollständigung auf der Grundlage einer kürzlich beantworteten Frage akzeptiert, wird die Antwort aus dem Protokollindex abgerufen, was Zeit spart und die Kosten für die GPU-Inferenz und den Abruf senkt.
Sammlung von Nutzerfeedback
Das Feedback der Benutzer hilft den Beteiligten zu verstehen, wie gut die Lösung für ihre Benutzer funktioniert, welche Dokumentthemen für die Benutzer von Interesse sind und wie gut die Lösung Fragen auf der Grundlage des Inhalts beantwortet. Sie können die Anwendung so konfigurieren, dass die Q&A-Funktion mit Python erneut aufgerufen wird, um Feedback der Benutzer zur Antwort zu sammeln. Das Feedback der Benutzer in Form einer Zufriedenheitsbewertung und eines optionalen Kommentars wird dann zur späteren Analyse an den Q&A-Protokolldatensatz angehängt.
Inhaltsanalyse
Sie können das Notebook für die Analyse von Benutzerfeedback konfigurieren und es direkt oder als Auftrag ausführen. Das Notizbuch fragt die Protokolldaten für das angegebene Zeitintervall oder die Start- und Enddaten ab. Das Notizbuch lädt die Protokolldaten in einen Datenrahmen und verwendet die unüberwachte Themenerkennung von BERTopic oder Watson, um zu ermitteln, welche Dokumentthemen am häufigsten abgerufen wurden, um Antworten zu generieren. Das Notizbuch analysiert und visualisiert die Benutzerzufriedenheit nach Themen und enthält die Fragen, Antworten und Benutzerkommentare zu Antworten mit niedriger Bewertung. Auf der Grundlage dieser Erkenntnisse können Interessenvertreter und Eigentümer von Wissensinhalten Verbesserungen der Inhalte vorantreiben, die zu besseren Antworten führen.
Menschliches Eingreifen
Wenn ein Benutzer mit einer Antwort nicht zufrieden ist, können Sie die Anwendung so konfigurieren, dass ein Experte kontaktiert wird, der eine bessere Antwort geben kann. Sie können das Notebook für die Erstellung von Expertenprofilen so konfigurieren, dass Expertenprofildokumente verarbeitet und auf der Grundlage dieser Informationen ein Index erstellt wird. Die Anwendung kann beispielsweise die Frage an den Experten weiterleiten, die Antwort des Experten an den Benutzer senden und den Eigentümer der Wissensdatenbank auf eine mögliche Verbesserung des Inhalts hinweisen.
Übergeordnetes Thema: Einführung