Lernen Sie IBM -Basismodelle kennen, die dazu konzipiert sind, Wissen und Kenntnisse zu unterstützen, die von der Open-Source-Community beigetragen werden. Untersuchen Sie die Taxonomie eines foundation model, um Wissenslücken zu finden, die Sie durch das Einbringen von Fähigkeiten füllen können.
IBM watsonx.ai unterstützt Basismodelle, die eine neuartige Ausrichtungsoptimierungsmethode von IBM Research verwenden. Large-scale Alignment for chatBots, oder LAB, ist eine Methode, um neues Wissen und neue Fähigkeiten zu bestehenden Basismodellen hinzuzufügen, indem synthetische Daten für die neue Fähigkeit generiert werden, und dann die generierten Daten verwendet werden, um das foundation model zu optimieren.
Anstatt ein neues foundation model von Grund auf zu entwickeln oder ein abgeleitetes Modell mit Feinabstimmung zu erstellen, können Sie IntructLab verwenden, um ein bestehendes foundation model mit den für Ihren Anwendungsfall erforderlichen Funktionen zu erweitern.
Die folgenden Stiftungsmodelle unterstützen Gemeinschaftsbeiträge von InstructLab:
- granite-20b-multilingual
Weitere Informationen zu diesen Basismodellen finden Sie unter Unterstützte Basismodelle.
Kenntnisse und Fähigkeiten erkunden
Wenn ein foundation model mit Wissen und Fähigkeiten trainiert wird, die von der Open-Source-Gemeinschaft beigesteuert werden, ist eine Modell-Taxonomie-Seite für das Modell verfügbar. Die Taxonomie zeigt eine Hierarchie der Kenntnisse und Fähigkeiten, die zum foundation model beigetragen wurden, wobei jeder Endknoten eine beigetragene Fähigkeit darstellt.
Klicken Sie auf der Modellkarte für foundation model in Prompt Lab auf "Training taxonomy ", um die Kenntnisse und Fähigkeiten zu erkunden, die dem Modell mithilfe der LAB-Tuning-Methode hinzugefügt wurden.
- Ein Skill lehrt das Modell, etwas zu tun, wie zum Beispiel eine Werbe-E-Mail zu schreiben oder einen Bericht zusammenzufassen. Wenn Sie einen Skill beisteuern, geben Sie mindestens fünf Seedbeispiele an, die zum Generieren synthetischer Daten für das Training verwendet werden.
- Wissen ist die Daten und Fakten, die ein Modell benötigt, um Fragen genauer zu beantworten. Wenn Sie Wissen einbringen, stellen Sie Erdungsdaten und Frage-Antwort-Paare im Zusammenhang mit den Daten bereit.
Wenn eine Fähigkeit, die Sie für Ihren Anwendungsfall benötigen, nicht im foundation model vorhanden ist, erstellen Sie die Fähigkeit und tragen Sie sie bei.
Fähigkeiten beisteuern
Sie bringen Fähigkeiten in ein foundation model von InstructLab ein.
InstructLab ist eine Open-Source-Initiative von Red Hat und IBM, die eine Plattform zur Erweiterung der Fähigkeiten eines foundation model bietet.
Um loszulegen, treten Sie der InstructLab auf GitHub bei.
Workflow InstructLab
Der Workflow für die Erweiterung von Basismodellen aus InstructLab besteht aus den folgenden Schritten:
Community-Mitglieder experimentieren mit InstructLab-compatible Gründungsmodelle.
Wird ein verbesserungswürdiger Bereich ermittelt, kann das Gemeindemitglied neue Fähigkeiten für das foundation model einbringen.
Das foundation model wird mit Hilfe der LAB-Alignment-Tuning-Methode mit synthetischen Trainingsdaten abgestimmt, die aus Beispielen generiert werden, die vom Skill-Contributor bereitgestellt werden.
Nachdem ein beigetragener Skill genehmigt wurde, wird dieser Skill in einen neuen Build des foundation model integriert, der nun um benutzerdefinierte Skills erweitert wurde.
Weitere Informationen
- Red Hat: Was ist InstructLab?
- IBM Forschung: Eine schnellere, systematische Methode zum Trainieren großer Sprachmodelle für Unternehmen
- IBM Forschung: Was ist KI-Ausrichtung?
- Forschungspapier über LAB
Übergeordnetes Thema: Unterstützte Basismodelle