Réglage des modèles de fondation
Personnalisez les modèles de base pour obtenir de meilleurs résultats dans les tâches qui répondent aux besoins spécifiques de votre entreprise.
Les modèles de base sont des modèles d'IA qui sont pré-entraînés sur des téraoctets de données provenant d'Internet et d'autres ressources publiques. Ils sont inégalés dans leur capacité à prédire le prochain meilleur mot et à générer du langage. Si la génération de langage peut être utile pour le brainstorming et stimuler la créativité, les modèles de base doivent généralement être guidés pour accomplir des tâches concrètes. L'ajustement des modèles et d'autres techniques, telles que la génération augmentée par récupération, vous aident à utiliser les modèles de base de manière pertinente pour votre entreprise.
Avec l' Tuning Studio, vous pouvez affiner un modèle de base plus petit pour améliorer ses performances sur des tâches de traitement du langage naturel telles que la classification, la synthèse et la génération. Le réglage peut aider un modèle de fondation plus petit à obtenir des résultats comparables à ceux de modèles plus grands de la même famille de modèles. En optimisant et en déployant le modèle le plus petit, vous pouvez réduire les coûts d'inférence à long terme.
Tout comme l'ingénierie rapide, le réglage d'un modèle de base vous aide à influencer le contenu et le format de la sortie du modèle de base. Il est essentiel de savoir à quoi s'attendre d'un modèle de base si vous souhaitez intégrer l'étape d'inférence d'un modèle de base dans un flux de travail métier.
Le diagramme suivant illustre comment le réglage d'un modèle de base peut vous aider à guider le modèle pour générer des résultats utiles. Vous fournissez des données étiquetées qui peuvent inclure des informations propriétaires inconnues du modèle de base et qui illustrent le format et le type de sortie que vous souhaitez que le modèle renvoie. Vos exemples donnent au modèle de base un schéma à suivre et à appliquer aux futures productions.
Au lieu de généraliser dans des tâches traditionnelles telles que la traduction de texte et la génération de texte ou de réponses, après avoir ajusté un modèle de base, le résultat est davantage adapté à vos besoins.
- Le texte ou les réponses générés peuvent suivre un style spécifique
- Le modèle ajusté peut résumer ou extraire les informations de la manière que vous souhaitez
- Avec des invites beaucoup plus petites, le modèle optimisé peut classer le texte efficacement
Pour en savoir plus sur le moment où l'ajustement d'un modèle est la bonne approche, voir Quand ajuster un modèle de base.
Modes de travail
Watsonx.ai vous offre plusieurs façons de personnaliser les modèles de fondations, notamment :
- Tuning Studio : Outil d'interface utilisateur graphique pour le réglage d'un modèle de fondation
- Modélisation avec code : méthodes programmatiques pour la modélisation d'un modèle de fondation
Flux de travaux
Quelle que soit la méthode choisie, le processus de réglage d'un modèle de base reste le même. Le réglage d'un modèle de fondation implique les tâches suivantes :
L'ingénieur vous indique les travaux qui conviennent au modèle que vous souhaitez utiliser.
Le réglage ne signifie pas que vous pouvez ignorer complètement l'ingénierie rapide. L'expérimentation est nécessaire pour trouver le modèle de base adapté à votre cas d'utilisation. Faites des essais jusqu'à ce que vous compreniez quels formats d'invite offrent le plus de chances d'obtenir de bons résultats du modèle. Vous pouvez utiliser le site Prompt Lab pour soumettre des requêtes de test. Pour obtenir de l'aide, consultez Prompt Lab.
Trouvez le modèle de fondation le plus grand qui convient le mieux à la tâche.
Créer des données de formation à utiliser pour le réglage des modèles.
Créer une expérience de réglage pour régler le modèle.
Évaluer le modèle ajusté.
Si nécessaire, modifiez les données de formation ou les paramètres de l'expérience et réalisez d'autres expériences jusqu'à ce que vous soyez satisfait des résultats.
Déployer le modèle ajusté.
Soumettre des demandes d'inférence au modèle optimisé.
Coûts de mise au point du modèle de base
Le coût du réglage d'un modèle de fondation est mesuré en heures-unité de capacité, qui mesure la consommation de ressources de calcul de l'expérience de réglage. Pour plus d'informations, voir Mesure des heures-unités de capacité.
Le coût de l'inférence d'un modèle accordé est mesuré en unités de ressources. Le tarif dépend de la classe de facturation du modèle. Un modèle de base rapidement optimisé a la même classe de facturation que le modèle de base qu'il optimise. Pour plus d'informations, voir Comptabilisation des unités de ressources.
En savoir plus
Premiers pas
- Démarrage rapide : Régler un modèle de base
- Cahier d'échantillons : Tune a model to classify CFPB documents in watsonx
- Carnet d'échantillons : réglage rapide pour la classification multi-classes avec watsonx
Sujet parent : Développer des solutions d'IA générative