Automatisation d'un modèle RAG avec AutoAI

Estimation des coûts d'un modèle RAG

Copy link to section

AutoAI pour les expériences RAG, on utilise des unités d'heures de capacité (CUH) pour la formation de l'expérience et, pendant l'expérience, des jetons sont consommés pour l'intégration des documents et l'inférence des modèles de base.

• Le CUH est une mesure standard de 20 CUH par heure pour l'environnement pris en charge. Le nombre de CUH consommés pour une expérience dépend de la complexité de l'expérience et du temps nécessaire à l'apprentissage des modèles.
• La consommation de jetons dépend d'un certain nombre de facteurs, notamment
  • taille de la collection de documents à intégrer
  • nombre de questions d'évaluation et de réponses à intégrer
  • de la configuration du découpage, calculée à l'aide de la formule suivante : ((Chunk overlap + Chunk size) * Chunk count) *Evaluation records
  • le nombre de motifs créés par l'expérience

Cet exemple montre comment les ressources sont calculées pour un seul motif RAG.

Entrée de l'expérience :

• 100 pages de documents
• 25 dossiers de questions/réponses d'évaluation

Fournir des réponses précises grâce à la génération augmentée par la recherche d'informations

Copy link to section

La génération augmentée par la recherche (RAG) associe la puissance de génération d'un grand modèle linguistique à la précision d'une collection de documents de référence. L'interaction avec une application RAG suit ce modèle :

1. Un utilisateur soumet une question à l'application.
2. La recherche permet d'abord d'extraire le contexte pertinent à partir d'un ensemble de documents de base.
3. Le modèle linguistique étendu qui l'accompagne génère une réponse qui comprend les informations pertinentes.

Par exemple, les exemples de carnets de notes fournis pour cette fonctionnalité utilisent la documentation produit de la bibliothèque client Python de watsonx.ai comme documents de base pour une application de questions-réponses sur le codage des solutions watsonx.ai Les utilisateurs de patrons bénéficient d'informations spécifiques et pertinentes issues de la documentation, le modèle génératif d'IA ajoutant le contexte et présentant les réponses en langage naturel.

Pour une description complète et des exemples de la manière dont la génération augmentée par récupération peut améliorer vos applications de questions et réponses, voir Génération augmentée par récupération (RAG).

Automatiser la recherche de la meilleure configuration RAG

Copy link to section

RAG comporte de nombreux paramètres de configuration, notamment le choix d'un grand modèle linguistique, la manière de découper les documents de base et le nombre de documents à extraire. Les choix de configuration qui fonctionnent bien pour un autre cas d'utilisation peuvent ne pas être le meilleur choix pour vos données. Pour créer le meilleur modèle RAG possible pour votre ensemble de données, vous pouvez explorer toutes les combinaisons possibles d'options de configuration RAG afin de trouver, d'évaluer et de déployer la meilleure solution. Cette partie du processus peut nécessiter un investissement important en temps et en ressources. Tout comme vous pouvez utiliser AutoAI pour former et optimiser rapidement des modèles d'apprentissage automatique, vous pouvez utiliser les capacités AutoAI pour automatiser la recherche de la solution RAG optimale en fonction de vos données et de votre cas d'utilisation. L'accélération de l'expérimentation peut réduire considérablement le délai de production.

Les principales caractéristiques de l'approche AutoAI sont les suivantes :

• Exploration et évaluation complètes d'un ensemble contraint d'options de configuration .
• Réévaluer et modifier rapidement la configuration en cas de changement. Par exemple, vous pouvez facilement relancer le processus de formation lorsqu'un nouveau modèle est disponible ou lorsque les résultats de l'évaluation signalent un changement dans la qualité des réponses.

L'utilisation de AutoAI automatise le flux de bout en bout, de l'expérimentation au déploiement. Le diagramme suivant illustre l'approche de AutoAI pour trouver un modèle RAG optimisé pour vos données et votre cas d'utilisation en 3 couches :

• Au niveau de base, les pipelines RAG paramétrés sont utilisés pour alimenter un magasin de vecteurs (index) et pour extraire des données du magasin de vecteurs afin de les utiliser lorsque le modèle de langage étendu génère des réponses.
• Ensuite, les mesures d'évaluation du RAG et les outils d'étalonnage évaluent la qualité des réponses.
• Enfin, un algorithme d'optimisation hyperparamétrique recherche la meilleure configuration RAG possible pour vos données.

AutoAI Processus d'optimisation du RAG

Copy link to section

L'exécution d'expériences à l'aide de l'AutoAI RAG évite de tester toutes les options de configuration de RAG (par exemple, elle évite une recherche de grille) en utilisant un algorithme d'optimisation hyperparamétrique. Le diagramme suivant montre un sous-ensemble de l'espace de recherche de la configuration RAG avec 16 modèles RAG au choix. Si l'expérience les évalue toutes, elles sont classées de 1 à 16, les trois configurations les mieux classées étant considérées comme les plus performantes. L'algorithme d'optimisation détermine le sous-ensemble de motifs RAG à évaluer et arrête le traitement des autres, qui sont représentés en gris. Ce processus permet d'éviter d'explorer un espace de recherche exponentiel tout en sélectionnant les modèles RAG les plus performants dans la pratique.

Utiliser le chemin rapide pour automatiser la recherche d'un motif RAG

Copy link to section

AutoAI fournit une solution sans code pour automatiser la recherche d'un motif RAG. Pour utiliser la voie rapide, commencez par un projet et utilisez l'interface AutoAI pour télécharger vos documents de mise à la terre et de test. Accepter la configuration par défaut ou mettre à jour les paramètres de l'expérience. Lancez l'expérience pour créer les modèles RAG les mieux adaptés à votre cas d'utilisation.

Utiliser le SDK AutoAI pour coder un modèle RAG

Copy link to section

Utilisez les exemples de carnets pour apprendre à utiliser la bibliothèque client watsonx.ai Python (version 1.1.11 ou ultérieure) pour coder une solution RAG automatisée pour votre cas d'utilisation.

Mise à l'échelle d'une expérience RAG

Copy link to section

AutoAI automatise la recherche d'un modèle RAG optimisé sur la base de vos documents de mise à la terre. Si la base de connaissances de votre documentation dépasse les limites de données autorisées pour une expérience, vous pouvez toujours utiliser AutoAI pour trouver le modèle RAG, puis utiliser le carnet d'indexation généré automatiquement lorsque vous enregistrez un modèle pour indexer d'autres documents. Le modèle RAG s'appliquera à l'ensemble des documents indexés.

Pour plus de détails, voir Sauvegarde d'un motif RAG.

Fonctions prises en charge

Copy link to section

Examinez ces détails pour connaître les caractéristiques fournies par le processus RAG de AutoAI.

Etapes suivantes

Copy link to section

• Voir Choix d'un magasin vectoriel pour savoir où stocker vos documents vectorisés.
• Voir Création d'une expérience RAG (fastpath)

Thème parent: Codage de solutions d'IA générative