Sintonizar un ' foundation model ' con el ' Tuning Studio ' para guiar a una IA ' foundation model ' para devolver una salida útil.
- Permisos necesarios
Para ejecutar experimentos de ajuste, debe tener el rol Admin o Editor en un proyecto.
Tuning Studio no está disponible con todos los planes o en todos los centros de datos. Consulte los planes dewatsonx.ai Runtime y la disponibilidad regional para conocer los servicios y las funciones.
- Credenciales requeridas
- Formato de los datos
Tabular: JSON, JSONL
- Tamaño de datos
- 50 a 10.000 pares de ejemplo de entrada y salida. El tamaño máximo de archivo es de 200 MB.
Utilice Tuning Studio para crear una versión ajustada de un foundation model existente.
Vea un vídeo que explica cuándo y por qué afinar un foundation model.
Este vídeo proporciona un método visual para aprender los conceptos y las tareas de esta documentación.
Los modelos de base son modelos de IA que se entrenan previamente en terabytes de datos de todo Internet y otros recursos públicos. Son inigualables en su capacidad de predecir la siguiente mejor palabra y generar lenguaje. Si bien la generación de lenguaje puede ser útil para hacer una lluvia de ideas y estimular la creatividad, los modelos de base normalmente necesitan ser guiados para lograr tareas concretas. El ajuste de modelos y otras técnicas, como la generación aumentada de recuperación, le ayudan a utilizar modelos de base de forma significativa para su empresa.
Con Tuning Studio Studio, puede ajustar un foundation model más pequeño para mejorar su rendimiento en tareas de procesamiento del lenguaje natural como la clasificación, el resumen y la generación. El ajuste puede ayudar a un foundation model más pequeño a lograr resultados comparables a los de modelos más grandes de la misma familia de modelos. Al ajustar y desplegar el modelo más pequeño, puede reducir los costes de inferencia a largo plazo.
Al igual que ocurre con la ingeniería, el ajuste de un foundation model foundation model imentación permite influir en el contenido y el formato de los resultados. Saber qué esperar de un " foundation model " es esencial si se quiere introducir el paso de inferir un " foundation model " en un flujo de trabajo empresarial.
El siguiente diagrama ilustra cómo afinar un foundation model puede ayudarle a guiar el modelo para que genere resultados útiles. Usted proporciona datos etiquetados que pueden incluir información privada desconocida para el foundation model y que ilustran el formato y el tipo de salida que desea que devuelva el modelo. Sus ejemplos dan al foundation model fundación un patrón que seguir y aplicar a la producción futura.
En lugar de generalizar en tareas tradicionales como la traducción de textos y la generación de textos o respuestas, después de ajustar un foundation model, el resultado se adapta más a sus necesidades.
- El texto o las respuestas generadas pueden seguir un estilo específico
- El modelo ajustado puede resumir o extraer información de la forma que desee
- Con solicitudes mucho más pequeñas, el modelo ajustado puede clasificar el texto de forma eficaz
Para saber más sobre cuándo es adecuado ajustar un modelo, consulte Cuándo ajustar un foundation model.
Flujo de trabajo
El ajuste de un foundation model implica las siguientes tareas:
Las solicitudes de ingeniería que funcionan bien con el modelo que desea utilizar.
Tuning no significa que pueda saltarse por completo la ingeniería rápida. La experimentación es necesaria para encontrar el foundation model adecuado para su caso de uso. Experimente hasta que comprenda qué formatos de solicitud muestran el mayor potencial para obtener buenos resultados del modelo. Puede utilizar el Prompt Lab para enviar preguntas de prueba. Para obtener ayuda, consulte Prompt Lab.
Encuentre el foundation model más grande que mejor se adapte a la tarea.
Cree datos de entrenamiento para utilizarlos para el ajuste de modelos.
Cree un experimento de ajuste para ajustar el modelo.
Evalúe el modelo ajustado.
Si es necesario, cambie los datos de entrenamiento o los parámetros del experimento y ejecute más experimentos hasta que esté satisfecho con los resultados.
Despliegue el modelo ajustado.
Enviar solicitudes de inferencia al modelo ajustado.
Costes de ajuste del modelo de base
El coste del ajuste de un foundation model se mide en horas de unidad de capacidad, que mide el consumo de recursos informáticos del experimento de ajuste. Para obtener más información, consulte Medición de horas de unidad de capacidad.
El coste de inferir un modelo ajustado se mide en unidades de recurso. La tarifa depende de la clase de facturación del modelo. Un " foundation model " sintonizado tiene la misma clase de facturación que el " foundation model " que sintoniza. Para obtener más información, consulte Calibración de unidad de recurso.
Más información
Cómo empezar
- Inicio rápido: Ajuste de un foundation model
- Cuaderno de ejemplo: Ajuste de un modelo para clasificar documentos CFPB en watsonx
- Cuaderno de ejemplo: Ajuste rápido de la clasificación de múltiples clases con watsonx
Tema principal: Desarrollo de soluciones de IA generativas