Puede cargar e implementar un foundation model personalizado para utilizarlo con las funciones de inferencia de watsonx.ai.
Además de trabajar con modelos de base curados por IBM, ahora puede desplegar sus propios modelos de base. Una vez desplegados los modelos, cree avisos que hagan inferencia en los modelos personalizados desde el Laboratorio de avisos.
La implantación de un foundation model personalizado le proporciona la flexibilidad necesaria para implantar las soluciones de IA que mejor se adapten a su caso de uso.
Si utiliza un modelo de un proveedor externo, lo mejor es obtener el modelo directamente del creador del modelo. Un lugar donde encontrar nuevos modelos es Hugging Face Face, un repositorio de modelos de cimientos de código abierto utilizado por muchos modelistas.
Vea en este vídeo cómo implantar un foundation model personalizado.
Este vídeo proporciona un método visual para aprender los conceptos y tareas de esta documentación.
Importación de modelos de cimientos personalizados a un espacio de despliegue
El proceso para desplegar un foundation model y hacerlo disponible para la inferencia incluye tareas que son realizadas por un ingeniero ModelOps, y un ingeniero de Prompt.
El ingeniero ModelOps debe subir primero el modelo al almacenamiento en la nube (ya sea interno o externo). Para desplegar un foundation model personalizado, el ingeniero ModelOps debe crear o promover un activo de foundation model en el contexto de proyecto o espacio de despliegue.
Después de que el modelo se despliega a la producción, el ingeniero de Prompt puede solicitar el foundation model personalizado desde el Laboratorio de Prompt o watsonx.ai API.
El siguiente gráfico representa un flujo de tareas que suelen realizar un ingeniero ModelOps y un ingeniero Prompt:
Preparación del modelo
Para preparar el modelo, el ingeniero ModelOps debe realizar las siguientes tareas:
Implantación de un foundation model personalizado
Después de preparar el modelo, el ingeniero ModelOps debe realizar las siguientes tareas:
Promover el foundation model personalizado
Cuando el modelo es desplegado, el ingeniero de Prompt puede comenzar a solicitar el foundation model personalizado desde el Prompt Lab o la API de watsonx.ai. Véase Utilización del foundation model personalizado para generar la salida de aviso.
Próximos pasos
Más información
- Desarrollo de soluciones de IA generativa con modelos fundacionales (watsonx.ai)
- Tarifas de facturación para modelos de cimientos personalizados
Tema principal: Despliegue de los activos foundation model