Traducción no actualizada
Implantación de un modelo de base personalizado
creado: "2024-03-12 10:37:52 -0400" title: "Desplegando un modelo personalizado de foundation" fname: " analyze-data\deploy-custom-fm-cloud.liquid.md "
Puede cargar y desplegar un modelo de base personalizado para utilizarlo con las funciones de inferencia de watsonx.ai.
Además de trabajar con modelos de base curados por IBM, ahora puede desplegar sus propios modelos de base. Una vez desplegados los modelos, cree avisos que inferencien los modelos personalizados desde Prompt Lab.
La implantación de un modelo de base personalizado le proporciona la flexibilidad necesaria para implantar las soluciones de IA que mejor se adapten a su caso de uso.
Si utiliza un modelo de un proveedor externo, lo mejor es obtener el modelo directamente del creador del modelo. Un lugar donde encontrar nuevos modelos es Hugging Face, un repositorio de modelos de cimientos de código abierto utilizado por muchos creadores de modelos.
Vea en este vídeo cómo implantar un modelo de base personalizado.
Este vídeo proporciona un método visual para aprender los conceptos y tareas de esta documentación.
Importación de modelos de cimientos personalizados a un espacio de despliegue
El proceso de despliegue de un modelo de cimentación y su puesta a disposición para la inferencia incluye tareas realizadas por un ingeniero de ModelOps y un ingeniero de Prompt.
El ingeniero ModelOps debe subir primero el modelo al almacenamiento en la nube (ya sea interno o externo). Para desplegar un modelo de cimentación personalizado, el ingeniero de ModelOps debe crear o promover un activo de modelo de cimentación en el contexto del proyecto o espacio de despliegue.
Una vez desplegado el modelo en producción, el ingeniero de Prompt puede solicitar el modelo de cimentación personalizado desde la API Prompt Lab o watsonx.ai.
El siguiente gráfico representa un flujo de tareas que suelen realizar un ingeniero ModelOps y un ingeniero Prompt:
Preparación del modelo
Para preparar el modelo, el ingeniero ModelOps debe realizar las siguientes tareas:
Implantación de un modelo de base personalizado
Después de preparar el modelo, el ingeniero ModelOps debe realizar las siguientes tareas:
Promover el modelo de cimentación personalizado
Cuando se despliega el modelo, el ingeniero de Prompt puede comenzar a solicitar el modelo de cimentación personalizado desde la API Prompt Lab o watsonx.ai. Véase Utilización del modelo de base personalizado para generar la salida de aviso.
Próximos pasos
Más información
- Desarrollo de soluciones de IA generativa con modelos fundacionales (watsonx.ai)
- Tarifas de facturación para modelos de cimientos personalizados
Tema principal: Despliegue de los activos del modelo de la Fundación