Infraestructura

Una infraestructura contiene un conjunto de algoritmos, herramientas y bibliotecas reutilizables para desarrollar modelos de aprendizaje automático sobre los que puede basarse para requisitos de aplicación específicos. Las infraestructuras describen la infraestructura de aprendizaje automático o de aprendizaje profundo que se utiliza para crear el modelo. Puede utilizar marcos populares como Tensorflow, que admite algoritmos de aprendizaje profundo y de aprendizaje automático tradicional con watsonx.ai Runtime para un desarrollo más eficiente.

Tipo de modelo

El tipo de modelo indica la infraestructura de aprendizaje automático o de aprendizaje profundo y la versión de infraestructura que se utiliza para crear el modelo de aprendizaje automático. Es posible que los modelos de aprendizaje automático o de aprendizaje profundo que cree utilizando la misma infraestructura no sean compatibles entre versiones. Por ejemplo, si ha creado el modelo con el tipo de modelo pytorch-onnx_1.10 , debe crear el modelo utilizando pytorch versión 1.10 y guardar el modelo en formato ONNX.

Especificación de software

Las especificaciones de software definen el lenguaje de programación y la versión que se utilizan para construir un modelo o una función. Puede utilizar especificaciones de software para configurar el software que se utiliza para ejecutar los modelos y las funciones. También puede definir la versión de software que se utilizará e incluir sus propias extensiones. Por ejemplo, puede utilizar archivos conda .yml o bibliotecas personalizadas.

Plataforma

La plataforma describe la plataforma de hardware en la que puede desplegar el modelo de aprendizaje automático con una especificación de software soportada. Dependiendo del framework con el que hayas construido tu modelo, puedes utilizar watsonx.ai Runtime para desplegar tu modelo en plataformas Zs390x), Power (PPC) o x86.

Ciclo de vida de las infraestructuras y especificaciones de software soportadas

Las infraestructuras, las especificaciones de software y los tipos de modelo soportados al instalar o actualizar a la última versión de watsonx pasan por fases de desuso, constricción y discontinuación en futuros releases de watsonx, que se describen a continuación:

1. Soportado: El entorno de ejecución correspondiente a la especificación de software está soportado al instalar o actualizar a la última versión de Cloud Pak for Data.

   Por ejemplo, la especificación de software ' runtime-24.1-py3.11 es compatible con Cloud Pak for Data versión 5.0 En este caso, si instala o actualiza a una nueva instancia del servicio watsonx.ai Runtime, puede crear o implementar modelos de aprendizaje automático que utilicen ' runtime-24.1-py3.11.

   Para obtener más información, consulte Infraestructuras de despliegue y especificaciones de software soportadas.

2. En desuso: el entorno de ejecución correspondiente a la especificación de software está soportado al instalar o actualizar a la última versión de watsonx.ai, pero se eliminará en un próximo release.

   Por ejemplo, el foundation model " mixtral-8x7b-instruct-v01-q " está preestablecido en watsonx.ai. En este caso, si instalas una nueva instancia del servicio watsonx.ai Runtime, puedes crear o desplegar modelos de aprendizaje automático que utilicen ' mixtral-8x7b-instruct-v01-q. Sin embargo, el soporte para mixtral-8x7b-instruct-v01-q se dejará de mantener en un próximo release.

3. Discontinuado: el entorno de ejecución correspondiente a la especificación de software no está soportado al instalar o actualizar a la última versión de watsonx.ai.

   Por ejemplo, el soporte para granite-13b-chat-v1 se ha dejado de mantener en watsonx.ai. En este caso, si instala o actualiza a una nueva instancia del servicio watsonx.ai Runtime, no podrá crear ni implementar modelos de aprendizaje automático que utilicen la especificación de software basada en Python 3.9.

Gestión de infraestructuras y especificaciones de software obsoletas

Actualice las especificaciones de software y las infraestructuras en los modelos cuando estén obsoletas. A veces, puede actualizar fácilmente los activos. En otros casos, debe volver a entrenar o volver a desplegar los activos.

Para obtener más información, consulte Gestión de especificaciones de software o infraestructuras obsoletas.

Tema principal: Despliegue de activos con watsonx.ai Runtime