Durante su ponencia sobre IA híbrida, Luis Estrugo, account executive de Dell Technologies, explicó cómo la evolución de los modelos de lenguaje hacia soluciones RAG y agentes amplía las posibilidades de la inteligencia artificial, pero también aumenta las necesidades de contexto, memoria, capacidad de cómputo y orquestación. Señaló que, “a medida que los sistemas pasan de responder preguntas a ejecutar tareas y utilizar herramientas, resulta esencial diseñar bien la arquitectura que los sostiene”.
También destacó que la IA no tiene por qué ejecutarse en un único entorno: la nube, el centro de datos y los dispositivos de usuario pueden complementarse. “La decisión sobre dónde ejecutar cada carga depende de factores como la sensibilidad de los datos, la latencia, el coste y el nivel de control requerido; así, las empresas pueden reservar la nube para necesidades de escala y aprovechar la ejecución local cuando priman la privacidad y la respuesta inmediata”, afirmó.
Por último, presentó una demostración de un caso de uso de IA híbrida que combinó un AI PC, una workstation Dell Pro Max con GB10 y la nube para ilustrar cómo se pueden distribuir distintas tareas entre recursos locales y remotos. La demo mostró un ejemplo de enrutamiento basado en palabras clave y sirvió para explicar el valor de combinar capacidad local y escalabilidad, sin plantearlo como una solución comercial de Dell.
Javier Ridruejo, Director General de la DG para la Sociedad Digital del Gobierno de La Rioja, destacó cómo esta IA híbrida puede ayudar a las pymes y autónomos de La Rioja a controlar los costes de la IA. Afirmó que “queremos que tengan unos costes comedidos en cuanto a lo que son las soluciones en la nube, que pueden dispararse de precio según lo que hagan”.
Destacó que “hemos estado viendo posibles soluciones, configuraciones que tenía de despliegues de IA local, que pueden ser hibridados en conjunto con cargas que puedan luego desbordarse a la nube. Muchas veces estos pequeños modelos de lenguaje pueden correr en un entorno local y controlado, con un coste fijo medido, pero que sí para ciertos tipos de cargas de trabajo, que tú puedes definir cuáles son, pueden desbordarse luego a modelos más complejos que estén en la nube de los fabricantes de IA que hay actualmente”.
