Red Hat con presencia en Colombia desde hace más de 10 años, anunció acuerdo definitivo para adquirir Neural Magic, empresa pionera en software y algoritmos que aceleran las cargas de trabajo de inferencia de la Inteligencia Artificial Generativa (IAG).

La experiencia de Neural Magic en ingeniería de rendimiento de inferencia y su compromiso con el código abierto, se identifican con la visión de Red Hat de lograr cargas de trabajo de IA de alto rendimiento que correspondan directamente con casos de uso y datos específicos de los clientes en cualquier lugar de la nube híbrida.

“El código abierto ha demostrado en repetidas ocasiones que impulsa la innovación a través del poder de la colaboración de la comunidad. En Neural Magic, hemos armado un equipo con algunos de los mejores talentos del sector en ingeniería de rendimiento de IA con la única misión de crear capacidades de servicio de modelos de lenguaje de gran tamaño (LLM) abiertos, ultraeficientes y multiplataforma. Sumarnos a Red Hat no es solo una coincidencia a nivel cultural, sino que además beneficiará a empresas grandes y pequeñas en sus procesos de transformación de la IA“, expresó Brian Stevens, CEO, Neural Magic.

Si bien la promesa de la IA generativa domina gran parte del panorama tecnológico actual, los modelos de lenguaje de gran tamaño (LLM) siguen creciendo en volumen, lo que requiere una gran potencia informática, recursos energéticos y habilidades operativas especializadas. Estos desafíos hacen que el acceso a servicios de IA personalizados y seguros este fuera del alcance de muchas empresas.

Red Hat busca resolver estas dificultades y democratizar el acceso a la IA generativa mediante la innovación abierta de vLLM, un proyecto open source de UC Berkeley que admite todas las familias de modelos clave, aceleración de inferencia y diversos back-ends de hardware como GPU de AMD, AWS Neuron, TPU de Google, entre otros.

La combinación del liderazgo de Neural Magic en vLLM y el portfolio de tecnologías de IA en la nube híbrida de Red Hat permitirá a las organizaciones desarrollar estrategias de IA adaptadas a sus necesidades específicas, sin importar dónde estén sus datos. Esto brindará una opción abierta y accesible para implementar IA generativa de forma rentable y confiable.

“Las cargas de trabajo de la IA deben poder ejecutarse dondequiera que residan los datos de los clientes en la nube híbrida. Esto hace que las plataformas y herramientas abiertas, flexibles y estandarizadas sean una necesidad, ya que permiten que las organizaciones seleccionen los entornos, los recursos y las arquitecturas que mejor se adecuen a sus necesidades operativas y de datos particulares. Estamos encantados de complementar nuestro portafolio de IA orientado a la nube híbrida con la revolucionaria innovación en IA de Neural Magic, que refuerza nuestro objetivo de ser no solo el ‘Red Hat’ del open source, sino también el ‘Red Hat’ de la IA”, compartió  Matt Hicks, presidente y CEO, Red Hat.

Con esta adquisición, Red Hat amplía su oferta de soluciones de IA, proporcionando a los clientes herramientas y plataformas para desarrollar, entrenar y desplegar modelos de aprendizaje automático de manera más eficiente.  Entre estas soluciones se encuentran Red Hat Enterprise Linux AI, Red Hat OpenShift AI e InstructLab. Estas plataformas permiten a las organizaciones aprovechar el poder de los LLM para crear aplicaciones de IA innovadoras, reduciendo al mismo tiempo los costos y la complejidad asociados con el desarrollo de IA.