La empresa OpenAI está insatisfecha con algunos de los chips de inteligencia artificial más recientes de Nvidia y ha buscado alternativas desde el año pasado, dijeron ocho fuentes familiarizadas con el asunto, lo que podría complicar la relación entre dos de los actores más visibles del auge de la IA.
El cambio de estrategia del creador de ChatGPT, cuyos detalles se informan aquí por primera vez, se debe a un énfasis creciente en los chips utilizados para realizar elementos específicos de la inferencia de IA, el proceso mediante el cual un modelo de IA —como el que impulsa la aplicación ChatGPT— responde a las consultas y solicitudes de los usuarios. Nvidia sigue siendo dominante en chips para entrenar grandes modelos de IA, mientras que la inferencia se ha convertido en un nuevo frente de competencia.
Esta decisión de OpenAI y otras empresas de buscar alternativas en el mercado de chips de inferencia representa una prueba significativa para el dominio de Nvidia en IA y se produce mientras ambas compañías mantienen conversaciones de inversión.
En septiembre, Nvidia dijo que tenía la intención de invertir hasta 100,000 millones de dólares en OpenAI como parte de un acuerdo que le daría al fabricante de chips una participación en la startup y le proporcionaría a OpenAI el efectivo necesario para comprar chips avanzados.
Se esperaba que el acuerdo se cerrara en cuestión de semanas, informó Reuters. En cambio, las negociaciones se han prolongado durante meses. Durante ese tiempo, OpenAI ha cerrado acuerdos con AMD y otros para obtener GPU diseñadas para competir con las de Nvidia. Pero su hoja de ruta de productos en evolución también ha cambiado el tipo de recursos computacionales que requiere y ha complicado las conversaciones con Nvidia, dijo una persona familiarizada con el asunto.
El sábado, el CEO de Nvidia, Jensen Huang, restó importancia a un informe sobre tensiones con OpenAI, diciendo que la idea era un “sinsentido” y que Nvidia planeaba una gran inversión en OpenAI.
“Los clientes continúan eligiendo a NVIDIA para inferencia porque ofrecemos el mejor rendimiento y el mejor costo total de propiedad a escala”, dijo Nvidia en un comunicado.
Un portavoz de OpenAI dijo en un comunicado separado que la empresa depende de Nvidia para alimentar la gran mayoría de su flota de inferencia y que Nvidia ofrece el mejor rendimiento por dólar para inferencia.
Siete fuentes dijeron que OpenAI no está satisfecha con la velocidad con la que el hardware de Nvidia puede generar respuestas para los usuarios de ChatGPT en ciertos tipos de problemas, como el desarrollo de software y la comunicación de la IA con otros programas. Necesita nuevo hardware que eventualmente cubriría alrededor del 10% de las necesidades de computación de inferencia de OpenAI en el futuro, dijo una de las fuentes a Reuters.
El creador de ChatGPT ha discutido trabajar con startups como Cerebras y Groq para proporcionar chips que permitan una inferencia más rápida, dijeron dos fuentes. Pero Nvidia cerró un acuerdo de licenciamiento por 20,000 millones de dólares con Groq que frenó las conversaciones de OpenAI, según una de las fuentes.
La decisión de Nvidia de asegurar un acuerdo con Groq pareció un esfuerzo por reforzar un portafolio tecnológico para competir mejor en una industria de IA que cambia rápidamente, dijeron ejecutivos del sector de chips. Nvidia dijo en un comunicado que la propiedad intelectual de Groq era altamente complementaria a la hoja de ruta de productos de Nvidia.
Alternativas a Nvidia
Los chips de procesamiento gráfico de Nvidia son muy adecuados para el enorme procesamiento de datos necesario para entrenar grandes modelos de IA como ChatGPT, que han sustentado el crecimiento explosivo de la IA a nivel mundial hasta ahora. Pero los avances en IA se centran cada vez más en el uso de modelos ya entrenados para inferencia y razonamiento, lo que podría convertirse en una nueva y más grande etapa de la IA, impulsando los esfuerzos de OpenAI.
La búsqueda de alternativas a las GPU por parte de OpenAI desde el año pasado se ha centrado en empresas que construyen chips con grandes cantidades de memoria integradas en la misma pieza de silicio que el resto del chip, conocida como SRAM. Integrar la mayor cantidad posible de la costosa SRAM en cada chip puede ofrecer ventajas de velocidad para chatbots y otros sistemas de IA que procesan solicitudes de millones de usuarios.
La inferencia requiere más memoria que el entrenamiento porque el chip necesita pasar relativamente más tiempo obteniendo datos de la memoria que realizando operaciones matemáticas. La tecnología de GPU de Nvidia y AMD depende de memoria externa, lo que añade tiempo de procesamiento y ralentiza la rapidez con la que los usuarios pueden interactuar con un chatbot.
Dentro de OpenAI, el problema se volvió especialmente visible en Codex, su producto para crear código informático, que la empresa ha estado comercializando de forma agresiva, añadió una de las fuentes. El personal de OpenAI atribuyó parte de las debilidades de Codex al hardware basado en GPU de Nvidia, dijo una fuente.
En una llamada con periodistas el 30 de enero, el CEO Sam Altman dijo que los clientes que usan los modelos de programación de OpenAI “pondrán un gran énfasis en la velocidad para el trabajo de codificación”.
Una forma en que OpenAI satisfará esa demanda es a través de su reciente acuerdo con Cerebras, dijo Altman, y agregó que la velocidad es menos crucial para los usuarios ocasionales de ChatGPT.
Productos competidores como Claude de Anthropic y Gemini de Google se benefician de implementaciones que dependen más de chips desarrollados internamente por Google, llamados unidades de procesamiento tensorial (TPU), que están diseñadas para el tipo de cálculos necesarios para la inferencia y pueden ofrecer ventajas de rendimiento frente a chips de IA de propósito general como las GPU diseñadas por Nvidia.
Nvidia en movimiento
A medida que OpenAI dejaba claras sus reservas sobre la tecnología de Nvidia, Nvidia se acercó a empresas que trabajan en chips con alta carga de SRAM, incluidas Cerebras y Groq, para explorar una posible adquisición, dijeron las fuentes. Cerebras rechazó la oferta y firmó un acuerdo comercial con OpenAI anunciado el mes pasado. Cerebras declinó hacer comentarios.
Groq mantuvo conversaciones con OpenAI para un acuerdo que proporcionara capacidad de cómputo y recibió interés de inversores para financiar la empresa con una valoración de aproximadamente 14,000 millones de dólares, según personas familiarizadas con las discusiones. Groq declinó comentar.
Pero para diciembre, Nvidia se movió para licenciar la tecnología de Groq en un acuerdo no exclusivo y totalmente en efectivo, dijeron las fuentes. Aunque el acuerdo permitiría a otras empresas licenciar la tecnología de Groq, la compañía ahora se está enfocando en vender software basado en la nube, mientras Nvidia contrató a diseñadores de chips de Groq.
Con información de Reuters.
Sigue la información sobre los negocios y la actualidad en Forbes México
¿Te gusta informarte por Google News? Sigue nuestro Showcase para tener las mejores historias
