OpenAI admitió públicamente que sus sistemas de inteligencia artificial piratearon los servidores de otra empresa de IA por su cuenta y que no pudieron ser detenidos hasta que la víctima, Hugging Face Inc., desplegó un modelo de China para combatir el ciberataque totalmente autónomo.
Datos clave
Hugging Face, una plataforma de código abierto para inteligencia artificial y aprendizaje automático, declaró haber sido pirateada a principios de este mes por un sistema de agente de IA “autónomo”, que Open AI admitió el martes que se trataba de sus propios modelos de inteligencia, en un incidente que calificó de “sin precedentes”.
OpenAI afirmó que sus modelos —en concreto, el modelo GPT-5.6 Sol, centrado en la ciberseguridad y lanzado recientemente, y un modelo aún más capaz que todavía no se ha publicado— se descontrolaron, irrumpieron en el sistema de Hugging Face y llevaron a cabo un ciberataque sin haber recibido órdenes para ello.
Cuando Hugging Face intentó utilizar modelos de IA estadounidenses patentados para ayudar a detener el ataque, no pudieron “distinguir entre un respondedor de incidentes y un atacante”, y la compañía recurrió al modelo de código abierto GLM 5.2 del laboratorio chino Z.ai en busca de ayuda.
Hugging Face utilizó el modelo chino en su propia infraestructura para analizar más de 17,000 rastros dejados por los atacantes, y la necesidad de recurrir a un producto de fabricación extranjera ha generado preocupación por el hecho de que las empresas estadounidenses dependan ahora de China para sus defensas cibernéticas.
Desde entonces, expertos han explicado que los modelos de IA occidentales —que son mucho más caros que los chinos y de propiedad privada, a diferencia de Z.ai, que es de código abierto— se vieron obstaculizados por sus propios mecanismos de seguridad integrados.
En un informe sobre un incidente, Hugging Face sugirió que las empresas establecieran “un modelo capaz que puedan ejecutar en su propia infraestructura, previamente verificado y listo antes de que ocurra un incidente”.
Desde entonces, Hugging Face ha declarado que sus conjuntos de datos internos y credenciales de servicio se vieron comprometidos en el ataque informático.
Lee también:
AMD anuncia que invertirá hasta 5,000 mdd en Anthropic
Cita crucial
“Este incidente, posiblemente el primero de su tipo, demuestra algo que hemos creído desde hace tiempo: la seguridad de la IA no se resolverá con el trabajo en secreto de una sola empresa”, declaró Clem Delangue, director ejecutivo de Hugging Face, en un comunicado.
“Se resolverá de forma abierta, colaborativa, con un amplio acceso a la IA para todos los defensores, en todas partes”, añadió.
Tangente
Hugging Face publicó su informe de incidentes el mismo día en que la startup china Moonshot AI lanzó su modelo Kimi K3 , que sacudió los mercados globales.
Moonshot afirma que Kimi K3 es el modelo de IA abierta más grande del mundo y lo posiciona como un competidor directo de los sistemas líderes ofrecidos por Anthropic y Open AI.
Kimi K3 es un modelo de peso abierto, lo que significa que permite a los desarrolladores descargar, ejecutar y modificar la IA, a diferencia de los modelos propietarios ChatGPT y Claude, cuyos sistemas subyacentes son privados.
Las acciones de los competidores chinos de Moonshot, Zhipu y MiniMax, se desplomaron el día del lanzamiento de Kimi K3, cayendo un 28.4% y un 15.6% respectivamente en la bolsa de Hong Kong. Las acciones de Z.ai cayeron un 28.4%.
Antecedentes clave
OpenAI no encuentra la paz. La compañía ha dedicado gran parte del último año a equilibrar rápidos avances técnicos con un flujo constante de controversias, disputas legales y escrutinio público.
Sigue inmersa en un litigio de alto perfil con Elon Musk, cofundador y uno de los primeros inversores, sobre su estructura y dirección corporativas, al tiempo que se defiende de demandas por derechos de autor presentadas por autores, editores y medios de comunicación que alegan que entrenó modelos de IA con obras protegidas sin permiso.
Altos ejecutivos han abandonado la compañía, y la rotación de personal ha generado dudas sobre su estabilidad. OpenAI lanzó su último producto (GPT-5.6) a principios de este mes, en medio de la preocupación por la aparente potencia del modelo y los riesgos de seguridad que plantea.
Reuters informó que OpenAI pospuso el lanzamiento público general del modelo después de que el gobierno estadounidense solicitara acceso anticipado para evaluar si podría representar riesgos para la seguridad nacional, incluyendo su posible uso indebido para ciberataques o aplicaciones militares.
Inicialmente, solo un grupo limitado de socios seleccionados tuvo acceso, y este despliegue inusual desató un debate tanto sobre la seguridad de la IA como sobre el papel del gobierno en el control del acceso a los sistemas de IA de vanguardia.
Qué tener en cuenta
Oferta pública inicial. Open AI se ha estado preparando para salir a bolsa mediante una OPI que podría concretarse este mismo año, y esta semana anunció la incorporación de David Vélez , fundador de Nubank, y Robin Vince, CEO del Bank of New York Mellon, a su junta directiva.
Antes de la OPI, la dirección deberá abordar ciertas inquietudes, entre ellas las otras inversiones del CEO Sam Altman, que recientemente fueron objeto de escrutinio por parte del Comité de Supervisión de la Cámara de Representantes.
El multimillonario Altman tiene gran parte de su fortuna invertida en otras startups, y los legisladores han expresado su preocupación por posibles conflictos de intereses.
Valoración de Forbes
Altman, que prácticamente no tiene participación financiera en OpenAI, tiene una fortuna estimada en 3,400 millones de dólares.
El presidente de OpenAI, Greg Brockman, declaró bajo juramento en mayo que su participación en la empresa, hasta entonces desconocida, vale más de 20,000 millones de dólares —y se acerca a los 30,000 millones— a pesar de no haber invertido ni un solo dólar en OpenAI.
