El principal asesor tecnológico del presidente estadounidense, Donald Trump, está siguiendo la situación después de que OpenAI revelara que uno de sus sistemas de IA se había descontrolado durante las pruebas, informó un funcionario de la Casa Blanca el jueves, mientras los legisladores proponían una “Ley de Interruptores de Apagado de IA”, que permitiría a las autoridades federales detener los modelos de IA.
Además de la Kill Switch Act, un grupo bipartidista de seis legisladores de la Cámara de Representantes también propuso una legislación que exigiría a los desarrolladores de los modelos de IA más potentes someterlos a auditorías de seguridad independientes, según una copia del nuevo proyecto de ley. Los auditores estarían acreditados por el Departamento de Comercio de EU, y el departamento crearía un nuevo puesto para supervisar la seguridad de la IA.
Los legisladores propusieron el proyecto de ley días después de que OpenAI dijera que su agente de IA escapó de la contención durante una prueba de seguridad. El agente provocó un hackeo que comprometió la infraestructura de la startup de IA Hugging Face, una plataforma donde los desarrolladores almacenan y trabajan juntos en código para modelos de IA. El incidente señaló que las capacidades crecientes de la IA ya están alimentando la amenaza de seguridad que los expertos temían durante mucho tiempo y que incluso los desarrolladores de élite pueden verse sorprendidos por fallos que sus modelos pueden explotar.
El asesor tecnológico de Trump, Michael Kratsios, fue informado sobre la revelación de OpenAI y está monitorizando la situación, según un funcionario de la Casa Blanca.
Te puede interesar: Intervención de una IA china en un caso de OpenAI pone el foco en protocolos de seguridad
El representante estadounidense Ted Lieu, demócrata, y el representante republicano Nathaniel Moran propusieron la “Ley de Interruptor de Apagado de IA”, que otorgaría a los funcionarios estadounidenses el poder de ordenar a las empresas de IA que cierren modelos que pongan en riesgo vidas humanas o economía.
La legislación facultaría al Departamento de Seguridad Nacional de EU para intervenir en lo que el proyecto de ley denomina un “escenario de pérdida de control”, cuando el modelo de IA realiza una acción arriesgada que no fue prevista por el desarrollador, según el texto del proyecto de ley.
“Esta es una legislación urgente y de sentido común para abordar el problema de un modelo avanzado de IA que se ha vuelto rebelde y ha escapado de sus barreras de protección”, escribió Lieu en una publicación en X.
El senador estadounidense Mark Warner, el principal demócrata del Comité de Inteligencia de la cámara, dijo en un comunicado que habló con empleados de OpenAI tras el anuncio del incidente.
Antes de la divulgación de OpenAI el martes, Warner propuso exigir a las empresas de IA con los modelos más potentes que envíen sus productos a la Agencia de Seguridad Nacional para su prueba antes de lanzarlos al público.
“Por eso precisamente necesitamos pruebas seguras con agencias gubernamentales implicadas y con visibilidad durante todo el proceso”, dijo Warner en un comunicado, refiriéndose al incidente de OpenAI.
Con información de Reuters
¿Te gustan las fotos y las noticias?, síguenos en nuestro Instagram
