Los legisladores de California votarán esta semana un proyecto de ley que regularía ampliamente cómo se desarrolla y se implementa la inteligencia artificial (IA) en California, a pesar de que varios gigantes tecnológicos expresaron una amplia oposición.
A continuación, se detallan los antecedentes del proyecto de ley, conocido como SB 1047, y por qué enfrenta una reacción negativa de los tecnólogos de Silicon Valley y algunos legisladores:
¿Que hace este proyecto de ley?
La propuesta, presentada por el senador estatal Scott Wiener, un demócrata, exigiría pruebas de seguridad para muchos de los modelos de IA más avanzados cuyo desarrollo cuesta más de 100 millones de dólares o aquellos que requieren una cantidad definida de potencia informática. Los desarrolladores de software de IA que operan en el estado también tendrían que describir métodos para apagar los modelos de IA si fallan, lo que en realidad sería un interruptor de apagado.
El proyecto de ley también le daría al fiscal general del estado el poder de demandar a los desarrolladores si no cumplen, en particular en caso de una amenaza continua, como que la IA se apodere de los sistemas gubernamentales como la red eléctrica.
Además, el proyecto de ley exigiría a los desarrolladores contratar auditores externos para evaluar sus prácticas de seguridad y proporcionar protecciones adicionales a los denunciantes que se pronuncien contra los abusos de la IA.
¿Qué dicen los legisladores sobre la ley?
El proyecto de ley SB 1047 ya fue aprobado por el Senado estatal con una votación de 32 a 1. La semana pasada fue aprobado por el comité de asignaciones de la Asamblea estatal, lo que establece una votación de la Asamblea en pleno. Si se aprueba antes del final de la sesión legislativa el 31 de agosto, pasaría al gobernador Gavin Newsom para que lo firme o lo vete antes del 30 de septiembre.
Wiener, que representa a San Francisco, sede de OpenAI y muchas de las empresas emergentes que desarrollan el poderoso software, aseguró que la legislación es necesaria para proteger al público antes de que los avances en IA se vuelvan difíciles de manejar o incontrolables.
Sin embargo, un grupo de demócratas del Congreso de California se oponen al proyecto de ley, entre ellos Nancy Pelosi de San Francisco; Ro Khanna, cuyo distrito del Congreso abarca gran parte de Silicon Valley; y Zoe Lofgren, de San José.
Pelosi esta semana dijo que la SB 1047 estaba mal informada y que podría causar más daño que bien. En una carta abierta la semana pasada, los demócratas dijeron que el proyecto de ley podría expulsar a los desarrolladores del estado y amenazar a los llamados modelos de IA de código abierto, que se basan en un código que está disponible libremente para que cualquiera lo use o modifique.
Te podría interesar: Fintech piden regular inteligencia artificial en Latinoamérica sin frenar innovación
Esto es lo que opinan las grandes tecnológicas sobre la nueva ley de regulación de IA
Las empresas tecnológicas que desarrollan IA (que pueden responder a indicaciones con texto, imágenes o audio completamente formados, así como ejecutar tareas repetitivas con una intervención mínima) pidieron barandillas más fuertes para la implementación de la IA. Citaron riesgos de que el software pueda algún día evadir la intervención humana y causar ciberataques, entre otras preocupaciones. Pero también se opusieron en gran medida a la SB 1047.
Wiener revisó el proyecto de ley para apaciguar a las empresas tecnológicas, basándose en parte en los aportes de la startup de IA Anthropic, respaldada por Amazon y Alphabet. Entre otros cambios, eliminó la creación de un comité de supervisión de IA del gobierno.
Wiener también eliminó las sanciones penales por perjurio, aunque aún se pueden presentar demandas civiles.
Google y Meta, de Alphabet, expresaron sus preocupaciones en cartas a Wiener. Meta dijo que el proyecto de ley amenaza con hacer que el estado sea desfavorable al desarrollo y la implementación de la IA. El científico jefe de la empresa matriz de Facebook, Yann LeCun, en una publicación de julio X calificó el proyecto de ley como potencialmente perjudicial para los esfuerzos de investigación.
OpenAI, a cuyo ChatGPT se le atribuye el mérito de acelerar el frenesí por la IA desde su lanzamiento generalizado a fines de 2022, señaló que la IA debería estar regulada por el gobierno federal y que la SB 1047 crea un entorno legal incierto.
Es especialmente preocupante la posibilidad de que el proyecto de ley se aplique a los modelos de IA de código abierto. Muchos tecnólogos creen que los modelos de código abierto son importantes para crear aplicaciones de IA menos riesgosas más rápidamente, pero Meta y otros temen que podrían ser considerados responsables de vigilar los modelos de código abierto si se aprueba el proyecto de ley.
Wiener ha dicho que apoya los modelos de código abierto y una de las recientes enmiendas al proyecto de ley elevó el estándar para el cual estos modelos están cubiertos por sus disposiciones.
El proyecto de ley también tiene sus partidarios en el sector tecnológico. Geoffrey Hinton, ampliamente reconocido como el “padrino de la IA”, el ex empleado de OpenAI Daniel Kokotajlo y el investigador Yoshua Bengio han dicho que apoyan el proyecto de ley.
Con información de Reuters
Suscríbete a nuestro canal de YouTube y no te pierdas de nuestro contenido
