Las prácticas de seguridad de las principales empresas de inteligencia artificial, como Anthropic, OpenAI, xAI y Meta, están “muy lejos de los estándares globales emergentes”, de acuerdo con una nueva edición del índice de seguridad de IA del Future of Life Institute publicado este miércoles.
El instituto dijo que la evaluación de seguridad, realizada por un panel independiente de expertos, encontró que si bien las compañías estaban ocupadas compitiendo para desarrollar superinteligencia, ninguna tenía una estrategia sólida para controlar sistemas tan avanzados.
El estudio llega en medio de una creciente preocupación pública sobre el impacto social de los sistemas más inteligentes que los humanos, capaces de razonar y pensar de forma lógica, después de que varios casos de suicidio y autolesiones se vincularan a los chatbots de IA .
“A pesar del reciente escándalo por el hackeo impulsado por IA y la IA que lleva a las personas a la psicosis y la autolesión, las empresas estadounidenses de IA siguen menos reguladas que los restaurantes y continúan presionando contra los estándares de seguridad vinculantes”, dijo Max Tegmark, profesor del MIT y presidente de Future of Life.
Te puede interesar: Ante el miedo a la sustitución de trabajos por IA, crece el interés de jóvenes por carreras técnicas
ONG expresa preocupación por máquinas de IA
La carrera de la IA tampoco muestra signos de desaceleración: las principales empresas tecnológicas están invirtiendo cientos de miles de millones de dólares en actualizar y ampliar sus esfuerzos de aprendizaje automático.
El Future of Life Institute es una organización sin fines de lucro que expresaron su preocupación por los riesgos que las máquinas inteligentes representan para la humanidad.
En octubre, un grupo que incluía a los científicos Geoffrey Hinton y Yoshua Bengio pidió que se prohibiera el desarrollo de inteligencia artificial superinteligente hasta que el público lo exija y la ciencia allane un camino seguro hacia adelante.
Un portavoz de Google DeepMind dijo que la compañía “continuará innovando en seguridad y gobernanza al ritmo de las capacidades” a medida que sus modelos se vuelvan más avanzados, mientras que xAI dijo que “los medios heredados mienten”, en lo que parecía ser una respuesta automatizada.
Anthropic, OpenAI, Meta, Z.ai, DeepSeek y Alibaba Cloud no respondieron de inmediato a las solicitudes de comentarios sobre el estudio.
Con información de Reuters
Síguenos en Google Noticias para mantenerte siempre informado
