Hackers y otros delincuentes pueden fácilmente apoderarse de computadoras que operan grandes modelos de lenguaje de código abierto fuera de las barreras y limitaciones de las principales plataformas de inteligencia artificial, creando riesgos y vulnerabilidades de seguridad, según informaron investigadores el jueves.
Los hackers podrían atacar computadoras que ejecutan los LLMs y dirigirlos para realizar operaciones de spam, creación de contenido de phishing o campañas de desinformación, evadiendo los protocolos de seguridad de la plataforma, según los investigadores.
La investigación, realizada en conjunto por las empresas de ciberseguridad SentinelOne y Censys durante 293 días y compartida en exclusiva con Reuters, ofrece una nueva perspectiva sobre la magnitud de posibles usos ilícitos en miles de implementaciones de LLM de código abierto. Entre estos se incluyen hacking, discurso de odio y acoso, contenido violento o gore, robo de datos personales, estafas o fraudes y, en algunos casos, material de abuso sexual infantil, según los investigadores.
Aunque hay miles de variantes de LLM de código abierto, gran parte de los que están en hosts accesibles por internet son versiones de Llama de Meta, Gemma de Google DeepMind y otros, según los investigadores. Si bien algunos de estos modelos incluyen medidas de seguridad, se han detectado cientos de casos en los que dichas protecciones fueron eliminadas de forma explícita.
Las conversaciones de la industria de la IA sobre los controles de seguridad están “ignorando este tipo de capacidad excedente que claramente se está utilizando para todo tipo de cosas diferentes, algunas legítimas, otras claramente criminales”, dijo Juan Andrés Guerrero-Saade, director ejecutivo de inteligencia e investigación en seguridad en SentinelOne. Guerrero-Saade comparó la situación con un “iceberg” que no se está contabilizando adecuadamente en la industria y la comunidad de código abierto.
La investigación analizó despliegues públicos de LLMs de código abierto desplegados a través de Ollama, una herramienta que permite a personas y organizaciones ejecutar sus propias versiones de varios modelos de gran lenguaje.
Te puede interesar: El Reino Unido presiona a Google para que permita a los sitios web excluirse de los resúmenes generados por IA
Los investigadores pudieron ver los prompts del sistema, que son las instrucciones que dictan cómo se comporta el modelo, en aproximadamente una cuarta parte de los LLMs que observaron. De esos, determinaron que el 7.5% podría potencialmente permitir actividades dañinas.
Aproximadamente el 30% de los huéspedes observados por los investigadores operan desde China y alrededor del 20% en Estados Unidos.
Rachel Adams, CEO y fundadora del Global Center on AI Governance, dijo en un correo electrónico que, una vez que se publiquen los modelos abiertos, la responsabilidad de lo que ocurra a continuación pasa a compartirse en todo el ecosistema, incluidos los laboratorios de origen.
“Los laboratorios no son responsables de cada mal uso posterior (que es difícil de anticipar), pero conservan un importante deber de cuidado para anticipar los daños previsibles, documentar riesgos y proporcionar herramientas y orientación de mitigación, especialmente dada la desigual capacidad global de aplicación”, dijo Adams.
Un portavoz de Meta declinó responder a preguntas sobre las responsabilidades de los desarrolladores para abordar preocupaciones relacionadas con el abuso posterior de modelos de código abierto y cómo podrían reportarse sus preocupaciones, pero señaló las herramientas de protección contra llamas para desarrolladores de llamas y la Guía de Uso Responsable Meta Llama de la compañía.
El líder del equipo rojo de Microsoft AI, Ram Shankar Siva Kumar, dijo en un correo electrónico que Microsoft cree que los modelos de código abierto “juegan un papel importante” en diversas áreas, pero, “al mismo tiempo, tenemos claro que los modelos abiertos, como todas las tecnologías transformadoras, pueden ser mal utilizados por adversarios si se publican sin las salvaguardas adecuadas.”
Microsoft realiza evaluaciones previas al lanzamiento, incluyendo procesos para evaluar “riesgos para escenarios expuestos a internet, autoalojados y de llamada a herramientas, donde el uso indebido puede ser alto”, añadió. La empresa también supervisa amenazas emergentes y patrones de uso indebido. “En última instancia, la innovación abierta responsable requiere un compromiso compartido entre creadores, desplegadores, investigadores y equipos de seguridad.”
Ollama no respondió a la solicitud de comentarios, y Alphabet, Google y Anthropic tampoco contestaron las preguntas.
Con información de Reuters
Suscríbete a nuestro canal de YouTube y no te pierdas de nuestro contenido
