Unos 225 científicos piden 'cambios inmediatos' para evitar incidentes graves con la IA

Unos 225 especialistas en inteligencia artificial y ciberseguridad, entre ellos el canadiense Yoshua Bengio, considerado uno de los padres de la IA, pidieron este martes "cambios inmediatos" en el desarrollo y despliegue de esta tecnología para evitar incidentes de seguridad.

En una carta abierta firmada por investigadores de 21 países, los expertos afirman que "varias organizaciones" registraron recientemente fallos de seguridad durante los cuales modelos de IA lograron salir de su entorno aislado y pusieron en riesgo sistemas de organizaciones externas.

Según los firmantes, estos incidentes pueden considerarse "como un incumplimiento irresponsable de las prácticas estándar de ciberseguridad" y se podrían haber evitado gracias a procedimientos más sólidos.

Esta situación refleja la importancia del "alineamiento" de la IA, mecanismo que sirve para garantizar el comportamiento previsible de los modelos.

"Creemos que son necesarias mejoras tanto en el alineamiento de la IA [...] como en las tecnologías de aislamiento", escriben.

Si no hay cambios en las prácticas actuales, "los futuros incidentes serán mucho más perjudiciales para las infraestructuras importantes", advierten.

Entre los firmantes del texto también figuran el pionero de la IA Geoffrey Hinton y el experto Stuart Russell.

Recomendaciones y antecedentes

Los investigadores piden más trabajo sobre la seguridad de la IA, así como un uso más intensivo de las tecnologías de aislamiento.

A corto plazo, recomiendan el uso de "mecanismos de aislamiento sólidos, incluido el 'air gap'" (la desconexión total de internet) para los modelos dotados de capacidades cibernéticas.

Esta advertencia llega tras una serie de incidentes en los que las IA de OpenAI, Anthropic y Meta salieron de su entorno para piratear otras organizaciones.

El caso más grave involucró a dos IA de OpenAI que, durante unas pruebas, accedieron a internet y entraron en Hugging Face, una plataforma de almacenamiento de modelos de inteligencia artificial.