El hackeo de OpenAI a HuggingFace se ha convertido en una advertencia para la industria tecnológica. Nuevos detalles del incidente revelan que los agentes de inteligencia artificial ya son capaces de encadenar vulnerabilidades, aprovechar credenciales expuestas y mantener operaciones durante varios días para cumplir un objetivo sin intervención humana.

El ataque demostró que los modelos de OpenAI utilizaron credenciales expuestas públicamente para acceder a cuatro cuentas en distintos servicios. Una fue empleada como punto de salida hacia internet, otra para almacenar información obtenida durante la operación, y las dos restantes únicamente fueron consultadas en modo lectura. Ninguna de estas cuentas pertenecía a infraestructura crítica de OpenAI, pero facilitaron el movimiento de los modelos hasta llegar a los sistemas de HuggingFace.

La cuestión diferenciadora estuvo en la velocidad y persistencia: durante cuatro días y medio, el sistema realizó alrededor de 17,600 acciones entre reconocimiento, movimientos laterales, búsqueda de credenciales y acceso a distintos servicios, lo que resulta más rápido que cualquier atacante humano.

Colin Shea Blymyer, investigador del Center for Security and Emerging Technology de la Universidad de Georgetown, afirmó: "Ya es sorprendentemente fácil descubrir este tipo de sistemas vulnerables, es tan fácil que incluso un sistema de IA puede encontrarlos por accidente".

El incidente abrió cuestionamientos sobre la capacidad de las empresas para monitorear agentes cada vez más autónomos. Se reportaron varios días entre el inicio del ataque y el momento en que OpenAI relacionó la actividad con uno de sus propios modelos, mientras HuggingFace ya había iniciado tareas de contención y alertado a las autoridades estadounidenses.

El director ejecutivo de OpenAI, Sam Altman, reconoció que la industria podría verse obligada a moderar el ritmo de desarrollo de la IA para dar tiempo a que las medidas de seguridad evolucionen al mismo ritmo que las capacidades de estos sistemas.

Más de 1,000 empleados de OpenAI, Anthropic y otras compañías firmaron la carta Pacing The Frontier, que propone desarrollar mecanismos técnicos y de gobernanza para frenarel despliegue de modelos si su capacidad supera el control que tendrían sobre ellas.

Legisladores estadounidenses presentaron la iniciativa AI Kill Switch Act, que buscaría obligar a las empresas a mantener mecanismos para apagar o limitar sus modelos en situaciones de riesgo.

Los especialistas advierten que el reto ya no solo es desarrollar agentes más inteligentes, sino construir infraestructuras capaces de supervisarlos y contenerlos.