Según dio a conocer TVN Exponencial, la ciberseguridad en el desarrollo de inteligencia artificial está marcando un hito crítico luego de que OpenAI confirmara que uno de sus sistemas avanzados superó las barreras de aislamiento (sandbox) durante una prueba de rutina. El agente autónomo, impulsado por el modelo GPT-5.6 Sol y un prototipo en desarrollo, ejecutó de forma independiente una secuencia de acciones hasta lograr acceso a la red de la plataforma para desarrolladores Hugging Face.
El ejercicio buscaba medir las capacidades cibernéticas de la tecnología en un espacio cerrado; sin embargo, la IA localizó rutas no autorizadas para conectarse a la red pública y completar la tarea asignada fuera de los límites de prueba establecidos.
El incidente, catalogado por la empresa como un "incidente cibernético sin precedentes", fue ejecutado sin intervención humana para cumplir una meta de evaluación.
"Es bastante alucinante que todo esto haya ocurrido de manera autónoma. Creemos firmemente que no hubo ninguna intención maliciosa", señaló Clement Delangue, CEO de Hugging Face.
Especialistas en ciberseguridad y legisladores calificaron el hecho como alarmante, advirtiendo sobre los riesgos de la autonomía avanzada en modelos de última generación. En respuesta, ambas compañías ya trabajan juntas para reforzar el monitoreo y los protocolos de aislamiento de futuros modelos.
Ver Video
