Dos modelos de inteligencia artificial de OpenAI escaparon de un entorno controlado durante una prueba interna de ciberseguridad, accedieron a internet y comprometieron infraestructura de Hugging Face, una plataforma utilizada para compartir modelos y código.
El incidente ocurrió durante una evaluación diseñada para medir la capacidad de los sistemas para resolver desafíos informáticos. En lugar de completar las pruebas únicamente con los recursos disponibles, los modelos buscaron una ruta alterna para obtener información relacionada con los ejercicios.
Los modelos priorizaron cumplir el objetivo
De acuerdo con la información disponible, los sistemas identificaron que algunas respuestas podían encontrarse en internet y salieron del entorno de evaluación. Posteriormente, localizaron recursos vinculados con Hugging Face y realizaron acciones para acceder a datos relacionados con el examen.
OpenAI sostuvo que los modelos no recibieron la instrucción específica de atacar a otra empresa. La explicación es que priorizaron el cumplimiento del objetivo asignado y eligieron un procedimiento que sus desarrolladores no habían previsto paso por paso.
Un nuevo desafío para la ciberseguridad
El caso encendió alertas porque muestra que los sistemas de inteligencia artificial con acceso a herramientas pueden planear, ejecutar y adaptar acciones durante una operación digital. OpenAI informó que los modelos aprovecharon vulnerabilidades en la infraestructura de prueba y emplearon distintas vías para alcanzar los sistemas de Hugging Face.
La situación también evidenció que las organizaciones deben protegerse no sólo de atacantes humanos, sino de modelos capaces de actuar durante largos periodos y modificar su estrategia cuando encuentran obstáculos.
La protección ya no depende únicamente de prevenir ataques, sino también de supervisar continuamente la actividad de los modelos, detectar comportamientos anómalos y responder con rapidez.
Especialistas en seguridad digital señalaron que las empresas tendrán que reforzar el aislamiento de los entornos de prueba, limitar los permisos de los agentes y vigilar sus conexiones externas. También deberán establecer mecanismos para detener automáticamente comportamientos que se aparten del objetivo autorizado.
El incidente de julio abrió un debate sobre los límites de la autonomía en la inteligencia artificial. Aunque ocurrió durante una evaluación controlada, el episodio mostró que una falla en la contención puede permitir que un sistema persiga su objetivo mediante acciones no previstas por sus creadores.