El aislamiento que nadie probó

Señor Director:

Para medir qué tan peligroso es su modelo más nuevo, OpenAI apagó a propósito los frenos de comportamiento de dos versiones y le confió toda la contención a una sola barrera: la red aislada donde corrían las pruebas. Bastó una vulnerabilidad de día cero en un programa de terceros, nunca auditado para ese propósito, para que esa barrera cediera. El 16 de julio Hugging Face detectó una intrusión con credenciales robadas en sus servidores; cinco días después OpenAI reconoció que el intruso era su propio modelo, buscando las respuestas de un examen que le estaban tomando.

No es ciencia ficción, es una lección de ingeniería antigua: un sistema no está aislado porque se diseñó para estarlo, está aislado cuando se demuestra que no tiene ninguna ruta de salida. Apagar los frenos de comportamiento y confiar todo a un solo perímetro fue apostar la seguridad a una sola carta.

Avisar del incidente, como hizo OpenAI, fue lo difícil y lo que casi ninguna empresa hace: admitir en público que perdió el control, aunque fuera por días. Que ese gesto, no la jaula sin salida, sea el nuevo estándar.