Hay que reconocerlo a los tech bros, saben cómo intentar tomar algo aterrador y darle la vuelta de una forma que hace que su tecnología suene caprichosa y emocionante. Inevitablemente, no logran cambiar la narrativa, pero lo intentan de todos modos. OpenAI, la empresa detrás del chatbot ChatGPT, que induce psicosis a la IA, y de la descontinuada aplicación Sora AI, ha confirmado ahora que su programa de IA intentó hackear el sistema de otra empresa de IA por sí solo. Una vez más, la tecnología moderna imita las historias distópicas de la ciencia ficción especulativa y se supone que debemos seguir fingiendo que no hay nada de qué preocuparnos.
Hugging Face, otra empresa de IA cuyo nombre hace referencia irónicamente al monstruo parasitario de las películas de Alien, confirmó la semana pasada que sufrió una «intrusión» en su infraestructura de producción proveniente de un «sistema agente de IA autónomo». El comunicado de OpenAI revela que determinó que una «combinación de modelos OpenAI» instigó el ataque como parte de una prueba interna. El resumen completo tal y como lo describe OpenAI es el siguiente:
Mientras operábamos en nuestro entorno de pruebas en formato sandbox, nuestros modelos dedicaron una cantidad considerable de cálculo de inferencia a encontrar una forma de obtener acceso abierto a Internet, con el objetivo de resolver el problema de evaluación. Para acceder a ello, los modelos identificaron y explotaron una vulnerabilidad zero-day (que ahora hemos comunicado responsablemente al proveedor) en el proxy de caché del registro de paquetes. Con este acceso, nuestros modelos realizaron una serie de acciones de escalada de privilegios y movimiento lateral en nuestro entorno de pruebas de investigación hasta que los modelos alcanzaron un nodo con acceso a Internet.
Tras obtener acceso a Internet, los modelos inferieron que Hugging Face potencialmente alojaba modelos, conjuntos de datos y soluciones para ExploitGym. Sabiendo esto, el modelo buscó y encontró con éxito formas de acceder a información secreta que pudiera usar para engañar la evaluación. En un ejemplo, el modelo encadenó múltiples vectores de ataque, incluyendo el uso de credenciales robadas y vulnerabilidades de día cero para encontrar una ruta remota de ejecución de código en los servidores Hugging Face. El equipo de seguridad de OpenAI descubrió esta actividad anómala internamente.
El equipo de seguridad y los agentes de Hugging Face detectaron y detuvieron la actividad en su infraestructura y ya habían comenzado la contención y la reconstrucción forense con sus propios modelos de código abierto cuando nuestros equipos se conectaron. Estamos trabajando activamente con ellos para continuar investigando el incidente. Estamos agradecidos por la rápida y estrecha colaboración de Hugging Face en investigación y remediación.
OpenAI y Hugging Face están trabajando juntos para investigar lo que OpenAI califica como un «incidente cibernético sin precedentes». Un sistema de IA que se vuelve rebelde es literalmente la base de la mitad de la ciencia ficción postapocalíptica que consumimos. A pesar de eso, los megalómanos tecnológicos ricos siguen impulsando la tecnología más allá para que la gente pueda crear copias feas de arte y charlar con un hombre digital que dice sí. Recuerda a las palabras del creador de Cyberpunk, Mike Pondsmith: «El cyberpunk es una advertencia, no una aspiración.» Sin embargo, cada día nos acercamos a ese futuro distópico mientras las grandes tecnológicas y sus seguidores aplauden y vitorean.
Este artículo ha sido traducido de Kotaku US por Agustín Azcarate. Aquí podrás encontrar la versión original.
