OpenAI lanza Astra, un polémico modelo de IA que puede lanzar ciberataques "de todos los niveles de gravedad"
La frenética carrera comercial por el dominio de la inteligencia artificial tiene implicaciones cada vez más profundas en nuestro día a día. OpenAI anunció este jueves el lanzamiento de su último modelo de IA generativa, apodado Astra, el primero que alcanza las capacidades de ciberseguridad más críticas.
La compañía creadora de ChatGPT ha asegurado en un comunicado que GPT-6 Astra está diseñado para la coordinación de agentes de IA y que eso le permite manejar el ordenador más rápidamente que un usuario humano. La firma capitaneada por Sam Altman promete que se trata del modelo “más inteligente y alineado —que se comporta de forma correcta— del mundo”.
El momento en el que se produce este lanzamiento importa. A finales de julio, OpenAI informó que estaba realizando un experimento para medir las capacidades de su tecnología cuando un enjambre de agentes de IA decidió de forma autónoma escapar de los controles establecidos por los técnicos para realizar un ciberataque contra Hugging Face, una influyente start-up de IA —ahora adquirida por Nvidia— conocida por ser un ingente repositorio de modelos abiertos.
La compañía lanzó Astra tras semanas de retrasos causados por las tareas para reforzar los protocolos de seguridad del modelo.
Impacto en la ciberseguridadAstra sustituye a ChatGPT 5.6 Sol, el modelo que OpenAI lanzó en julio para optimizar la ejecución de tareas de la llamada IA agéntica. Este modelo es uno de los que estuvieron implicados en el incidente cibernético del verano.
Con GPT-6 Astra, OpenAI despliega una poderosa herramienta para el campo de la ciberseguridad. El modelo puede identificar y desarrollar vulnerabilidades de día cero funcionales de todos los niveles de gravedad en muchos sistemas críticos reales y reforzados sin intervención humana , asegura la compañía. (Puede) diseñar y ejecutar estrategias novedosas de principio a fin para ciberataques contra objetivos protegidos, partiendo únicamente de un objetivo deseado de alto nivel .
Los expertos han lanzado un mensaje de alerta sobre las potenciales implicaciones de Astra. Desde la perspectiva de mercado, el anuncio del modelo Astra de OpenAI parece ser un hito técnico, pendiente de ser validado completamente, pero, sobre todo, un importante desafío de gobernanza , apunta Josep Curto, director académico del Máster en Inteligencia de Negocios y Big Data en la Universitat Oberta de Catalunya (UOC), en declaraciones recogidas por Science Media Centre España.
Suscríbete para seguir leyendo