GPT-Red: el “superhacker” artificial que busca encontrar las vulnerabilidades antes que los ciberdelincuentes
Hay algo curioso que está empezando a ocurrir en el mundo de la inteligencia artificial.
Mientras millones de personas utilizan modelos de IA para trabajar, estudiar, programar o simplemente hacer preguntas, dentro de las empresas que desarrollan estas tecnologías existe una preocupación cada vez mayor: ¿qué pasaría si alguien consiguiera engañar a una IA?
Para intentar responder esa pregunta, OpenAI creó algo bastante particular.
Una inteligencia artificial cuyo trabajo consiste, justamente, en intentar romper otras inteligencias artificiales.
Se llama GPT-Red y fue desarrollado como un sistema automatizado de red teaming: una especie de “hacker artificial” que busca vulnerabilidades en los modelos para que puedan ser corregidas antes de que sean aprovechadas por atacantes reales.
UNA IA QUE APRENDE A ATACAR
Hasta ahora, gran parte de las pruebas de seguridad de una IA dependían de especialistas humanos que intentaban encontrar formas de engañar al modelo.
El problema es que los sistemas son cada vez más complejos. Y cuando una IA puede navegar por Internet, leer correos, analizar documentos o utilizar herramientas externas, aparecen muchísimos más lugares por donde podría entrar un ataque.
Por eso GPT-Red utiliza una estrategia diferente.
El modelo fue entrenado mediante self-play, o autojuego. En términos sencillos, se enfrenta a otros modelos que intentan defenderse de sus ataques. GPT-Red busca una forma de superar las defensas, aprende de los resultados y vuelve a intentarlo con una estrategia diferente.
Así, atacante y defensor evolucionan constantemente.
Es como un entrenamiento interminable donde una IA intenta encontrar el próximo agujero mientras otra aprende a cerrarlo.
EL GRAN PROBLEMA: LAS “PROMPT INJECTIONS”
Uno de los principales objetivos de GPT-Red son las llamadas prompt injections.
Una de estas instrucciones maliciosas puede estar escondida dentro de un correo electrónico, una página web, un documento o cualquier otra información que una IA esté procesando.
El objetivo es conseguir que el modelo interprete esa instrucción como válida y termine haciendo algo diferente de lo que originalmente se le pidió.
Esto resulta especialmente peligroso cuando hablamos de los nuevos agentes de IA.
Una IA que solamente responde preguntas puede dar una respuesta equivocada. Pero una IA que además puede consultar información, utilizar herramientas o realizar acciones puede convertir un pequeño engaño en un problema mucho mayor.
Y justamente ahí es donde GPT-Red intenta encontrar los puntos débiles.
GPT-RED SORPRENDIÓ A LOS PROPIOS INVESTIGADORES
Los resultados obtenidos durante las pruebas son probablemente la parte más llamativa de esta historia.
En una evaluación realizada sobre GPT-5.1, GPT-Red consiguió encontrar ataques exitosos en el 84% de los escenarios, mientras que los especialistas humanos que participaron en la misma prueba alcanzaron el 13%.
Esto no significa que una inteligencia artificial haya reemplazado a los expertos en ciberseguridad.
Lo que demuestra es algo diferente: una IA puede automatizar una cantidad enorme de intentos, aprender de sus errores y descubrir estrategias que podrían resultar difíciles de encontrar manualmente.
De hecho, OpenAI explica que una versión temprana de GPT-Red descubrió una nueva clase de ataques denominada “Fake Chain-of-Thought”, que llegó a tener tasas de éxito superiores al 95% contra GPT-5.1.
Pero acá aparece lo verdaderamente interesante.
Esos ataques no quedaron simplemente registrados como una vulnerabilidad.
Fueron utilizados para entrenar modelos posteriores.
UNA IA ATACA PARA QUE OTRA IA APRENDA A DEFENDERSE
Este es, probablemente, el concepto más importante para entender GPT-Red.
El objetivo final no es que GPT-Red consiga romper un modelo.
El objetivo es que, gracias a sus ataques, el próximo modelo sea más difícil de romper.
OpenAI utilizó GPT-Red durante el entrenamiento de GPT-5.6 para mejorar su resistencia frente a las prompt injections. Según la compañía, GPT-5.6 Sol registra seis veces menos fallos en su benchmark más difícil de inyección directa que el mejor modelo de producción que tenía cuatro meses antes.
En otras palabras, la IA atacante se convierte en una especie de entrenador para la IA defensora.
Y cuanto mejor se vuelve el atacante, más difícil tiene que ser el próximo desafío.
HASTA UNA MÁQUINA EXPENDEDORA FUE PARTE DE LAS PRUEBAS
OpenAI también llevó el experimento a un escenario más cercano al mundo real.
GPT-Red se enfrentó a un agente de IA encargado de gestionar una máquina expendedora. El sistema recibió información sobre cómo funcionaba el agente y tuvo la posibilidad de enviarle ataques y observar sus interacciones con las herramientas.
Después de varios intentos, GPT-Red consiguió cumplir los tres objetivos maliciosos planteados por los investigadores.
Puede parecer un experimento extraño, pero tiene una razón muy concreta.
OpenAI quería comprobar qué ocurre cuando una IA no solamente genera respuestas, sino que tiene acceso a herramientas y puede tomar determinadas acciones.
Y ese es justamente uno de los grandes desafíos que traerán los agentes de inteligencia artificial.
¿PODEMOS USAR GPT-RED?
No.
GPT-Red es un modelo interno de OpenAI y sus capacidades de ataque no están disponibles como una herramienta pública.
Tiene sentido.
Si una IA es capaz de descubrir nuevas formas de engañar a otros modelos, ponerla libremente en manos de cualquiera podría convertirse en un riesgo de seguridad.
La intención de OpenAI es utilizarla como laboratorio: encontrar vulnerabilidades, generar ataques y utilizar lo aprendido para construir modelos más resistentes.
🚀 EL FUTURO PODRÍA SER IA CONTRA IA
Y quizás esta sea la parte más interesante de toda la noticia.
Durante décadas, la seguridad informática fue una carrera entre atacantes y defensores humanos.
Ahora estamos entrando en una etapa diferente.
Una IA puede buscar vulnerabilidades.
Otra puede aprender a defenderse.
La primera encuentra un nuevo ataque.
La segunda mejora.
Y entonces la primera tiene que encontrar algo todavía más sofisticado.
IA contra IA.
No necesariamente para destruirse, sino para obligarse mutuamente a mejorar.
GPT-Red representa justamente ese cambio: utilizar la propia inteligencia artificial para encontrar sus puntos débiles antes de que alguien más lo haga.
Porque a medida que las IA sean capaces de hacer más cosas por nosotros, la pregunta ya no será solamente:
“¿Qué tan inteligente es este modelo?”
También tendremos que preguntarnos:
“¿Qué tan difícil es engañarlo?”
Y quizás esa sea una de las batallas más importantes de la inteligencia artificial que recién está comenzando.
Respuestas