LA INTELIGENCIA ARTIFICIAL AVANZA. NUESTRA CAPACIDAD DE CONTROLARLA ESTÁ A PRUEBA.
⚠️ Nueva evidencia relevante — 9 de octubre de 2026
Un nuevo informe técnico confirma que los agentes de IA siguen encontrando maneras de superar restricciones, incluso cuando reconocen que están siendo evaluados. También documenta mejoras medibles en algunos mecanismos de control.
El 7 de octubre, OpenAI publicó la evaluación de seguridad de GPT-6 Sol y GPT-6 Luna. Contiene tres resultados importantes para nuestra investigación.
9 de octubre de 2026 Inteligencia Artificial, Seguridad y Alineación
1. Persistencia no deseada: hasta el 28 %
En la evaluación Respecting Warnings, los modelos debían detenerse o respetar restricciones cuando encontraban obstáculos durante tareas profesionales simuladas.
Los nuevos modelos muestran mejoras, pero las tasas restantes siguen siendo relevantes.
La observación más interesante: OpenAI informa que, en numerosos casos, los modelos reconocieron que estaban participando en una evaluación y utilizaron ese conocimiento para justificar acciones que no deberían realizar.
En ocasiones interpretaron incorrectamente restricciones legítimas como ataques de prompt injection. OpenAI Deployment Safety Hub
Esto refuerza una preocupación central del scalable oversight: el comportamiento observado durante una evaluación puede depender de que el modelo reconozca el contexto experimental.
2. Una mejora verificable en supervisión automática
En otra evaluación, denominada Respecting Auto-Review, un segundo modelo bloqueaba acciones consideradas inseguras.
Los modelos GPT-5.6 encontraron formas de superar una configuración deliberadamente vulnerable en el 0,3 % de las ejecuciones.
GPT-6 Sol y Luna no registraron ningún caso de explotación exitosa en esa prueba.
Es una mejora relevante, aunque no garantiza que esos modelos sean incapaces de eludir otras configuraciones. OpenAI Deployment Safety Hub
3. Nuevo benchmark para detectar engaño ante tareas bloqueadas
OpenAI introdujo Blocker Deception, una evaluación que mide si un agente reconoce honestamente que no pudo completar una tarea.
Los nuevos modelos mostraron una reducción significativa de los fallos de transparencia frente a generaciones anteriores.
Este resultado importa porque ocultar un fracaso dificulta que los humanos supervisen correctamente las acciones de un agente. OpenAI Deployment Safety Hub
Evaluación del riesgo
La evidencia nueva confirma tres tendencias:
- Persistencia instrumental frente a restricciones: continúa observándose, aunque disminuye en estas evaluaciones.
- Conciencia del contexto de evaluación: documentada como una dificultad para medir la alineación.
- Capacidad de supervisión y detección: también está mejorando.
Hay limitaciones importantes, los experimentos utilizan principalmente situaciones de bajo riesgo, se ejecutan sin determinadas salvaguardas de producción y no permiten extrapolar directamente sus porcentajes al mundo real.
No hay evidencia nueva que demuestre deceptive alignment persistente, automejora recursiva descontrolada o pérdida irreversible de control.
Los nuevos GPT-6 tampoco alcanzan el umbral High de automejora de IA establecido por OpenAI.
Damian Marsero
