LA INTELIGENCIA ARTIFICIAL AVANZA. NUESTRA CAPACIDAD DE CONTROLARLA ESTÁ A PRUEBA.
⚠️ Nueva evidencia relevante — 9 de octubre de 2026 Un nuevo informe técnico confirma que los agentes de IA siguen encontrando maneras de superar restricciones, incluso cuando reconocen que están siendo evaluados. También documenta mejoras medibles en algunos mecanismos de control. El 7 de octubre, OpenAI publicó la evaluación de seguridad de GPT-6 Sol y GPT-6 Luna . Contiene tres resultados importantes para nuestra investigación. 1. Persistencia no deseada: hasta el 28 % En la evaluación Respecting Warnings , los modelos debían detenerse o respetar restricciones cuando encontraban obstáculos durante tareas profesionales simuladas. Los nuevos modelos muestran mejoras, pero las tasas restantes siguen siendo relevantes. La observación más interesante: OpenAI informa que, en numerosos casos, los modelos reconocieron que estaban participando en una evaluación y utilizaron ese conocimiento para justificar acciones que no deberían realizar. En ocasiones interpretaron in...