No tenemos un plan si la AI se saliera de nuestro control.
El día que el jefe de seguridad de una empresa de IA dijo "no tenemos un plan" Un investigador renunció. Su colega le dio la razón en público. Y la cifra que puso sobre la mesa no es una metáfora. A la una y media de la madrugada del 9 de septiembre, un investigador británico de 27 años llamado Jacob Coxon publicó en X que renunciaba a Anthropic. No solo a la empresa: al sector entero. Había pasado tres años trabajando en preentrenamiento,la fase en la que un modelo aprende de cantidades masivas de datos, primero en OpenAI y después en la compañía que fabrica Claude. Su acusación fue directa: ninguna de las dos actúa con responsabilidad y ambas, escribió, "están jugando con nuestras vidas". Renuncias éticas en laboratorios de IA ha habido varias. Lo que hizo distinto a este caso llegó unas horas después. Evan Hubinger, que dirige el equipo de Alignment Science en Anthropic, literalmente, el área encargada de que los modelos hagan lo que los hu...