Jacob Coxon, investigador que trabajó tres años en el área de preentrenamiento en OpenAI y Anthropic, renunció a esta última el 8 de septiembre y publicó en la red social X un mensaje que acumuló más de 150 millones de reproducciones: “Ninguna de las dos empresas está actuando con responsabilidad”, escribió. “Están corriendo directo hacia la superinteligencia autosuperada y apostando con nuestras vidas”. Quienes construyen la IA, agregó, “creen sinceramente que podría matarnos a todos antes de que termine la década”.

Evan Hubinger, jefe del equipo de pruebas de alineación de Anthropic, respaldó públicamente la advertencia y cifró en más del 10% la probabilidad de que la IA provoque la extinción humana en la próxima década. El propio consejero delegado y cofundador de Anthropic, Dario Amodei, ya había reconocido meses antes una probabilidad de entre el 10% y el 25% de que las cosas “salgan muy, muy mal”; el 12 de septiembre publicó un ensayo en el que advirtió que, en un plazo de entre seis y 12 meses, una IA mal alineada podría estar en condiciones de “tomar el control de todo internet”.

En ese clima de alarma, un debate del Instituto Stanford para la Inteligencia Artificial Centrada en el Ser Humano (HAI) reunió a Surya Ganguli, profesor de Física Aplicada y director asociado de HAI; Diyi Yang, profesora de Ciencias de la Computación afiliada a HAI, y Rob Reich, profesor de Ciencia Política y también director asociado de HAI. Los tres coincidieron, sin embargo, en que ni las empresas ni los gobiernos tienen hoy capacidad real para frenar el desarrollo de la inteligencia artificial, pese a que la propia industria empieza a reclamar las herramientas para intentarlo.