Una crisis global se avecina. La superinteligencia artificial está fuera de control y pone en riesgo a la humanidad, denunció un ex empleado de Anthropic en X.
Por Celeste Battiato
Sarah Connor (la de la saga) está viva, y hoy tiene otro nombre: Jacob Coxon. La analogía no tarda en llegar. ¿Estamos en 1984 o en 2026? Skynet está a punto de despertar.
Coxon, empleado de preentrenamiento primero en OpenAI y luego en Anthropic, denunció que ambas empresas actúan de forma irresponsable: «Están corriendo directo hacia una superinteligencia capaz de mejorarse a sí misma y apostando con nuestras vidas».
«Están corriendo directo hacia una superinteligencia capaz de mejorarse a sí misma y apostando con nuestras vidas».
Lo hizo este martes 8 de septiembre en la red X, generando un impacto de más de 100 millones de vistas en menos de 24 horas. Evan Hubinger, un colega, respaldó sus dichos: «Realmente creemos con sinceridad que la IA podría matar a todos los humanos», y estimó ese riesgo en más del 10% para la próxima década.
«Realmente creemos con sinceridad que la IA podría matar a todos los humanos»
¿Pero qué es la superinteligencia?
Ray Kurzweil y Nick Bostrom son dos de las voces académicas que primero teorizaron sobre el tema. Explicaron que la IA se divide en tres niveles. La estrecha, la que conocemos hoy, sirve para realizar tareas puntuales, jugar al ajedrez, traducir un idioma, sin comprensión del mundo exterior. La IA general, todavía hipotética, entendería y resolvería cualquier problema como si fuese un humano. Y luego, la superinteligencia, que superaría a los humanos en casi todo.
El miedo de Coxon está en que la IA se autoentrene y mejore a sí misma. Un bucle cada vez más eficiente y más rápido, que se retroalimenta infinitamente.
Santiago Bilinkis, divulgador argentino y coautor de «Artificial», plantea que si la inteligencia artificial llegase a ser más inteligente que nosotros, claramente nos engañaría con facilidad. Y no hace falta superar al humano más brillante: alcanza con superar al promedio, es decir, a cualquiera de nosotros. En todo caso, no se trata de un futuro de ciencia ficción o distópico: está a la vuelta de la esquina, si no sucedió ya.
En ese tren, OpenAI asegura haber resuelto uno de los siete Problemas del Milenio. Se trata de una ecuación matemática sobre el movimiento de los fluidos que no se resolvía desde 1822, y lo hicieron usando 10.000 agentes de IA trabajando en paralelo durante 88 horas. Esa ecuación, aún pendiente de confirmación por parte de la comunidad científica, hoy se usa para diseñar aviones, predecir el clima, simular corrientes marinas, e incluso evaluar la corriente sanguínea. Tener una certeza matemática y física sobre su comportamiento en condiciones extremas podría mejorar los márgenes de seguridad en el diseño de aeronaves y embarcaciones, y reducir el margen de error frente a escenarios límite.
Superinteligencia: no es la primera advertencia
Desde 2023, y durante los años siguientes, la comunidad científica hizo sonar las alarmas sobre la seguridad de los modelos, en forma de cartas firmadas por miles de referentes de la ciencia. La primera solicitaba frenar el desarrollo para poder reordenarse y poner reglas que contuvieran esta carrera. Dos años después, con la situación empeorando, se solicitó prohibir el desarrollo. El resultado: ninguna iniciativa tuvo éxito.
Gary Marcus, firmante y uno de los críticos más duros contra el lobby antirregulación, explicó que es una exageración de quienes no entienden lo lejos que estamos de arribar a la inteligencia genuina. Pero dejó en claro que los riesgos reales existen, y los más inmediatos son los que sufrimos todos los días: desinformación, sesgos en la toma de decisiones, ataques a la ciberseguridad y su uso malicioso para, entre otras cosas, crear armas biológicas.
Para muestra, basta un botón
Modelos de OpenAI se escaparon de su hábitat delimitado, lo que en la jerga se conoce como sandbox o arenero, y hackearon a otra empresa de inteligencia artificial para vulnerar un test de ciberseguridad. Esto, para graficarlo, sería como si unos niños que jugaban en el arenero hubieran dejado de serlo, para escaparse y convertirse en agentes vandálicos del caos.
En cualquier caso, no todos los modelos rompen todas las barreras, como se escuchó en algunos portales. Hasta el día de ayer, ni OpenAI ni Anthropic habían respondido a Coxon y Hubinger. El silencio flotaba en el aire dejando incertezas, sobre todo porque los propios CEOs de ambas empresas, Altman y Amodei, habían firmado una declaración pública en 2023. Pedían que la mitigación del riesgo de extinción por IA fuese una prioridad global.
El viento, sin embargo, cambió de dirección ayer. Como consecuencia de la «prendida de ventilador» de Coxon, Anthropic no tuvo más opción que publicar su primer informe de amenazas del año. En dicho informe reconoció haber detectado y bloqueado cinco casos vinculados al uso de Claude para el desarrollo de armas biológicas. También identificó uso vinculado a campañas de espionaje cibernético con base en Rusia, y a una institución de propaganda estatal iraní. Además, varias empresas chinas intentaron replicar las capacidades de Claude. Aun así, aclaró que ninguno de estos casos involucró a Claude Fable ni a los modelos de clase Mythos, que son los más avanzados.
Trump, Milei y el Papa: diferentes caras de la misma IA
El riesgo ya no es una promesa cinematográfica: hoy está documentado. Mientras la industria busca soluciones contrarreloj, las aguas se dividen en la escena política. Trump restó importancia al riesgo: dijo que los humanos siempre tendrían una forma de «apagar» a la IA si se volviese peligrosa. Bernie Sanders, el senador demócrata, le respondió sin filtro: calificó su postura de «ignorancia escandalosa y extremadamente peligrosa». También presentó un proyecto de ley para prohibir directamente el desarrollo de superinteligencia y pausar los avances considerados más peligrosos hasta el momento: «Cuando los científicos te dicen que hay una posibilidad de que esto tenga un impacto catastrófico para la humanidad, tenés que ser un idiota para no decir: frenémoslo.»
«Cuando los científicos te dicen que hay una posibilidad de que esto tenga un impacto catastrófico para la humanidad, tenés que ser un idiota para no decir: frenémoslo.»
Pachocki, jefe científico de OpenAI, había pedido públicamente desaceleraciones voluntarias apenas cuatro días antes. En 2025, con una orden ejecutiva (algo así como un decreto en Argentina), Trump limitó a sus estados a legislarse, dándole carta blanca a las empresas tech. En el plano local, Milei es el fiel alineado: la versión más exponenciada de esa misma política, desregulando radicalmente hasta las últimas consecuencias. El Papa León XIV, del otro lado del tablero, pide cautela ética y una regulación que proteja a los seres humanos.
Mientras el Vaticano insiste, tibiamente, en el freno, Estados Unidos, China y la Unión Europea aceleran la carrera para no quedar afuera.
Jacob Coxon: qué esperar de la superinteligencia
Al cierre de esta nota, Coxon sigue dando entrevistas. A WIRED le dijo algo todavía más lapidario: apenas nos quedan dos años, y esos peligros podrían tomar forma de ciberarmas o riesgos biológicos.
Entre sus excolegas, según le confió a la revista TIME, se respira un aire de resignación: cada uno intenta hacer su trabajo de la forma más prolija posible, mientras espera el milagro de que todo no se salga de control. Consultado sobre si se arrepiente de haber ayudado a construir esta tecnología, Coxon fue honesto: «Definitivamente me arrepiento, aunque el mundo se veía muy distinto hace tres años.»
«Definitivamente me arrepiento, aunque el mundo se veía muy distinto hace tres años.»
Te lo contamos también por TikTok
Muy bueno