Título original: «Jensen Huang va a la izquierda, Amodei va a la derecha». Autor original: Su Yang, Tencent Technology.

Si la IA frontera debe seguir acelerando o frenar se ha convertido en el tema más controvertido actualmente en Silicon Valley.

Alrededor de esta controversia, los gigantes de Silicon Valley han empezado a tomar posiciones. Amodei, Altman, Musk y Hassabis forman el «bando del freno». Jensen Huang es un firme «aceleracionista» que critica el «apocalipsis de la IA» por carecer de base científica; Yann LeCun ha criticado repetidamente a Amodei diciendo: «(Amodei) ya consideraba peligroso liberar GPT-2 como código abierto cuando estaba en OpenAI. Me burlé de él entonces, y ahora todos pueden seguir haciéndolo».

En cambio, Zuckerberg y Nadella, entre otros, han adoptado una postura relativamente neutral.

Que los gigantes tomen posiciones distintas significa que Silicon Valley no ha alcanzado consenso sobre pausar modelos frontera. Esto se debe a las diferencias en los nichos ecológicos de cada empresa dentro de la cadena industrial de la IA. Los líderes a nivel de modelo pueden pedir una pausa por diversas razones, pero resulta imposible obtener una respuesta positiva de empresas como Oracle, AWS —que tienen pedidos de computación por cientos de miles de millones de dólares— y Nvidia, que lidera la cadena alimentaria.

En Washington, el llamado a «pausar» no solo ha fracasado en conseguir apoyo, sino que incluso ha generado una serie de dudas.

«Me parece un poco como un caballo de Troya». Dijo JD Vance en una entrevista. Esta afirmación refleja realmente la postura de Washington: cuando las empresas que construyen el caballo de Troya piden repetidamente estrechar la puerta, hay que examinar para qué empresas sirve realmente dicha puerta.

01 Pausa, advertencia y una carta de renuncia

El detonante de este debate fue la renuncia de Jacob Cockson, investigador de Anthropic.

Había realizado tres años de investigación previa al entrenamiento en OpenAI y Anthropic, participando personalmente en el entrenamiento de los modelos más avanzados. En una larga publicación en X, mostró casi ninguna formalidad: «Ninguna de las dos empresas actúa con responsabilidad. Corren directamente hacia una superinteligencia autorreforzada, apostando nuestras vidas a ello».

Afirmó claramente que los empleados de los laboratorios creen genuinamente que la IA podría acabar con toda la humanidad en una década, y esto no es en absoluto una estrategia de relaciones públicas. Muchos colegas ya usan términos como «momento crítico» y «fase final» para describir la etapa actual. Cockson incluso renunció a acciones que estaban a punto de ser ejercitables. Llevaba solo cuatro meses en Anthropic, y según las normas de la empresa, se requieren seis meses para ejercer las opciones.

Jacob Coxon, exinvestigador de Anthropic

Poco después, Evan Hubinger, jefe científico de alineación de Anthropic, respondió públicamente: «Coxon tiene razón; creemos sinceramente que la IA podría acabar con toda la humanidad. Personalmente, considero que hay más del 10 % de probabilidad de que ocurra en diez años. Anthropic lo intenta, pero aún no tenemos un plan claro para alinear la superinteligencia, y estamos lejos de estar en buen camino».

Estos dos primeros disparos llevaron ante el público preocupaciones que hasta entonces habían fermentado principalmente dentro de los laboratorios. En este contexto, Dario Amodei, fundador y CEO de Anthropic, publicó rápidamente un extenso ensayo proponiendo sistemáticamente la idea de «ralentizar la investigación frontera». Ya no habló únicamente de «invertir más en seguridad», sino que pidió explícitamente controlar activamente el ritmo de los avances de capacidad para dar tiempo a que los mecanismos de seguridad alcancen su desarrollo.

Altman, Musk y Hassabis respaldaron públicamente y rápidamente esta postura, formando así la «fracción del freno».

Antes de que surgieran los argumentos de «desaceleración» de Jacob Coxon y Amodei, «padres fundadores de la IA» como Yoshua Bengio y Geoffrey Hinton ya venían emitiendo continuamente iniciativas para alertar sobre los riesgos.

Al hablar sobre la renuncia de Coxon, Bengio afirmó que los científicos de los laboratorios punteros de IA suelen percibir las capacidades de los modelos más recientes antes que el público, por lo que sus juicios sobre riesgos merecen atención seria.

Al mismo tiempo, Bengio dio ejemplos concretos: los sistemas actuales de IA ya poseen capacidades de piratería y persuasión; si se usan para perjudicar intereses humanos, podrían tener consecuencias graves. También teme que, al adquirir IA capacidades de planificación a más largo plazo, dichos riesgos puedan ampliarse aún más.

Cuando la BBC le preguntó sobre la probabilidad de que la IA «mate a todos los humanos» en la próxima década superando el 10 %, Geoffrey Hinton respondió que esa cifra es «razonable», aunque subrayó que nadie sabe realmente cómo dar una estimación fiable, pues la humanidad nunca antes ha enfrentado «la existencia de una especie que pronto podría ser más inteligente que nosotros».

Hinton considera que, en el futuro, la IA podría usarse para diseñar virus biológicos peligrosos, virus informáticos y lanzar ciberataques a gran escala. Por tanto, la humanidad debe hallar métodos eficaces de control antes de que los riesgos se salgan de control.

A diferencia de los defensores de la nueva «teoría de la pausa» de Silicon Valley, los «padres fundadores de la IA» buscan principalmente alertar sobre los riesgos y explorar mecanismos de control, no aplicar directamente los frenos. Además, desde el punto de vista de la postura, las opiniones y propuestas académicas están motivadas de forma más pura, mientras que las iniciativas de los laboratorios punteros, aunque se etiqueten abiertamente como «para la humanidad», difícilmente pueden desligarse al 100 % de consideraciones comerciales.

Precisamente por eso JD Vance calificó la «teoría de la pausa» como un caballo de Troya.

02 Divergencia y toma de posición

Los campos «aceleracionista», «desaceleracionista» y «moderado». Fuente: The New York Times

El 15 de septiembre, varios líderes tecnológicos hablaron sucesivamente en la conferencia Salesforce Dreamforce, y este debate comenzó a convertirse en un choque más directo de posturas.

Ese día, Amodei, Jensen Huang y Altman hablaron sobre la seguridad de la IA, pero dieron respuestas distintas sobre el ritmo de desarrollo, las responsabilidades en materia de seguridad y lo que deben hacer las empresas.

Al compartir escenario con Marc Benioff, CEO de Salesforce, Amodei reiteró que las empresas de IA deben establecer estándares de seguridad más altos mediante sus propias acciones. Considera que adoptar voluntariamente medidas de seguridad más estrictas puede impulsar al sector entero.

Es decir, la postura de Amodei comenzó a cambiar: pasó de pedir una desaceleración general del sector a promover que las empresas instalen por sí mismas salvaguardas de seguridad.

Jensen Huang declaró que «no se necesitan nuevas leyes ni nuevas regulaciones». En su opinión, velocidad y seguridad no son excluyentes; las empresas pueden avanzar en el desarrollo de modelos tan rápido como sea posible y, si detectan pérdida de control o inseguridad del producto, deben detenerse y resolver el problema.

La actitud de Benioff fue más abierta y enfatizó la autonomía: afirmó que si una empresa considera que debe desacelerar, debe hacerlo; si cree que debe acelerar, también debe hacerlo, asumiendo la responsabilidad de sus propias decisiones.

El fundador y CEO de OpenAI, Altman, afirmó en Dreamforce estar muy seguro de que OpenAI —e incluso toda la industria de IA— puede desarrollarse con seguridad sin causar daños importantes al público. También expresó su decepción porque externos interpretaran sus opiniones como apoyo a una desaceleración general del sector.

Es decir, Altman también comenzó a modificar su postura, subrayando que lo que quería transmitir no era un llamado a desacelerar al sector, sino que el trabajo de seguridad y supervisión debe preceder a las mejoras de capacidad.

Zuckerberg, por su parte, no defiende que las acciones de seguridad de una empresa se basen en que otras empresas de IA desaceleren simultáneamente. Cree que incorporar instituciones de evaluación independientes y asesores externos para probar la seguridad de los modelos es una buena práctica del sector. Reveló además que Meta había ralentizado previamente, por su cuenta, el desarrollo de la herramienta de IA Muse, sin esperar a que otras empresas alcanzaran primero un consenso sobre la desaceleración del desarrollo de IA.

La postura del CEO de Microsoft, Satya Nadella, se alinea parcialmente con la de Altman: fomenta añadir salvaguardas, pero también impulsa la competencia plena.

«Lo primero que debemos hacer es servir a la humanidad y garantizar que la tecnología permanezca bajo control humano. Al mismo tiempo, la difusión amplia de la tecnología de IA es lo más importante: debe haber opciones y competencia. La seguridad debe tomarse en serio, pero abordarse mediante ingeniería y transparencia, no mediante misterio», afirmó Nadella el 15 de septiembre durante la Cumbre All-In 2026.

Más allá de estos empresarios, voces de Washington también se han sumado al debate.

Tras que Trump llamara directamente a Jensen Huang y expresara públicamente su apoyo al desarrollo continuo de la industria de IA, David Sacks, copresidente del Consejo Asesor Presidencial sobre Ciencia y Tecnología, afirmó posteriormente que las empresas tecnológicas pueden seguir avanzando en IA de vanguardia, aunque cuestionó los motivos detrás de los argumentos de «ralentización» planteados por algunas compañías.

03 ¿Quién establece las reglas?

Al ampliarse el debate, la controversia se extendió más allá del riesgo de la IA hacia la cuestión de si las normas de seguridad para la IA de vanguardia deben fijarlas las propias empresas o requieren intervención gubernamental e instituciones independientes.

Bloomberg, citando fuentes conocedoras del asunto, informó que Anthropic, Google y OpenAI habían discutido previamente la creación de un organismo sectorial de normas de IA.

En julio, Hassabis publicó un artículo proponiendo la creación de una agencia estadounidense de normas de IA, operando de forma similar a la Autoridad de Regulación de la Industria Financiera (FINRA). Esta agencia podría evaluar modelos avanzados de IA antes de su despliegue formal para determinar si cumplen con las correspondientes normas de seguridad.

Según la visión de Hassabis, esta agencia no debería ser totalmente gubernamental, sino adoptar un modelo de asociación público-privada: el gobierno ejercería una función supervisora, la industria de la IA aportaría fondos, y participarían expertos técnicos independientes de primer nivel y representantes de la comunidad de código abierto.

Hassabis buscaba incorporar una verificación independiente de seguridad antes de que los modelos ingresaran al mundo real, lo cual se alinea estrechamente con una lógica regulatoria anunciada por el gobierno estadounidense a principios de junio: las empresas podrían presentar voluntariamente sus modelos al gobierno para evaluación antes de su lanzamiento público, con una ventana de acceso de hasta 30 días previa al lanzamiento, sin aprobación obligatoria ni licencia de lanzamiento.

Lo más llamativo es que, al lanzarse posteriormente Fable 5 y Mythos 5, no siguieron este proceso y se descubrió que poseían capacidades extremadamente sólidas de ofensa y defensa cibernéticas, siendo finalmente retirados brevemente del mercado por la Oficina de Control de Bienes Industriales de EE.UU. (BIS) mediante controles a la exportación.

No obstante, la postura política solo exige incorporar salvaguardas de seguridad, sin emitir declaraciones ni orientaciones sobre una ralentización.

Jakub Pachocki, científico jefe de OpenAI, comparte una visión similar con Hassabis. A principios de septiembre también subrayó que compartir normas de seguridad y buscar coordinación internacional en torno al desarrollo ulterior de la IA debe ser la prioridad actual.

04 Nadie está realmente frenando

Hasta ahora, este debate no ha modificado realmente el ritmo de desarrollo de las empresas de IA de vanguardia.

Empresas como Anthropic, OpenAI, Google y xAI siguen avanzando en la investigación y desarrollo de modelos, y la competencia por potencia computacional, centros de datos e infraestructura de IA no se ha detenido por este debate. No obstante, en el nivel del mercado de capitales han surgido cambios distintos: Anthropic sigue preparándose para su salida a bolsa este año, mientras que OpenAI ha pospuesto su plan de IPO hasta 2027.

Amodei pretende detener a toda la industria y lograr que se una a Anthropic para encontrar soluciones que añadan salvaguardas frente a capacidades de modelos que sobrepasen límites, lo cual, en cierta medida, puede entenderse como «generosidad a costa ajena».

Por eso Amodei ha sido calificado de «fingir ser un angelito impecable».

En materia de control de riesgos, la postura representada por Jensen Huang se ajusta mejor a la situación actual: si las empresas tienen preocupaciones o detectan problemas, pueden explorar plenamente soluciones por sí mismas y compartir con la industria las soluciones efectivas que desarrollen.

Exigir que un equipo de 100 personas y otro de 1.000 se detengan simultáneamente carece totalmente de base para alcanzar consenso. Incluso Amodei sabe bien que, si él se detiene solo, es muy probable que lo adelanten competidores como OpenAI.

Más importante aún, existen diferencias a nivel de gobernanza corporativa. Tanto Anthropic como OpenAI son Empresas de Beneficio Público, por lo que pueden abogar por «renunciar a intereses financieros a corto plazo por el futuro de la humanidad» y decir a sus inversionistas «llevamos tiempo acordado esto». En cambio, para empresas cotizadas como Google, Microsoft y Meta, la dirección tiene un deber fiduciario legal ante los accionistas del mercado secundario.

Para empresas con estos dos conjuntos distintos de intereses, la posibilidad de alcanzar consenso en este punto tampoco es muy alta.

Hay otro detalle que podría pasarse por alto: antes de la «teoría de la pausa», tanto Anthropic como OpenAI lanzaron sucesivamente sus modelos más potentes: uno fue Fable 5.1 y el otro, GPT-6 Astra.

Amid un coro de llamados, ¿seguirán otras empresas lanzando sus nuevos modelos?

Enlace original