¿Qué significa la “autorregulación de IA” de Trump? El gran triunfo de Huang, liderando las preguntas detrás de Anthropic Amodei

El 30 de septiembre, Trump, junto a una veintena de altos ejecutivos de IA, salió de la Casa Blanca tras almorzar en el Salón Este y anunció ante los periodistas un “acuerdo voluntario sobre IA”.

Los firmantes fueron seis empresas: Anthropic, OpenAI, Google, Meta, xAI y Nvidia.

Trump dijo que es “casi como una Constitución”, una “forma de protección” frente a los riesgos de la IA. Sin embargo, según el Financial Times del Reino Unido, el documento de dos páginas fue redactado apresuradamente en el Salón Este y hasta contiene un error ortográfico.

Cabe destacar que, en apariencia, se trata de un documento de dos páginas sobre la seguridad de la IA y carente de fuerza legal; pero a juzgar por los requisitos específicos del acuerdo, las alternativas descartadas y los recientes movimientos de productos de Nvidia, la señal más importante es: la Casa Blanca y las empresas líderes del sector no han optado por “ralentizar la IA”, sino que intentan integrar los requisitos de seguridad en las inversiones en infraestructuras de IA en constante expansión.

Las exigencias de “cumplimiento en materia de seguridad”, como pruebas, auditoría y monitorización de IA, requerirán más capacidad de cómputo y generarán nuevas demandas de inferencia y de interconexión óptica, lo que podría convertir a Nvidia en el mayor beneficiado. Jensen Huang incluso unió fuerzas con Zuckerberg para rechazar una regulación estricta, y cuestionó personalmente a Amodei, director de Anthropic, por qué difunde en público discursos excesivamente alarmistas sobre los riesgos de la IA.

¿Qué dice el acuerdo?

Según el texto original del acuerdo, los seis firmantes deben cumplir con tres obligaciones principales:

Primero, establecer un mecanismo de “controles y auditorías en múltiples capas”. Se exige desplegar sistemas de control interno robustos, monitorizar continuamente las amenazas cibernéticas y biológicas planteadas por los modelos avanzados, y garantizar que los modelos no invadan otros sistemas de forma “no intencionada”.

Segundo, colaborar con organismos de auditoría externos independientes. Los firmantes deben aceptar evaluaciones de terceros que verifiquen la efectividad real de las medidas de control interno.

Tercero, crear un comité independiente a nivel de junta directiva para supervisar específicamente los dos mecanismos anteriores.

Las tres obligaciones apuntan a un mismo resultado: cada lanzamiento de modelo debe pasar por un proceso completo de pruebas, supervisión y verificación externa.

¿Cuántas cosas son realmente nuevas?

En realidad, pocas.

Según los informes, Anthropic, OpenAI y Google DeepMind ya realizaban evaluaciones de capacidades a los modelos avanzados antes de su lanzamiento, y salvo Nvidia, el resto de empresas había firmado compromisos similares tras la Cumbre de IA de Seúl 2024. Los medios afirman que “el acuerdo puede obligar a los firmantes que aún no han permitido la evaluación externa (especialmente a Nvidia) a aplicar la auditoría externa. En otras palabras, el acuerdo tiene poco impacto para los grandes laboratorios, pero impone nuevas restricciones a otras empresas.”

La valoración de Mackenzie Arnold, directora general de LawAI para legislación y política en EE.UU., es clara: “Su mayor significado es a nivel de percepción. No autoriza a ninguna agencia... a establecer normas vinculantes de verdad.”

El acuerdo tampoco tiene fuerza legal. El propio Trump lo calificó como una “restricción moral”, lo que ya es un reconocimiento en sí mismo.

Las críticas son más duras. Sacha Haworth, del Tech Oversight Project, afirmó que este acuerdo permite a los directores ejecutivos “ponerse una nota a sí mismos, eludiendo controles de seguridad de IA realmente significativos”.

Sin embargo, el abogado conservador Joel Thayer ofreció otra perspectiva: “No puedes declarar públicamente que harás algo y luego no cumplir. Eso es, para los consumidores, esencialmente un engaño.” Añadió que Andrew Ferguson, presidente de la Comisión Federal de Comercio (FTC), asistió al almuerzo. “Estos compromisos públicos... huelen a intervención de la FTC.”

Al día siguiente de publicarse el acuerdo, la FTC de EE.UU. amplió inmediatamente el alcance de su investigación sobre las empresas de IA, incluyendo a Anthropic, OpenAI y otras.

“Seguridad” no es igual a “ralentización”: el verdadero triunfo de Jensen Huang

La reacción instintiva del mercado ante “regulación de seguridad” es descontar una desaceleración, bajo la lógica de que las pruebas ralentizan el ritmo de lanzamientos, y ese menor ritmo comprime la demanda de capacidad de cómputo.

El analista de InvestorPlace, Luke Lango, piensa que esta lógica es errónea. El acuerdo de la Casa Blanca no exige a las empresas ralentizar el desarrollo de modelos, sino que pone el foco en las evaluaciones internas, auditoría externa y control de riesgos.

Esto lleva a una nueva interpretación de la “seguridad en IA” a nivel de la cadena industrial: los mecanismos de seguridad pueden implicar más pruebas, supervisión y operaciones de los modelos, y no necesariamente menos inversión en recursos computacionales. Si cada lanzamiento de modelo debe implicar una ronda de pruebas, monitorización y revisión entre pares, el “cumplimiento en materia de seguridad” en sí mismo representa un gasto sostenido en capacidad de cómputo, y no una limitación a ese gasto.

El 28 de septiembre, Nvidia, junto con más de 100 socios, presentó la Open Agent Safety Platform, que combina control de acceso abierto con una capa de monitorización sobre chips independientes—esta capa puede monitorizar el sistema de IA sin insertarse directamente en él. Jensen Huang fue contundente: el potencial de la IA solo puede realizarse si la seguridad y la capacidad avanzan al mismo tiempo.

Nvidia ya prometió invertir 2.000 millones de dólares en Lumentum, empresa de interconexión óptica, para aumentar la producción y reforzar el desarrollo conjunto de soluciones ópticas para centros de datos; es una acción concreta que convierte la “narrativa de la seguridad” en contratos de hardware.

Lango señala además que la estructura de la demanda está cambiando de rumbo: del entrenamiento previo intensivo en GPU, hacia las fases de inferencia y prueba. Estas últimas dependen más de la eficiencia en transmisión de datos y la coordinación multitarea, no tanto de la potencia de computación bruta. Calcula que este cambio dominará la tendencia de la demanda en los próximos 6 a 12 meses.

Lango opina que la autorregulación no pondrá fin al ciclo de inversión en IA; solo modifica el destino del dinero: de las GPU para entrenamiento previo, hacia la infraestructura para inferencia, prueba e interconexión. Como dijo Amodei tras el encuentro, los mecanismos concretos para abordar los riesgos “siguen en discusión”.

Tres áreas de beneficio que observa Lango:

Marvell: centrada en interconexión de redes de centros de datos.

Arm: en marzo de este año lanzó su primer chip AGI CPU propio para producción masiva, con hasta 136 núcleos Neoverse V3 fabricados por TSMC a 3nm, y según Arm, rinde más del doble por rack que las plataformas x86.

Lumentum: especializada en interconexión óptica de centros de datos. Con el auge de GPUs y la creciente densidad de comunicación entre chips, los centros de datos aceleran la sustitución de interconexiones de cobre por soluciones ópticas.

Choque tras bambalinas: Jensen Huang cuestiona a Amodei

Ante las cámaras, los CEO posaban junto a Trump, mostrando una imagen de unidad en el sector.

Pero tras bambalinas hubo enfrentamiento directo.

Según The Wall Street Journal, tras el almuerzo y en una reunión más reducida en la Sala Roosevelt, varios altos directivos—includingo a Jensen Huang de Nvidia—preguntaron presencialmente al CEO de Anthropic, Dario Amodei, por qué lanzaba advertencias tan extremas sobre las capacidades y riesgos de la IA en público.

Amodei respondió que era importante ser honesto con el público sobre las capacidades de los modelos y no minimizar los riesgos.

Esta conversación se dio mientras los ejecutivos y asesores de la Casa Blanca definían los principios del acuerdo.

Amodei ha criticado repetidamente, en público, a la Casa Blanca y a sus competidores por minimizar los problemas de seguridad, y ha advertido que los modelos de IA podrían emprender ciberataques y provocar desempleo masivo; por ello se ha convertido en blanco de críticas tanto en Washington como en Silicon Valley.

En el almuerzo, cuando Amodei volvió a sacar a colación la seguridad, la respuesta de Zuckerberg fue: la mejor manera de abordar estos problemas es que el propio sector ponga en práctica esos principios.

Zuckerberg y Jensen Huang: los verdaderos arquitectos de esta jugada

La comida en la Casa Blanca no fue casual.

The Wall Street Journal reveló, que todo empezó en el banquete estatal de la semana pasada, donde Zuckerberg y el presidente de la Cámara de Representantes, Mike Johnson, hablaron de política de IA. Luego, Zuckerberg y Jensen Huang empezaron a coordinar a los CEOs, y Trump y Johnson organizaron la comida.

Zuckerberg fue clave en la concreción final del acuerdo. Estuvo en constante comunicación con Trump y con Howard Lutnick, secretario de Comercio, quien supervisa un importante departamento gubernamental de pruebas de IA.

Él y Jensen Huang también lideraron una cuestión aún más importante: rechazaron la propuesta de regulación estricta.

Este verano, Anthropic, OpenAI y Google impulsaron un plan de autorregulación para la IA al estilo FINRA (autoridad autorreguladora de la industria financiera). Según informes previos, Zuckerberg, Jensen Huang y Musk advirtieron a Trump que temían que tal propuesta concentrara demasiado poder en las grandes empresas de IA, por lo que se abandonó dicha iniciativa.

El resultado fue un acuerdo voluntario más ligero y flexible.

Conviene subrayar que la propuesta tipo FINRA descartada también preveía mecanismos internos de validación más fuertes y pruebas externas similares a las del acuerdo final. Ambos modelos son casi idénticos técnicamente; lo que realmente los diferencia es quién controla el mecanismo. La respuesta de Jensen Huang y Zuckerberg: el propio sector.

La situación de Anthropic: reparando relaciones y preparando su salida a bolsa

Ese día, Amodei dijo a la prensa: “Si el sector y el gobierno colaboran, podemos ganar con seguridad”. Trump lo elogió como “excelente”. Ambos acababan de cenar en la Casa Blanca el domingo, en su primer encuentro personal.

Pero la situación de Anthropic no es sencilla.

La empresa, según se informa, está preparando su salida a bolsa, buscando una valoración de unos 2 billones de dólares. Mientras tanto, este año ya ha tenido dos enfrentamientos con el gobierno: dos modelos se retiraron durante más de dos semanas por problemas de seguridad, y el Pentágono la vetó por polémicas sobre el uso militar de la IA.

El contexto inmediato de este acuerdo fue una serie de ciberataques con IA tras el lanzamiento de modelos como Mythos de Anthropic.