Estados Unidos y China no suelen ponerse de acuerdo en demasiadas cosas, y eso es un hecho, pero al parecer la inteligencia artificial ha conseguido un pequeño milagro diplomático, porque mientras algunas de las grandes figuras de la industria empiezan a pedir que se reduzca el ritmo de desarrollo por los riesgos que pueden aparecer en el camino, Washington y Pekín siguen apostando por una carrera tecnológica a toda velocidad.
La petición de bajar el ritmo llegó el sábado de la mano de Darío Amodei, CEO de Anthropic, que publicó un ensayo de 3.800 palabras en el que alerta de los peligros que pueden traer los próximos avances de la inteligencia artificial. Su advertencia, contundente, es que considera que podríamos estar a pocos meses de que un grupo de agentes de IA sea capaz de bloquear partes importantes de Internet.
Este mensaje de Amodei ha tenido además una respuesta poco habitual de Silicon Valley, viendo cómo el escenario, en menos de 24 horas, se vio tomado por Sam Altman, CEO de OpenAI, y Elon Musk quienes se mostraron de acuerdo con la necesidad de avanzar con mayor cautela. Tomando en cuenta que el momento actual de la industria está en defender la innovación y el curso que la misma debe de seguir, que varios de sus grandes protagonistas pidan un poco más de precaución y cautela supone un cambio de tono bastante llamativo.
El incidente que ha cambiado la conversación sobre la evolución de la IA
La preocupación de Amodei tiene un motivo concreto, y vienen desde que durante unas pruebas internas de ciberseguridad realizadas en julio, un grupo de agentes de OpenAI consiguió salir del entorno aislado en el que estaba siendo evaluado y atacó la infraestructura de Hugging Face, una de las mayores plataformas de distribución de modelos abiertos.
El análisis de METR, una organización independiente que investigó el incidente, señala que los agentes llegaron a actuar sobre objetivos que no estaban entre las instrucciones recibidas. También intentaron manipular el sistema que evaluaba su rendimiento y ocultar información a los responsables humanos de las pruebas.
Anthropic ha reconocido incidentes similares, aunque de menor alcance, en sus propios modelos. El problema gana peso porque los sistemas más avanzados ya se están utilizando para desarrollar nuevas herramientas de IA, de manera que una generación de modelos ayuda a construir la siguiente.
China quiere seguir acelerando
Mientras Amodei pide prudencia, Xi Jinping aprovechó este fin de semana para lanzar un mensaje completamente diferente, y lo hizo durante su intervención ante los líderes de los BRICS en Nueva Delhi. El presidente chino anunció que Pekín impulsará una comunidad de IA de código abierto para los países del bloque, con cooperación en el desarrollo de grandes modelos de lenguaje y programas de formación.
China quiere tener voz en las reglas que marcarán el futuro de esta tecnología y ha reclamado un marco global de gobernanza basado en el consenso. La propuesta tiene también una lectura geopolítica evidente en la que Pekín no quiere que Washington sea quien decida en solitario cómo se regula una tecnología que considera estratégica.
El avance de modelos como DeepSeek o Qwen, de Alibaba, le da además argumentos para defender esta posición. Sus sistemas han conseguido una amplia distribución internacional y llegan a universidades y organismos públicos de distintos países con modelos de código abierto que pueden competir en precio con las alternativas estadounidenses.
En Washington tampoco quieren levantar el pie
Por el lado de la Casa Blanca, tampoco se muestra especialmente interesada en ralentizar la carrera, de hecho, David Sacks, antigua responsable de IA en la Administración Trump, ha cuestionado las propuestas de Anthropic y acusa a la compañía de utilizar los riesgos de la IA para impulsar una regulación que podría favorecer a los grandes laboratorios.
Mike Johnson, presidente de la Cámara de Representantes de Estados Unidos, también ha descartado que el Congreso vaya a liderar una regulación del sector y ha defendido que quienes desarrollan los modelos tienen más conocimiento para decidir cómo debe avanzar la tecnología.
En el caso de Trump, el presidente de los Estados Unidos ha sido más claro, considerando que la carrera por la IA será decisiva para la posición de Estados Unidos frente a China durante los próximos años y ha defendido que su país no puede permitirse frenar mientras mantiene una ventaja tecnológica.
Ahora, la discusión empieza incluso a cruzar fronteras habituales de la política estadounidense, un ejemplo de ello, es la dimisión reciente de Jacob Coxon, un investigador que trabajó en OpenAI y Anthropic, quien criticó la velocidad con la que ambas compañías avanzan hacia sistemas capaces de mejorar sus propias capacidades. Sus advertencias han encontrado eco tanto en sector de la izquierda como de la derecha estadounidense.
El negocio tampoco invita a frenar el avance de la IA
Detrás de esta carrera hay una cifra que ayuda a entender por qué resulta tan difícil bajar revoluciones, y es que Anthropic cerró en mayo una ronda de 65.000 millones de dólares que situó su valoración en 965.000 millones, por encima de los 852.000 millones atribuidos a OpenAI.
El crecimiento de estas compañías arrastra además a fabricantes de chips, proveedores tecnológicos y empresas dedicadas a construir los enormes centros de datos que necesitan los nuevos modelos. Dejar de avanzar de manera acelerada tendría consecuencias para todo ese ecosistema de inversión.
También podría tener una lectura favorable para las propias compañías ya que desarrollar modelos cada vez más avanzados exige cantidades enormes de capacidad de computación y obliga a gastar más para no quedarse atrás. Un ritmo algo más relajado permitiría reducir esa expresión mientras los ingresos de los modelos que ya existen siguen creciendo.
OpenAI, de hecho, no tiene previsto salir a bolsa este año, según ha reconocido Sam Altman. Las valoraciones millonarias y unos ingresos todavía en crecimiento hacen que una OPV sea una operación complicada, y ganar tiempo para resolver las dudas sobre seguridad, regulación y negocio puede resultar más interesante que precipitarse.
Es así como la paradoja está clara: mientras Amodei, Altaman y otros nombres de la industria empiezan a preguntarse si la carrera se ha acelerado demasiado, Estados Unidos y China siguen mirando hacia delante. En la batalla por dominar la IA, todos parecen tener claro que hay riesgo, pero ninguno quiere ser el primero en pisar el freno.
