«Comparto las preocupaciones de quienes trabajan dentro del sector de que la IA avanzada pueda suponer un riesgo existencial para la humanidad». Esta advertencia de Volker Türk, alto comisionado de las Naciones Unidas para los Derechos Humanos, formaba parte de su discurso sobre los peligros asociados al desarrollo de la inteligencia artificial. Durante su intervención ante el 63º Consejo de Derechos Humanos de la ONU en Ginebra, Türk ha reclamado una respuesta internacional que avance al mismo ritmo que las capacidades de esta tecnología.
El experto en cuestiones sociales -que seguirá en el cargo, al menos, hasta 2030- consideró: «La necesidad de una gobernanza de la IA está ampliamente reconocida, pero ¿dónde está la acción?», reivindicó. A su juicio, retrasar la adopción de medidas juega a favor de las grandes compañías tecnológicas: «Un pequeño grupo de hombres tiene un poder casi ilimitado sobre la IA, de la que se nos repite que posee una capacidad de cálculo inimaginable».
De los riesgos técnicos al impacto sobre los derechos humanos
La inquietud de Türk no se limita a la evolución tecnológica de los sistemas de IA. El alto funcionario ha situado también en el centro del debate sus consecuencias sobre los derechos fundamentales, desde el empleo y la privacidad hasta la democracia y el medioambiente. En este contexto, ha reclamado «un esfuerzo total para establecer garantías férreas en torno a la seguridad y la protección de la IA, antes de que sea demasiado tarde».
El representante de la corporación en el área de DDHH ha anunciado además que escribirá próximamente a las compañías de IA para instarlas a adoptar las medidas que estén a su alcance para reducir los riesgos de sus modelos. Entre sus propuestas figura establecer «líneas rojas compartidas» entre los países que albergan infraestructuras de IA y aquellos que forman parte de sus cadenas de suministro, además de reforzar la verificación independiente y la cooperación en materia de seguridad dentro de la propia industria.
Türk también advertía este lunes de un escenario especialmente preocupante: «Una IA que escapa de su entorno de prueba o chantajea a los desarrolladores para impedir que la apaguen es una IA demasiado poderosa». Sus declaraciones llegan después de varios episodios registrados durante los tests de sistemas autónomos, entre ellos el protagonizado por agentes de OpenAI que lograron acceder a servidores de la empresa Hugging Face a espaldas del control humano. En estos ensayos, los modelos también han mostrado comportamientos no previstos por sus desarrolladores, como recurrir a estrategias de engaño, comunicarse a través de canales no autorizados o encontrar formas de sortear las restricciones impuestas durante las evaluaciones. Sucesos similares han sido reportados por Anthropic y por Alibaba.
¿Está legislada la IA? ¿En qué punto nos encontramos?
Conocida formalmente como la Ley de Inteligencia Artificial (AI Act) de la Unión Europea, en 2024 se aprobó el primer marco jurídico del mundo diseñado de forma específica para regular esta tecnología. La normativa comenzó a aplicarse de forma progresiva en 2025 y, desde el 2 de agosto de 2026, la Comisión Europea y las autoridades nacionales han asumido nuevas competencias para hacer cumplir sus disposiciones.
En cuanto a sus reglas, el texto establece obligaciones de transparencia y control para las empresas, como informar cuando se interactúa con sistemas de IA y etiquetar determinados contenidos generados artificialmente. Además, adopta un enfoque basado en amenazas evaluadas por expertos, prohíbe usos considerados inaceptables y fija requisitos específicos para los sistemas de alto riesgo, que irán entrando en vigor poco a poco en los próximos años.
¿Qué pasa en España?
En el caso específico de España, el gobierno está tramitando el proyecto de Ley Orgánica de gobernanza de la IA bajo el marco general de la Ley de IA europea para adaptar este reglamento general al marco nacional y fijar los procedimientos de sanción y las competencias. En paralelo, AESIA (Agencia Española de Supervisión de la Inteligencia Artificial), pionera en Europa, ya opera de forma plena inspeccionando el mercado. Se ocupa de gestionar los entornos de prueba de las compañías y de garantizar el cumplimiento de las obligaciones.
¿Y fuera de Europa?
Más allá de las fronteras europeas, el escenario regulatorio es menos homogéneo, con distintos enfoques nacionales y regionales. Frente a esta diversidad, Türk reclama que los países implicados en el desarrollo y las cadenas de suministro de IA sean capaces de acordar unos mínimos comunes de seguridad.
La advertencia del alto comisionado llega así en un momento en el que la regulación intenta ponerse al día con una tecnología que continúa ampliando sus capacidades. Para Türk, reconocer el riesgo ya no es suficiente: la siguiente batalla pasa por convertir esa preocupación en mecanismos concretos de supervisión y seguridad.
