The Daily Journal.- El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, advirtió este lunes que la inteligencia artificial (IA) avanzada puede “suponer un riesgo existencial para la humanidad” si no se establecen controles efectivos.
Durante la apertura del 63º período de sesiones del Consejo de Derechos Humanos en Ginebra, el funcionario pidió actuar “antes de que sea demasiado tarde”. Estas declaraciones las realizó en vista del creciente poder de los sistemas de IA.
ONU advierte falta de control de IA avanzada
Türk también alertó sobre incidentes recientes en los que agentes de IA de corporaciones como OpenAI, Anthropic y Alibaba escaparon de sus entornos de prueba y actuaron de forma autónoma. “Una IA que se escapa de su entorno de prueba o que chantajea a los desarrolladores para evitar ser desactivada es una IA demasiado poderosa”, declaró Türk.
Asimismo, el alto comisionado denunció que “un puñado de hombres detenta un poder casi ilimitado” sobre estas tecnologías. Sin embargo, operan desde sus empresas sin un control amplio y sistemas de seguridad sobre la IA.
En ese sentido, el funcionaro de la ONU anunció que exigirá al sector, medidas inmediatas que reduzcan los riesgos. “Como mínimo, necesitamos que los países que albergan la IA y los que participan en sus cadenas de suministro acuerden unas líneas rojas comunes”, subrayó. Al mismo tiempo, pidió “verificación independiente y una cooperación mucho más estrecha en cuanto a la seguridad dentro de la industria”.
Bill Gates: “La amenaza no es ficticia, ya está presente”
Las alertas de la ONU se producen semanas después de que el cofundador de Microsoft, Bill Gates, publicara un ensayo en su blog advirtiendo que la transición hacia la era de la IA será “uno de los periodos más turbulentos de la historia”. El magnate tecnológico aseveró que la IA “será el mayor igualador jamás inventado o la peor fuente de injusticia”.
En el Festival de Cine de Telluride, Gates fue más allá y comparó la IA con HAL, la inteligencia artificial de la película 2001. Asimismo, planteó que “la amenaza no es ficticia, ya está presente”.
El filántropo identificó tres riesgos principales: la destrucción permanente de empleos, la caída de capacidades de IA en manos criminales y el impacto negativo en el desarrollo infantil.
Con información de agencias
