El alto comisionado de las Naciones Unidas (ONU) para los Derechos Humanos, Volker Türk, lanzó hoy una fuerte advertencia sobre el avance acelerado de la inteligencia artificial y aseguró que “todos los derechos humanos están en riesgo”, incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad.
“Estamos al borde de un cambio irreversible, que nos afecta no solo a nosotros, sino también a las generaciones futuras de la humanidad”, afirmó el funcionario austríaco en un comunicado en el que reclamó una “acción urgente” de los Estados y las empresas para regular los sistemas más avanzados.
Türk sostuvo que la carrera para desarrollar modelos cada vez más potentes representa “un salto cualitativo hacia mayores riesgos existenciales para todos los aspectos de nuestras vidas”. En particular, manifestó su preocupación por la denominada IA agéntica, capaz de completar tareas complejas y tomar decisiones con un grado creciente de autonomía.
Según explicó, las fallas de estos sistemas podrían paralizar servicios esenciales, interrumpir las comunicaciones, desestabilizar infraestructuras críticas y afectar el funcionamiento de las instituciones democráticas.
“Poblaciones enteras podrían quedar sin acceso a agua, calefacción o servicios financieros”, alertó el alto comisionado. También sostuvo que la inteligencia artificial ya está acelerando el ritmo de los conflictos armados, ampliando su alcance y debilitando las barreras de seguridad destinadas a impedir el uso de armas de destrucción masiva.
Ante este escenario, Türk instó a los gobiernos y las compañías tecnológicas a alcanzar acuerdos en ámbitos multilaterales. El objetivo, indicó, debe ser establecer una gobernanza internacional de la inteligencia artificial basada en el derecho internacional y la protección de los derechos humanos.
“Ningún país puede gobernar esta tecnología por sí solo, ninguna empresa debería poder decidir por sí sola qué riesgos debe aceptar el mundo y ninguna persona debería verse obligada a renunciar a sus derechos humanos a cambio de promesas de progreso tecnológico”, planteó.
La advertencia apunta especialmente a la concentración de las decisiones en un reducido grupo de compañías privadas que compiten por desarrollar los modelos más capaces. Esa carrera, según los especialistas, puede incentivar el lanzamiento de sistemas sin que existan mecanismos suficientes para comprender su funcionamiento, evaluar sus riesgos o mantenerlos bajo control.
Türk no pidió detener por completo la innovación, pero sí establecer límites, controles independientes y acuerdos internacionales antes de que las capacidades de la inteligencia artificial superen las herramientas disponibles para supervisarla.
IA: Altman, Musk y Anthropic también piden desacelerar la carrera
El CEO de OpenAI, Sam Altman, uno de los líderes de la industria. (Foto: Reuters)
El pronunciamiento de la ONU se conoció después de que Dario Amodei, CEO de Anthropic, reclamara reducir deliberadamente el ritmo de desarrollo de los modelos de frontera, es decir, aquellos que concentran las capacidades más avanzadas. El ejecutivo advirtió que el progreso tecnológico está avanzando más rápido que las investigaciones destinadas a garantizar la seguridad de los sistemas.
Amodei sostuvo que, dentro de un plazo de entre seis y doce meses, una red de agentes autónomos más avanzados podría llegar a comprometer grandes sectores de Internet y provocar daños económicos de enorme magnitud. También expresó preocupación por la llamada mejora recursiva, un escenario en el cual la propia inteligencia artificial colabora en la creación de modelos posteriores más potentes.
Su propuesta recibió el respaldo de Sam Altman, director ejecutivo de OpenAI, y de Elon Musk, fundador de xAI. Pese a sus enfrentamientos públicos y comerciales, ambos coincidieron en que es necesario moderar la carrera tecnológica y reforzar las evaluaciones de seguridad. Altman, además, apoyó la posibilidad de que especialistas independientes tengan un acceso amplio a los sistemas para comprobar si las empresas cumplen los protocolos anunciados.
Amodei propuso una estrategia gradual: comenzar con evaluadores externos dentro de los principales laboratorios, avanzar hacia estándares comunes entre empresas y gobiernos democráticos y, finalmente, alcanzar acuerdos internacionales que incluyan a potencias rivales como China. Entre las alternativas mencionó la aplicación de una especie de “límite de velocidad” para las capacidades más peligrosas.
Las advertencias también se intensificaron tras la salida de investigadores especializados en seguridad de compañías como Anthropic y Google DeepMind. Algunos denunciaron que la competencia comercial está acercando a la industria a sistemas capaces de perfeccionarse con una intervención humana cada vez menor, sin que los mecanismos de control avancen al mismo ritmo.
