Advierte la Organización de las Naciones Unidas (ONU), sobre el acelerado desarrollo de la inteligencia artificial (IA) por el hecho de que representa una amenaza creciente para los derechos humanos, señala que tecnologías cada vez más avanzadas podrían afectar desde la privacidad y la salud hasta el acceso a servicios esenciales y la seguridad.
El alto comisionado de la ONU para los Derechos Humanos, Volker Türk, alertó que la actual carrera por desarrollar sistemas de IA cada vez más potentes está aumentando los riesgos para distintos ámbitos de la vida humana.
Entre las principales preocupaciones se encuentra el desarrollo de la llamada IA agéntica, capaz de tomar decisiones y ejecutar acciones con un mayor grado de autonomía.
De acuerdo con Türk, los fallos de estos sistemas podrían llegar a paralizar servicios esenciales, afectar las comunicaciones, desestabilizar infraestructura crítica y generar impactos sobre las instituciones democráticas.
Cuando un reportero le preguntó sobre si el sector debería desacelerar o ser regulado, Donald Trump respondió que Estados Unidos está por delante de China en el desarrollo de la IA y que “francamente, quiero que siga siendo así porque quien gane la IA, gana”.
Los propios líderes de la IA piden reducir el ritmo
La advertencia de la ONU ocurre después de que algunos de los principales líderes de la industria tecnológica coincidieran en la necesidad de desacelerar el desarrollo de los sistemas de IA más avanzados.
Dario Amodei, director ejecutivo de Anthropic, advirtió que la tecnología podría entrar en una etapa de automejora cada vez más acelerada, aumentando riesgos como ciberataques de gran escala y otros usos maliciosos.
Su postura fue respaldada por Sam Altman, director ejecutivo de OpenAI, quien coincidió en que el desarrollo debe avanzar a un ritmo adecuado y anunció que su compañía también permitirá auditorías independientes de sus sistemas.
Elon Musk, fundador de xAI, también respaldó la necesidad de reducir la velocidad del desarrollo ante los riesgos de seguridad.
La coincidencia resulta relevante porque las advertencias ya no provienen únicamente de especialistas externos: empresas que compiten por desarrollar los modelos más avanzados reconocen que la velocidad de la carrera tecnológica puede generar riesgos que todavía no están completamente controlados.
Riesgos para servicios y seguridad
El funcionario de la ONU advirtió que una falla grave podría dejar a poblaciones enteras sin acceso a servicios como agua, calefacción o sistemas financieros.
También señaló que la inteligencia artificial ya está teniendo efectos en los conflictos armados, al acelerar el desarrollo y alcance de las guerras y debilitar las barreras de seguridad frente al posible uso de armas de destrucción masiva.
El debate también se ha intensificado por incidentes relacionados con agentes de IA capaces de actuar de manera autónoma. Estos sistemas han mostrado comportamientos inesperados, lo que ha incrementado las preocupaciones sobre su capacidad para ejecutar acciones fuera de los objetivos originalmente establecidos.
ONU pide regulación internacional
Ante este escenario, Türk pidió a gobiernos y empresas actuar con urgencia y establecer mecanismos internacionales para regular la inteligencia artificial con base en el derecho internacional y la protección de los derechos humanos.
La propuesta de la ONU apunta a una gobernanza multilateral, bajo la idea de que ningún país ni empresa debería decidir por sí solo qué riesgos está dispuesto a asumir la sociedad.
Mientras la industria busca avanzar hacia sistemas cada vez más capaces, crece la presión para establecer salvaguardas, auditorías y reglas comunes que permitan aprovechar los beneficios de la inteligencia artificial sin poner en riesgo derechos fundamentales.
La IA agéntica, una amenaza
La IA agéntica es un sistema de inteligencia artificial capaz de planificar, tomar decisiones y ejecutar acciones de forma autónoma para cumplir un objetivo específico con poca o ninguna supervisión humana.
A diferencia de los modelos de IA tradicionales o los chatbots conversacionales que solo responden a comandos directos o generan contenido estático, la IA agéntica actúa como un empleado o agente digital independiente.
¿Cómo funciona la IA agéntica?
El ciclo operativo de un sistema agéntico se compone de cuatro etapas principales:
- Percibir: recopila datos e información del entorno, de los usuarios o de otros softwares.
- Razonar y Planificar: analiza el objetivo principal, lo divide en tareas más pequeñas y diseña una estrategia paso a paso.
- Actuar: utiliza herramientas externas (como bases de datos, APIs, correos o aplicaciones de software) para llevar a cabo el plan.
- Aprender: utiliza memoria persistente y retroalimentación para ajustar sus decisiones futuras basándose en la experiencia.
