La inteligencia artificial (IA) está transformando rápidamente el mundo. Desde el descubrimiento de nuevos horizontes científicos hasta la mejora de sectores clave como la salud, la energía y la agricultura, la IA promete revolucionar múltiples industrias y lograr avances significativos en los Objetivos de Desarrollo Sostenible (ODS). Sin embargo, el creciente poder de esta tecnología conlleva no solo grandes oportunidades, sino también considerables riesgos, que han despertado la atención de la ONU y su reciente informe sobre la gobernanza global de la IA.
En octubre de 2023, el Órgano Asesor de Alto Nivel sobre Inteligencia Artificial, conformado por expertos multidisciplinarios, emitió un informe clave que alerta sobre los peligros de la IA no regulada y propone una serie de recomendaciones para encauzar su desarrollo de manera equitativa y segura. Esta acción refleja la creciente preocupación mundial de que, sin un marco regulador sólido, los beneficios de la IA podrían concentrarse en manos de unos pocos, mientras que sus riesgos afectarán a muchos.
La IA como motor de progreso… y de desigualdad
El informe deja claro que, si bien la IA es una fuerza con un potencial asombroso, la falta de regulación podría crear profundas desigualdades. A nivel global, se corre el riesgo de que los beneficios de la IA se concentren en unas pocas naciones y grandes corporaciones tecnológicas, ampliando las brechas entre el Norte y el Sur Global. Esta tecnología, que ya está en manos de empresas poderosas, podría llegar a monopolizar el desarrollo económico y científico, relegando a muchas regiones y personas al papel de meros espectadores.
Además, el reporte subraya cómo la falta de acceso a los recursos necesarios, como datos de entrenamiento y capacidad computacional, frena la participación de los países en desarrollo. En particular, los avances en IA requieren grandes cantidades de datos y la computación de alto rendimiento, algo que está fuera del alcance de la mayoría de las naciones. Según el informe, ninguno de los 100 clusters más poderosos de computación se encuentra en países en desarrollo, lo que limita su capacidad para aprovechar esta tecnología.
Desinformación, vigilancia y armas autónomas
Uno de los aspectos más alarmantes que el informe de la ONU resalta es la creación y propagación de desinformación a gran escala mediante IA. Grandes modelos de lenguaje, similares a los que sustentan a los chatbots actuales, han mostrado una capacidad inquietante para generar contenido falso con una aparente veracidad. Este fenómeno, conocido como “alucinaciones” de IA, puede exacerbar la difusión de noticias falsas y manipular la opinión pública, afectando gravemente procesos democráticos y exacerbando tensiones sociales.
El informe también plantea preocupaciones sobre el uso de IA en sistemas de vigilancia masiva y armas autónomas, dos aplicaciones que tienen el potencial de alterar el orden global. Las armas autónomas, en particular, plantean dilemas morales y jurídicos sin precedentes. En este sentido, la ONU señala que la IA podría desatar una carrera armamentista sin regulación adecuada, donde las máquinas decidan por sí solas sobre la vida y la muerte.
A esto se suma el desafío de la vigilancia masiva impulsada por IA, que pone en jaque los derechos humanos fundamentales. El uso de sistemas de reconocimiento facial y análisis de comportamientos en espacios públicos es un área que suscita preocupación, dado su potencial para convertirse en herramientas de represión estatal.
La urgencia de una gobernanza global
El Órgano Asesor de la ONU enfatiza que la IA es una tecnología transfronteriza y que su gobernanza no puede dejarse solo a los mercados o a los intereses nacionales. La naturaleza de esta tecnología, que se despliega sin barreras, exige una cooperación internacional robusta que vaya más allá de las normativas y éticas aisladas de cada nación o corporación. El informe alerta que ningún país o grupo de países puede controlar por completo la evolución de la IA, y que los impactos de decisiones mal tomadas pueden repercutir en todo el mundo.
Entre sus recomendaciones más destacadas, el informe propone la creación de un panel internacional de expertos científicos, siguiendo el modelo del Grupo Intergubernamental de Expertos sobre el Cambio Climático (IPCC). Este panel sería responsable de proporcionar asesoría imparcial sobre los riesgos y oportunidades de la IA, garantizando que las decisiones globales se tomen basadas en evidencia científica sólida.
Otro punto central es la necesidad de mejorar la coordinación entre las múltiples iniciativas existentes a nivel global. Si bien ya hay cientos de guías y marcos sobre la IA, la fragmentación y la falta de representación global —con 118 países sin participación alguna en las principales iniciativas— impiden una gobernanza eficaz. El informe llama a que más voces, especialmente del Sur Global, tengan un papel activo en la toma de decisiones sobre la IA.
Hacia una gobernanza inclusiva: innovación y regulación
Para mitigar estos riesgos, el informe subraya la importancia de crear un terreno común de principios y normas que guíen la gobernanza de la IA. Esto no implica imponer una única forma de regulación, sino más bien crear un marco flexible e interoperable que respete los derechos humanos, fomente el desarrollo sostenible y evite una “competencia a la baja” en temas de seguridad y derechos.
Entre sus propuestas más innovadoras, el informe sugiere la creación de una oficina de IA dentro de la Secretaría General de las Naciones Unidas. Este nuevo organismo serviría como un “aglutinador” de los esfuerzos internacionales, asegurando que la ONU desempeñe un papel de liderazgo en la coordinación de las múltiples iniciativas relacionadas con la IA.
Asimismo, el informe recomienda la creación de un fondo global para IA, destinado a reducir las barreras de acceso a la computación y los datos necesarios para el desarrollo de esta tecnología en los países más pobres. Este fondo sería clave para garantizar que las naciones en desarrollo puedan beneficiarse de la IA y no queden marginadas en esta nueva era tecnológica.
La IA está aquí para quedarse, y con ella vienen grandes desafíos que deben ser abordados con urgencia. El informe del Órgano Asesor de la ONU destaca la necesidad de una gobernanza global que incluya a todos los actores en la mesa, desde los gobiernos hasta las empresas tecnológicas, pasando por la sociedad civil. Solo a través de un esfuerzo conjunto e inclusivo se podrán mitigar los riesgos de esta poderosa tecnología y asegurar que sus beneficios se distribuyan de manera justa y equitativa para toda la humanidad.