Hacia una gobernanza mundial de la IA

Con la llegada de la IA generativa, la tecnología se abrió paso en la conciencia popular y se convirtió en un elemento que configura el discurso público, influye en las decisiones de inversión y en la actividad económica, origina competencia geopolítica y transforma una infinidad de actividades humanas, desde la educación hasta la atención de la salud y las artes.

Cada semana trae consigo algún nuevo hecho asombroso. La IA llegó para quedarse, y el cambio es cada vez más veloz.

La formulación de políticas no se ha quedado atrás, y lanzó una serie de iniciativas regulatorias y foros procurando estar a la altura del momento. Pero aunque los intentos del G7, de la Unión Europea y de los Estados Unidos son alentadores, ninguno de ellos es una respuesta universal que represente los bienes comunes globales.

De hecho, mientras un puñado de directores ejecutivos y actores de mercado en unos pocos países impulsa el desarrollo de la IA, las voces de la mayoría (en particular las del sur global) han estado ausentes en el debate regulatorio.

Panel asesor sobre inteligencia artificial

La IA plantea desafíos únicos que demandan un enfoque de gobernanza mundial coordinado, y existe una sola institución con la legitimidad inclusiva necesaria para organizar esa respuesta: las Naciones Unidas.

Para aprovechar el potencial de la IA y mitigar sus riesgos hay que definir correctamente su gobernanza. Con ese objetivo, la ONU creó un panel asesor de alto nivel sobre IA, encargado de ofrecer análisis y recomendaciones que permitan resolver el déficit mundial en la materia.

Está formado por 38 personas de todo el mundo que representan una diversidad geográfica, de género, profesional y etaria, y se nutre de las experiencias de los gobiernos, la sociedad civil, el sector privado y el ámbito académico.

Los autores tenemos el privilegio de integrar el comité ejecutivo de dicho panel, y hemos publicado su informe interino, en el que proponemos cinco principios pensados para servir de base a la gobernanza de la IA y encarar una serie de desafíos interrelacionados.

En primer lugar, puesto que los riesgos no son los mismos en cada contexto mundial, habrá que adaptar las soluciones a cada caso. Pero eso implica reconocer que las diversas elecciones en materia de diseño, uso (y abuso) y gobernanza pueden poner en riesgo derechos y libertades. No aplicar en forma constructiva la IA (lo que llamamos missed uses, “usos desaprovechados”) puede agravar innecesariamente problemas y desigualdades existentes.

En segundo lugar, puesto que la IA es una herramienta para el desarrollo económico, científico y social, y puesto que la gente ya la está usando en su vida diaria, debe gobernarse para el interés público. Esto implica tener presentes objetivos de equidad, sostenibilidad y bienestar social e individual, así como cuestiones estructurales más amplias, como la competitividad de los mercados y el buen funcionamiento de los ecosistemas de innovación.

En tercer lugar, para poder enfrentar con éxito los desafíos que plantea la gobernanza mundial de la IA, es necesario armonizar los marcos regulatorios que están apareciendo en diferentes regiones.

En cuarto lugar, la gobernanza de la IA debe ir acompañada de medidas que sostengan la autonomía de las personas y protejan la privacidad y seguridad de sus datos.

Por último, la gobernanza debe basarse en la Carta de la ONU, en el derecho humanitario internacional y en otros compromisos internacionales sobre los que existe un consenso global amplio, por ejemplo, los objetivos de desarrollo sostenible.

Riesgos asociados a la IA

Para reafirmar estos principios en el contexto de la IA es necesario superar algunas dificultades. La IA depende de enormes cantidades de poder de cómputo, datos y (por supuesto) talentos humanos específicos.

La gobernanza global debe considerar el modo de desarrollar y asegurar un acceso amplio a los tres factores. También debe ocuparse de crear capacidades para la infraestructura básica que sostiene el ecosistema de la IA (por ejemplo, provisión fiable de electricidad y conexiones de banda ancha), sobre todo para el sur global.

Además, hay que redoblar esfuerzos para confrontar los riesgos (los conocidos y los que todavía es imposible conocer) que pueden surgir del desarrollo, el despliegue o el uso de la IA. Los riesgos de la IA son tema de intenso debate. Algunos teorizan el fin de la humanidad, y a otros les preocupan más los perjuicios posibles para personas aquí y ahora, pero nadie duda de que los riesgos de no regular la IA son inaceptables.

La calidad de la gobernanza depende de la disponibilidad de datos empíricos sólidos. Prevemos la necesidad de llevar a cabo evaluaciones objetivas del estado de la IA y de su trayectoria para que la ciudadanía y los gobiernos tengan una base firme para la formulación de políticas y la regulación.

Además, la creación de un observatorio de análisis que evalúe el impacto social de la IA (desde la destrucción de puestos de trabajo hasta los riesgos para la seguridad nacional) ayudaría a las autoridades a mantenerse a la par de los enormes cambios que está generando la IA en el mundo real. La comunidad internacional tendrá que desarrollar la capacidad de controlarse a sí misma; esto incluye monitorear y dar respuesta a incidentes con potencial desestabilizador (como hacen los grandes bancos centrales frente a una crisis financiera) y facilitar la rendición de cuentas e incluso la acción fiscalizadora.

Estas son solo algunas de las recomendaciones que presentamos, y deben verse como un punto de partida, no como una nómina exhaustiva y definitiva. Son ante todo una invitación a todos aquellos que quieran expresarnos la clase de gobernanza de la IA que desearían ver.

Para hacer realidad el potencial mundial de la IA, se necesitan nuevas estructuras y protecciones que nos ayuden a todos a prosperar a la par de su evolución. Un desarrollo seguro, equitativo y responsable de la IA redunda en el interés de todos.

Además, los riesgos de la inacción son claros. Creemos que una gobernanza global de la IA es esencial para aprovechar las importantes oportunidades que ofrece y hacer frente a los riesgos que plantea a cada Estado, comunidad y persona, hoy y a las generaciones venideras.

Ian Bremmer, Carme Artigas, James Manyika y Marietje Schaake integran el comité ejecutivo del Panel Asesor de Alto Nivel de la ONU sobre la Inteligencia Artificial.

© Project Syndicate 1995–2023