¿Será este el año de una IA responsable?

Para cualquiera que haya vivido los años del ascenso de la internet y las redes sociales, la revolución de la IA evoca una sensación de “ya haber estado allí” y da pie a dos preguntas fundamentales: ¿Es posible mantener el impulso actual sin repetir los errores del pasado? ¿Podemos crear un mundo en que todos, incluidos los 2.600 millones de personas que siguen sin conexión, prosperaremos?

Para que la IA genere un futuro equitativo y centrado en el ser humano se requieren nuevas e inclusivas formas de innovación. Tres tendencias promisorias nos hacen tener esperanzas en el año que comienza.

Primero, la regulación de la IA se mantiene como una prioridad global de primer orden. Desde la Ley de IA de la Unión Europea hasta la orden ejecutiva de octubre del 2023 del presidente estadounidense Joe Biden, que proponen normativas para una IA responsable, responden a compromisos voluntarios de las grandes empresas tecnológicas con sugerencias de políticas sustentadas en la equidad, la justicia y los principios democráticos.

La comunidad internacional, liderada por el recién creado Consejo Asesor de las Naciones Unidas sobre la IA (uno de los autores de esta columna, Dhar, es miembro de esta entidad), tiene como objetivo impulsar varias de estas iniciativas, comenzando por el informe interino sobre gobierno de la IA para la humanidad.

Marcos de gobernanza

Más aún, este podrá ser el año en que se desmantelen las cámaras de la élite para pasar a cultivar un cuadro global de profesionales en ética de la IA. Al ampliar iniciativas como el Grupo de Tareas de Recursos Nacionales de Investigación sobre Inteligencia Artificial —creado en EE. UU. por la Ley de Iniciativa sobre la IA del 2020— y la localización de estrategias de implementación mediante herramientas como la metodología de evaluación de preparación de la Unesco, se podrían crear marcos de gobernanza globalmente inclusivos para la IA en el 2024.

A escala nacional, se espera un énfasis en la regulación de contenido generado por IA y el empoderamiento de autoridades y ciudadanos para enfrentar amenazas a la participación cívica impulsadas por la IA.

A medida que una multitud de países, que representan más del 40 % de la población mundial, se preparan para celebrar elecciones cruciales este año, se necesitarán medidas proactivas para luchar contra la inminente desinformación e información falsa que probablemente se intente propagar. Esto incluye iniciativas para aumentar la concienciación pública, promover un amplio alfabetismo mediático a lo largo de varios grupos etarios y abordar la polarización mediante el énfasis en la importancia de la empatía y el aprendizaje conjunto.

Es probable que, a medida que los gobiernos debatan sobre el papel de la IA en la esfera pública, los cambios normativos den nuevas fuerzas a las discusiones acerca del uso de las tecnologías emergentes para alcanzar objetivos públicos. El uso de la IA en la India para mejorar la eficiencia de sus trenes y el sistema de pago digital en Brasil son excelentes ejemplos.

Se prevé que en el 2024 entidades como el Programa de Desarrollo de la ONU exploren la integración de la IA a la infraestructura pública digital (IPD). Iniciativas que se pueden convertir en estándares, como el próximo Pacto Digital Mundial de la ONU, podrían funcionar como marcos de trabajo de múltiples actores para el diseño de una IDP inclusiva.

Deberían centrarse en la confianza, dar prioridad a las necesidades de las comunidades y la responsabilidad por sobre las utilidades, y adherir a los “principios compartidos para un futuro digital abierto, libre y seguro para todos”.

Beneficios inmediatos

Los grupos de la sociedad civil ya están aprovechando el impulso y beneficiándose del poder de la IA. Por ejemplo, la organización sin fines de lucro Population Services International y la empresa emergente basada en Londres Babylon Health están lanzando un analizador de síntomas y localizador de centros de atención sanitaria potenciado por IA, demostrando la capacidad de esta tecnología de ayudar a que los usuarios manejen su salud.

De manera similar, organizaciones como Polaris y Girl Effect están trabajando para superar las barreras a la transformación digital dentro del sector sin fines de lucro, enfrentando problemas como la privacidad de los datos y la seguridad de los usuarios. Tanto las fundaciones filantrópicas como las instituciones públicas podrían ayudar a aumentar la escala de estas iniciativas, al desarrollar mecanismos de financiación centralizados, crear redes internacionales de expertos y adoptar una política de fomento de alianzas.

A medida que este tipo de organizaciones pasen de integrar la IA a sus respectivos ámbitos de trabajo a desarrollar nuevos productos de IA, nuestra concepción del liderazgo y la representación en la tecnología también ha de evolucionar. Si modificamos nuestras percepciones ya caducas de quiénes son los actores clave del ecosistema actual de la IA, tendremos una oportunidad de celebrar el rostro verdadero y diverso de la innovación y resaltar a precursores procedentes de una variedad de géneros, razas, culturas y zonas geográficas, al tiempo que resolvemos la marginación deliberada de voces minoritarias en el ámbito de la IA.

Organizaciones como Hidden Genius Project, Indigenous in AI y Technovation ya están trazando el “quién es quién” del futuro, con especial énfasis en las mujeres y la diversidad racial. Si apoyamos colectivamente su trabajo, nos aseguraremos de que asuman un papel importante en dar forma y supervisar las tecnologías de IA en el 2024 y más allá.

Los debates sobre qué significa “estar centrados en lo humano” y los valores por los que se deberían guiar nuestras sociedades darán forma a nuestra interacción con la IA. Marcos de trabajo de múltiples actores, como la Recomendación sobre la ética de la inteligencia artificial de la Unesco pueden proporcionar una muy necesaria orientación.

Al poner el énfasis en valores compartidos como la diversidad, la inclusividad y la paz, las autoridades y sus pares tecnológicos podrían definir los principios en los que se han de basar el diseño, desarrollo y uso de herramientas de IA inclusivas. De manera similar, para integrar estos valores a nuestras estrategias será necesario involucrarnos con las comunidades y tener un firme compromiso con la equidad y los derechos humanos.

Puesto que la IA está muy en camino a ser tan ubicua como la internet, debemos aprender de los éxitos y los fracasos de la revolución digital. Si seguimos en nuestro actual trayecto nos arriesgamos a perpetuar —o incluso exacerbar— la brecha de la riqueza mundial y alejarnos más de las comunidades vulnerables del planeta.

Pero si, por el contrario, reafirmamos nuestro compromiso con la equidad, la justicia y la dignidad, podríamos establecer un nuevo marco global que permita que cada persona reciba la parte que le corresponde de la innovación tecnológica. Debemos hacer uso de este año que comienza para cultivar alianzas de múltiples socios y promover un futuro en que la IA genere prosperidad para todos.

Yolanda Botti-Lodovico es directora de políticas y promoción de la Fundación Patrick J. McGovern.

Vilas Dhar es presidente de la Fundación Patrick J. McGovern.

© Project Syndicate 1995–2024