Aproximaciones sobre la Gobernanza Global de la Inteligencia Artificial: Retos y Desafíos

Por: Johanna Lastra 

La inteligencia artificial (IA) se ha convertido en una tecnología disruptiva que está cambiando rápidamente la dinámica de distintos sectores de la sociedad. Sin embargo, a la par de las innegables bondades de dicha tecnología, a medida que evoluciona, se plantean inquietudes significativas relacionadas con su gobernanza, la cual proyecta retos y desafíos importantes, que deben ser gestionados, tanto desde una perspectiva nacional, a través de las instituciones encargadas de liderar las estrategias tecnológicas de los distintos países, como también, desde la política exterior y plataformas internacionales, con el objetivo de abordar los desafíos y dilemas éticos, sociales y de distinta naturaleza, en el contexto de su uso, diseño  e implementación a nivel global. A continuación algunas aproximaciones: 

Marco regulatorio y estandarización: 

El establecimiento de un marco regulatorio adecuado para la IA es esencial para la gobernanza global de la Inteligencia Artificial, ya que existen diferencias significativas en las leyes y regulaciones relacionadas con la Inteligencia Artificial, lo cual genera y/o profundiza asimetrías y vacíos legales, que limitan la transparencia, responsabilidad y equidad en el desarrollo y uso de la Inteligencia Artificial.

Ética y responsabilidad: 

La Inteligencia Artificial plantea dilemas éticos complejos, como la toma de decisiones autónomas, la privacidad de los datos y el impacto en el empleo. La gobernanza global debe abordar estos desafíos y asegurar que la Inteligencia Artificial se utilice de manera ética y responsable. La implementación de principios éticos sólidos que coloquen al ser humano en el centro del asunto, así como la promoción de la transparencia y la rendición de cuentas, con la participación de múltiples actores interesados, son elementos clave para superar este reto.

Desigualdades y asimetrías

La adopción de la Inteligencia Artificial a nivel global no es uniforme y existe enormes asimetrías entre países y comunidades dentro de dichos países. La gobernanza global de la Inteligencia Artificial debe abordar estas desigualdades y garantizar que todos los países tengan acceso y oportunidades equitativas para beneficiarse de una tecnología, que de manera subyacente, tendrá el potencial de distorsionar el ejercicio de derechos humanos fundamententales.  En este sentido,  la colaboración internacional, la promoción de la transferencia de conocimientos y capacidades, y el fomento al desarrollo inclusivo de la inteligencia artificial, son fundamentales para mitigar los efectos generados por el uso de la inteligencia artificial. 

Seguridad y privacidad 

El creciente uso de la Inteligencia Artificial también plantea preocupaciones sobre la seguridad y la privacidad de los datos. La gobernanza global debe abordar estos desafíos estableciendo estándares sólidos de seguridad cibernética y protección de datos. Además, es necesario promover modelos educativos que incorporen y prioricen temas de este este tipo.

Colaboración y cooperación internacional 

La gobernanza global de la Inteligencia Artificial requiere de instrumentos que posibiliten la colaboración y cooperación internacional planificada estrategicamente y sustentados en políticas públicas sólidas, participación colectiva, así como el establecimiento de plataformas y mecanismos internacionales de diálogo y cooperación que permitan compartir buenas prácticas, intercambiar conocimientos y abordar de manera conjunta los desequilibrios globales que genere o pueda generar la inteligencia artificial.

La gobernanza global de la inteligencia artificial es un reto crucial que enfrentamos en la era digital, razón por la cual urge un abordaje integral, desde lo nacional, a través de las instituciones encargadas de dirigir las estrategias científicas y tecnológicas, así como desde la política exterior de los distintos países. 

Fuentes:

OCDE. (2020). Principios de la OCDE sobre Inteligencia Artificial.  https://www.oecd.org/going-digital/ai/principios-ia-ocde.htm 

G20. (2021). G20 AI Principles. https://g20.org/en/what-is-the-g20/about/g20-ai-principles/ 

Unión Europea. (2020). Ethical Guidelines for Trustworthy AI. https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai

Foro Económico Mundial. (2021). Shaping the Future of Technology Governance: Artificial Intelligence. https://www.weforum.org/whitepapers/shaping-the-future-of-technology-governance-artificial-intelligence

Comisión Europea. (2021). White Paper on Artificial Intelligence – A European Approach to Excellence and Trust. https://ec.europa.eu/info/publications/white-paper-artificial-intelligence-european-approach-excellence-and-trust_en

• 
  

Gestión Pública en el siglo XXI: Nuevos Escenarios e Inteligencia Artificial a debate

Por: Johanna Lastra

El debate actual sobre modernización de las administraciones públicas y los posibles escenarios emergentes de cara a la gestión pública del siglo XXI pone de manifiesto el efecto transformador que supone el uso de nuevas tecnologías en el sector público, sin embargo, poco se ha dicho sobre el impacto específico de la inteligencia artificial como agente catalizador de dichos cambios y los posibles efectos sistémicos que su uso ocasionará en las administraciones públicas. 

La reflexión anterior es importante y nos impulsa a emprender un debate relevante sobre la capacidad que posee la inteligencia artificial diseñada a través de algoritmos, para producir y contribuir a distintas formas de injusticia, prejuicios, colonialismo de datos y nuevas desigualdades  y exclusiones sociales, tal como afirman especialistas en la materia. 

El debate sobre este nuevo escenario debe priorizarse en las agendas de Estado y de gobierno ya que, aunque la inteligencia artificial aplicada a la gestión pública es un fenómeno revolucionario que promete invaluables beneficios y oportunidades, plantea a su vez enormes retos y desafíos que tendrán efecto en la legitimidad, confianza, calidad, cultura, recursos humanos e infraestructura pública. 

 

Fuente: CAF (2021) Informe de Datos e Inteligencia Artificial en el Sector Público.

Por un momento imaginemos, un país sin una adecuada estrategia para abordar la implementación de la IA en el sector público; donde no se plantee siquiera la elaboración de guías éticas o normas regulatorias claras para gestionar situaciones como la ocurrida cuando se implementó el sistema de IA para jueces en Estados Unidos, en el que se implementó  un sistema de IA, diseñado bajo un conjunto de reglas o instrucciones (algoritmos), que afectaba la libertad de los ciudadanos negros con más frecuencia que a los ciudadanos blancos, producto de una desproporción o favoritismo racial (sesgo) que propiciaba la discriminación. 

Pensemos en el caso Boulamnwini, cuya historia se hizo popular en un documental denominado ‘Sesgo codificado’, de la conocida plataforma Netflix, donde se relata la historia de una investigadora afroamericana del MIT, que se vio discriminada por  un sistema de reconocimiento facial, que no reconocía su rostro, simplemente porque sus diseñadores habían tomado en consideración, rostros blancos a la hora de desarrollar el algoritmo ¿Se imaginan las implicaciones de sesgos similares en el marco de la ejecución de programas públicos?  

¿Estos casos son aislados y puntuales? La respuesta es no. Hoy por hoy, se registran una gran cantidad de casos en los que además de las ventajas de la IA, se evidencia el diseño y/o uso inadecuado de la misma no sólo en el ámbito privado, sino también en el público, en momentos en que se intenta restablecer la confianza de los ciudadanos en las administraciones públicas.  

No sé ustedes, pero pensar que estamos a merced de intereses privados, frente a algo tan determinante como el diseño e implementación de una tecnología que debe servir al ser humano; ciudadano, mientras ocurre un progresivo debilitamiento del Estado y se vulneran derechos humanos fundamentales, debe motivarnos a dirigir la atención a dar respuesta a preguntas esenciales como: 

¿Qué papel jugarán las administraciones públicas en la supervisión y debida diligencia de sistemas de inteligencia artificial para evitar sesgos discriminatorios? ¿Están preparadas para afrontar una nueva filosofía de gobernanza algorítmica, frente a una gobernanza democrática en franco deterioro? ¿Podrán las administraciones públicas, a partir de las prometedoras bondades de la inteligencia artificial, llegar a resolver los problemas más acuciantes   de grupos sociales que por años han sido excluidos del desarrollo? ¿Es posible que la poca explicabilidad de la IA, genere más exclusión de la que tenemos? 

En Informe de CAF denominado Experiencia sobre la implementación de la IA en el sector público, elaborado en el 2020,  recomienda establecer mecanismos de supervisión, contemplar a los usuarios afectados, abrir los algoritmos al escrutinio público, evaluar los posibles sesgos, riesgos e impactos que tendrá el uso de la IA en el sector público sobre las personas, empresas y comunidades, emprender estrategias para gestionar sus consecuencias e impactos negativos y estructurar modelos de gobernanza de datos e IA en un ecosistema de confianza, basado en un marco regulatorio adecuado. 

La IA llego para quedarse, por ende es necesario impulsar agendas de Estado que contengan estrategias de gobernanza pública de la inteligencia artificial, que permitan aprovechar las ventajas de la tecnología,  a la vez que se prepara a las administraciones públicas, para actuar sin rezagos, en la identificación y mitigación de riesgos  que puedan afectar a los ciudadanos e instituciones.