Por: Johanna Lastra
El debate actual sobre modernización de las administraciones públicas y los posibles escenarios emergentes de cara a la gestión pública del siglo XXI pone de manifiesto el efecto transformador que supone el uso de nuevas tecnologías en el sector público, sin embargo, poco se ha dicho sobre el impacto específico de la inteligencia artificial como agente catalizador de dichos cambios y los posibles efectos sistémicos que su uso ocasionará en las administraciones públicas.
La reflexión anterior es importante y nos impulsa a emprender un debate relevante sobre la capacidad que posee la inteligencia artificial diseñada a través de algoritmos, para producir y contribuir a distintas formas de injusticia, prejuicios, colonialismo de datos y nuevas desigualdades y exclusiones sociales, tal como afirman especialistas en la materia.
El debate sobre este nuevo escenario debe priorizarse en las agendas de Estado y de gobierno ya que, aunque la inteligencia artificial aplicada a la gestión pública es un fenómeno revolucionario que promete invaluables beneficios y oportunidades, plantea a su vez enormes retos y desafíos que tendrán efecto en la legitimidad, confianza, calidad, cultura, recursos humanos e infraestructura pública.
Fuente: CAF (2021) Informe de Datos e Inteligencia Artificial en el Sector Público.
Por un momento imaginemos, un país sin una adecuada estrategia para abordar la implementación de la IA en el sector público; donde no se plantee siquiera la elaboración de guías éticas o normas regulatorias claras para gestionar situaciones como la ocurrida cuando se implementó el sistema de IA para jueces en Estados Unidos, en el que se implementó un sistema de IA, diseñado bajo un conjunto de reglas o instrucciones (algoritmos), que afectaba la libertad de los ciudadanos negros con más frecuencia que a los ciudadanos blancos, producto de una desproporción o favoritismo racial (sesgo) que propiciaba la discriminación.
Pensemos en el caso Boulamnwini, cuya historia se hizo popular en un documental denominado ‘Sesgo codificado’, de la conocida plataforma Netflix, donde se relata la historia de una investigadora afroamericana del MIT, que se vio discriminada por un sistema de reconocimiento facial, que no reconocía su rostro, simplemente porque sus diseñadores habían tomado en consideración, rostros blancos a la hora de desarrollar el algoritmo ¿Se imaginan las implicaciones de sesgos similares en el marco de la ejecución de programas públicos?
¿Estos casos son aislados y puntuales? La respuesta es no. Hoy por hoy, se registran una gran cantidad de casos en los que además de las ventajas de la IA, se evidencia el diseño y/o uso inadecuado de la misma no sólo en el ámbito privado, sino también en el público, en momentos en que se intenta restablecer la confianza de los ciudadanos en las administraciones públicas.
No sé ustedes, pero pensar que estamos a merced de intereses privados, frente a algo tan determinante como el diseño e implementación de una tecnología que debe servir al ser humano; ciudadano, mientras ocurre un progresivo debilitamiento del Estado y se vulneran derechos humanos fundamentales, debe motivarnos a dirigir la atención a dar respuesta a preguntas esenciales como:
¿Qué papel jugarán las administraciones públicas en la supervisión y debida diligencia de sistemas de inteligencia artificial para evitar sesgos discriminatorios? ¿Están preparadas para afrontar una nueva filosofía de gobernanza algorítmica, frente a una gobernanza democrática en franco deterioro? ¿Podrán las administraciones públicas, a partir de las prometedoras bondades de la inteligencia artificial, llegar a resolver los problemas más acuciantes de grupos sociales que por años han sido excluidos del desarrollo? ¿Es posible que la poca explicabilidad de la IA, genere más exclusión de la que tenemos?
En Informe de CAF denominado Experiencia sobre la implementación de la IA en el sector público, elaborado en el 2020, recomienda establecer mecanismos de supervisión, contemplar a los usuarios afectados, abrir los algoritmos al escrutinio público, evaluar los posibles sesgos, riesgos e impactos que tendrá el uso de la IA en el sector público sobre las personas, empresas y comunidades, emprender estrategias para gestionar sus consecuencias e impactos negativos y estructurar modelos de gobernanza de datos e IA en un ecosistema de confianza, basado en un marco regulatorio adecuado.
La IA llego para quedarse, por ende es necesario impulsar agendas de Estado que contengan estrategias de gobernanza pública de la inteligencia artificial, que permitan aprovechar las ventajas de la tecnología, a la vez que se prepara a las administraciones públicas, para actuar sin rezagos, en la identificación y mitigación de riesgos que puedan afectar a los ciudadanos e instituciones.
No hay comentarios:
Publicar un comentario