Reflexiones sobre Inteligencia Artificial y Salud Mental en Centroamérica: intersección entre innovación y ética

Por: Johanna Lastra

La región centroamericana, caracterizada por su rica historia y diversidad cultural, enfrenta una serie de desafíos únicos en el ámbito de la salud mental. Los conflictos históricos, las desigualdades sociales, económicas, los problemas persistentes de violencia, pobreza y recientemente el coronavirus, han dejado huellas profundas en la salud mental de la población de la región (Rodríguez, J., García, A., 2018).

A pesar de esfuerzos ingentes por desarrollar una estrategia regional, las políticas y normativas de salud mental en Centroamérica aún son objeto de crítica por parte de profesionales y activistas. Los servicios de salud mental suelen estar centralizados en instituciones psiquiátricas de gran escala, muchas de las cuales han sido criticadas por violaciones a los derechos humanos y condiciones inadecuadas (OMS, 2016). Además, existe una falta crónica de recursos y personal capacitado en el sector de salud mental, lo que limita el acceso a la atención y la calidad de los servicios disponibles.

La integración de los servicios de salud mental en la atención primaria sigue siendo un desafío considerable. La falta de formación especializada en salud mental entre los profesionales de la salud, junto con la estigmatización persistente de los trastornos mentales, ha creado barreras significativas para la integración efectiva de estos servicios en la atención sanitaria general (Alarcón, R. D., 2019).

No obstante, la región también ofrece oportunidades significativas para la reforma y la innovación en el ámbito de la salud mental. Las iniciativas comunitarias y las organizaciones no gubernamentales han comenzado a desempeñar un papel vital en la promoción de la salud mental y la prevención de enfermedades mentales, a menudo utilizando enfoques creativos y centrados en la comunidad para abordar estas cuestiones de manera efectiva (Kohrt, B. A., Mendenhall, E., 2019).

Inteligencia Artificial y Salud Mental: Una Perspectiva Crítica

En este contexto, la inteligencia artificial (IA) emerge como una herramienta revolucionaria en diversos sectores, incluyendo la salud mental. Su implementación puede generar diagnósticos más precisos, así como intervenciones tempranas y personalizadas, sin mencionar una mejor distribución de recursos (Davenport, T., Kalakota, R., 2019).

En Centroamérica, la incorporación de la inteligencia artificial en la salud mental es incipiente pero prometedora, ya que tiene el potencial de ayudar a superar las barreras históricas relacionadas con la accesibilidad y la calidad de la atención, proporcionando herramientas para monitorear y gestionar enfermedades mentales de manera más eficiente.

Sin embargo, pese a su enorme potencial, es crucial adoptar una postura crítica hacia la incorporación de la inteligencia artificial en el campo de la salud mental, especialmente en una región donde las políticas y las normativas pueden no estar completamente preparadas para afrontar los desafíos éticos que esto implica. Uno de los mayores desafíos es la protección de la privacidad y la confidencialidad de los pacientes (Martínez-Martin, N., Kreitmair, K., 2018), principalmente si se considera que la recolección y análisis de datos de salud mental mediante tecnologías de inteligencia artificial pueden exacerbar los riesgos de violaciones de privacidad si no se gestionan adecuadamente.

Además, la integración de la inteligencia artificial en el ámbito de la salud mental, puede preservar y en algunos casos maximizar las desigualdades existentes en la región. En tal sentido, es vital garantizar que la incorporación de estas tecnologías no excluya a los grupos socioeconómicamente desfavorecidos, quienes pueden no tener acceso a estas innovaciones debido a barreras económicas y tecnológicas (Vayena, E., Blasimme, A., Cohen, I.G., 2018).

Por último, existe la preocupación de que la implementación de la inteligencia artificial pueda desplazar la experiencia y el juicio clínico de los profesionales de la salud mental, frente a lo cual, la formación y la competencia de los profesionales en el manejo y la interpretación de las intervenciones basadas en inteligencia artificial será crucial para garantizar que estas tecnologías se utilicen de manera ética y efectiva (Luxton, D. D., 2014).

Psicoterapias Contemporáneas e Inteligencia Artificial: Una viable intersección 

Las psicoterapias contemporáneas, que se caracterizan por ser variadas y en constante evolución, se están convirtiendo en una parte crucial del arsenal de intervenciones disponibles para los profesionales de la salud mental en Centroamérica. Estas terapias, que incluyen enfoques cognitivo-conductuales, psicodinámicos y humanísticos, tienen como objetivo abordar una gama amplia de trastornos y problemas de salud mental (Hofmann, S.G., Asnaani, A., Vonk, I.J.J., Sawyer, A.T., Fang, A., 2012).

No obstante, es esencial examinar críticamente las normativas de salud mental en la región, que a menudo están marcadas por insuficiencias en términos de acceso, calidad y protección de los derechos de los pacientes (Saraceno et al., 2007). Una revisión rigurosa y una eventual revisión de estas normativas son vitales para asegurar que las psicoterapias contemporáneas puedan desplegarse de manera efectiva y ética.

Inteligencia Artificial: Un Agente de Cambio

La Inteligencia Artificial (IA) puede funcionar como un poderoso agente de cambio, ya que puede permitir el abordaje de algunas de las brechas existentes en el sistema de salud mental en Centroamérica, facilitando, por ejemplo, intervenciones remotas y personalizadas, así como monitoreo más expedito de los pacientes (Luxton, D.D., 2014).

Sin embargo, su potencial como agente de cambio trae consigo desafíos significativos, ya que la inteligencia artificial, con su capacidad para recolectar y analizar grandes cantidades de datos, plantea preguntas éticas serias, especialmente en términos de consentimiento informado, privacidad y seguridad de datos. Además, existe el riesgo de dependencia excesiva de la tecnología, lo que podría potencialmente erosionar la relación terapéutica entre el paciente y el terapeuta, un pilar central de muchas formas de psicoterapia (Martínez-Martin, N., Kreitmair, K., 2018).

Análisis y Reflexiones Críticas sobre Estrategias y Directrices Regionales para la Promoción de la Salud Mental en Centroamérica

La necesidad de desarrollar y ejecutar una estrategia regional consolidada para abordar los desafíos que presenta la salud mental en Centroamérica motiva necesarias reflexiones en cuanto a: 

Desarrollo e Implementación de Instrumentos Regionales

La creación de políticas, planes y programas adaptados a la realidad de cada país es una iniciativa que promueve la autonomía y considera las especificidades culturales y sociales de cada nación. Sin embargo, esta estrategia también podría fomentar la disparidad en los estándares de atención y prevención de la salud mental a lo largo de la región. Sería prudente implementar mecanismos de colaboración y aprendizaje mutuo entre los países, para evitar la creación de "silos" aislados de iniciativas de salud mental.

El diseño de planes de salud mental para emergencias y desastres es sumamente oportuno, especialmente en el contexto de la pandemia de COVID-19. A su vez, estas estrategias deben ser flexibles y adaptativas, permitiendo una respuesta rápida ante emergencias inesperadas.

Estrategias Intersectoriales y Participativas para la Promoción de la Salud Mental

El enfoque intersectorial y comunitario puede ser una estrategia potentemente inclusiva. A pesar de esto, implementar una colaboración efectiva entre sectores diversos y la comunidad puede ser un reto significativo, al requerir de la creación de plataformas y canales de comunicación efectivos.

La promoción de la participación comunitaria es vital, pero debe ser acompañada de educación y capacitación en salud mental para asegurar intervenciones efectivas y sensibles en la comunidad.

Actualización de Instrumentos Basados en Evidencias

La actualización de instrumentos basada en evidencia es una estrategia sólida para asegurar que las políticas y programas sean efectivos y adaptados a las necesidades actuales de la población. No obstante, esto requiere un compromiso con la investigación y la recolección de datos a nivel regional, lo que podría ser una empresa costosa y logísticamente compleja.

Fortalecimiento de Sistemas de Información y Construcción de Evidencia Científica

El fortalecimiento de los sistemas de información y la regionalización de indicadores comunes es una estrategia clave para promover la colaboración y el aprendizaje mutuo entre países. Asegurar registros precisos y eficientes de intentos de suicidio y mortalidad por suicidio es también crucial para entender y abordar esta problemática a profundidad.

Recomendaciones sobre integración de inteligencia artificial a líneas estratégicas en materia de salud mental 

La integración de la inteligencia artificial (IA) puede ser una poderosa herramienta para ampliar y mejorar los esfuerzos en salud mental en la región centroamericana. A continuación, se presentan algunas recomendaciones sobre cómo podría incorporarse la inteligencia artificial en función de una Estrategia Regional de Salud Mental para Centroamérica, tomando en consideración el advenimiento de la inteligencia artificial.

Colaboración Regional Activa: Fomentar la colaboración activa entre los países de la región, estableciendo canales de comunicación efectivos y promoviendo el intercambio de buenas prácticas y lecciones aprendidas.

Inteligencia artificial para el análisis de datos transfronterizos

Implica el uso de sistemas avanzados basados en inteligencia artificial (IA) para analizar, interpretar y utilizar grandes cantidades de datos provenientes de múltiples fronteras o regiones. Aquí, profundizo en las varias dimensiones y aplicaciones potenciales de esta iniciativa:

•Plataformas de Colaboración IA-Facilitadas: Desarrollar plataformas colaborativas que utilicen inteligencia artificial para agilizar el intercambio de datos y conocimientos entre países, fomentando estrategias basadas en datos para enfrentar desafíos comunes en salud mental.

•Sistemas de Traducción Automatizados: Utilizar la inteligencia artificial para crear sistemas de traducción y adaptación lingüística que faciliten la comunicación y colaboración entre países con diversidad lingüística.

Capacitación y Educación Comunitaria: 

Implementar programas de educación y capacitación en salud mental a nivel comunitario, para promover una participación comunitaria informada y efectiva.

•Programas de Educación Virtual: Implementar programas educativos virtuales, respaldados por inteligencia artificial, que personalicen la educación en salud mental para diferentes demografías y comunidades.

•Sistemas de Monitoreo y Evaluación: Utilizar la inteligencia artificial para desarrollar sistemas de monitoreo y evaluación que proporcionen insights sobre la efectividad de los programas educativos y permitan ajustes mucho más flexibles y dinámicos.

Inversión en Investigación y Desarrollo: 

Incrementar la inversión en investigación y desarrollo, para permitir la creación y actualización continua de instrumentos basados en evidencia.

•Análisis Predictivo: Emplear técnicas de inteligencia artificial para análisis predictivo, lo que permite identificar patrones y tendencias emergentes en datos de salud mental, facilitando la toma de decisiones proactiva.

•Automatización de la Investigación: Utilizar inteligencia artificial para automatizar procesos de investigación, como la recopilación y análisis de datos, liberando tiempo y recursos para centrarse en intervenciones directas.

Desarrollo de Infraestructura Tecnológica: 

Desarrollar una infraestructura tecnológica que permita una recopilación y análisis de datos eficiente y armonizado a nivel regional.

•Sistemas de Alerta Temprana: Implementar sistemas de alerta temprana basados en inteligencia artificial para identificar y responder a brotes de problemas de salud mental en tiempo real.

•Telemedicina y Servicios de Salud Digital: Desarrollar servicios de telemedicina y salud digital que utilicen inteligencia artificial para ofrecer consultas y terapias a distancia, especialmente en áreas rurales y remotas.

Enfoque Preventivo en Políticas de Salud Mental: 

Fomentar un enfoque preventivo en las políticas de salud mental, promoviendo iniciativas que aborden los determinantes sociales de la salud mental.

•Aplicaciones Móviles para Bienestar Mental: Crear aplicaciones móviles basadas en inteligencia artificial que ofrezcan herramientas de bienestar mental, incluyendo terapias de autoayuda y rastreo del estado de ánimo.

•Análisis de Redes Sociales: Utilizar la inteligencia artificial para analizar las redes sociales y otros datos en línea para identificar signos tempranos de crisis de salud mental, permitiendo intervenciones preventivas.

Las políticas públicas y la normativa legal tienen un papel crucial en facilitar una intersección segura y productiva entre la inteligencia artificial y la salud mental en Centroamérica. La adopción de un marco regulatorio sólido y adaptable puede ser un paso significativo hacia la realización del potencial de la inteligencia artificial para transformar positivamente el campo de la salud mental en la región.

En síntesis, la integración de la inteligencia artificial en el ámbito de la salud mental en Centroamérica presenta oportunidades significativas para mejorar el acceso y la calidad de la atención. Sin embargo, debe abordarse con cautela, asegurando que se preserven las normas éticas y que se fortalezcan, en lugar de debilitar, las relaciones terapéuticas centradas en el ser humano. A medida que avanzamos, será crucial fomentar un diálogo continuo entre los stakeholders para navegar estos desafíos complejos y en constante evolución.

Referencias

Alarcón, R. D. (2019). Retos en la Salud Mental de Latinoamérica. Revista Latinoamericana de Psiquiatría, 9(1), 1-10.

Davenport, T., Kalakota, R. (2019). The Potential for Artificial Intelligence in Healthcare. Future Healthcare Journal, 6(2), 94–98.

Hofmann, S.G., Asnaani, A., Vonk, I.J.J., Sawyer, A.T., Fang, A. (2012). The Efficacy of Cognitive Behavioral Therapy: A Review of Meta-analyses. Cognitive Therapy and Research, 36(5), 427-440.

Kohrt, B. A., Mendenhall, E. (2019). Global Mental Health: Anthropological Perspectives. Routledge.

Koops, B.J., Newell, B.C., Timan, T., Škorvánek, I., Chokrevski, T., & Galič, M. (2016). A Typology of Privacy. University of Pennsylvania Journal of International Law, 38(2), 483-575.

Luxton, D. D. (2014). Artificial Intelligence in Psychological Practice: Current and Future Applications and Implications. Professional Psychology: Research and Practice, 45(5), 332–339.

Martínez-Martin, N., Kreitmair, K. (2018). Ethical Issues for Direct-to-Consumer Digital Psychotherapy Apps: Addressing Accountability, Data Protection, and Consent. JMIR Mental Health, 5(2), e32.

Mittelstadt, B., Floridi, L. (2016). The Ethics of Big Data: Current and Foreseeable Issues in Biomedical Contexts. Science and Engineering Ethics, 22(2), 303-341.

OMS (2016). Informe sobre la Salud en el Mundo: Ampliando la Atención de Salud Mental. Organización Mundial de la Salud.

Rodríguez, J., García, A. (2018). Salud Mental en Centroamérica: Retos y Oportunidades. Revista Centroamericana de Salud Mental, 5(2), 55-68.

Saraceno, B., van Ommeren, M., Batniji, R., Cohen, A., Gureje, O., Mahoney, J., Sridhar, D., & Underhill, C. (2007). Barriers to improvement of mental health services in low-income and middle-income countries. The Lancet, 370(9593), 1164-1174.

Vayena, E., Blasimme, A., Cohen, I.G. (2018). Machine learning in medicine: Addressing ethical challenges. PLoS Medicine, 15(11), e1002689.

Panamá en el Índice Latinoamericano de Inteligencia Artificial: Desafíos y Oportunidades

 

El lanzamiento del primer Índice Latinoamericano de Inteligencia Artificial ha generado expectativas en toda la región. En este contexto, la posición de Panamá en este índice es una cuestión relevante que refleja tanto los desafíos como las oportunidades que enfrenta el país en el panorama de la IA. En este artículo, exploraremos cómo Panamá se sitúa en este índice y las implicaciones que esto puede tener para su desarrollo tecnológico y social.

La inclusión de Panamá en el Índice Latinoamericano de Inteligencia Artificial es un recordatorio de que la IA no conoce fronteras y está presente en todo el continente. La posición de Panamá en este índice puede servir como un termómetro para medir su avance en la adopción y desarrollo de tecnologías de IA. El índice considera factores habilitantes, investigación y desarrollo, y gobernanza, lo que proporciona una visión holística de la situación de la IA en el país.

La posición de Panamá en el índice puede revelar desafíos y oportunidades únicas. En términos de desafíos, el acceso equitativo a la tecnología y la brecha digital pueden ser obstáculos que afecten la adopción y el aprovechamiento completo de la IA en Panamá. Además, cuestiones éticas y de privacidad deben ser abordadas para garantizar que la IA se implemente de manera responsable y segura.

Sin embargo, también hay oportunidades que Panamá puede capitalizar. La posición geográfica estratégica del país, su economía en crecimiento y su interés en la innovación tecnológica brindan una base sólida para la exploración y adopción de la IA. Además, la IA podría ser un motor para la diversificación económica y la mejora de los servicios públicos en áreas como la salud y la educación.

La posición de Panamá, #9 en el Índice Latinoamericano de Inteligencia Artificial debe ser considerada en un contexto más amplio. Más allá de los números y las estadísticas, es crucial que el país aborde la IA desde una perspectiva integral que abarque aspectos tecnológicos, éticos, sociales y económicos. Esto implica colaboración entre el gobierno, la academia, el sector privado y la sociedad civil para establecer una visión compartida y construir un ecosistema de IA que beneficie a todos los ciudadanos.

Análisis de los Resultados del Índice Latinoamericano de Inteligencia Artificial

El Índice Latinoamericano de Inteligencia Artificial (ILIA) presenta una serie de hallazgos y resultados que arrojan luz sobre la situación y el panorama de la inteligencia artificial en la región. A través de diversos indicadores y subdimensiones, se evidencian tanto los avances como las carencias que enfrentan los países de América Latina en este campo. A continuación, se presenta un análisis de los principales hallazgos y su relevancia en el contexto regional.

1. Puntuación Regional y Desafíos

Los resultados revelan que la puntuación regional promedio es 34,38, muy por debajo del puntaje máximo global de 120. Aunque Chile y Panamá lideran en la región con 42,5 puntos, estos puntajes apenas representan un tercio del puntaje máximo a nivel mundial. Esto indica que a pesar de ser líderes regionales, existe una distancia significativa con respecto a las naciones más avanzadas en inteligencia artificial. Además, la homogeneidad en las carencias y brechas entre los países de la región refleja desafíos compartidos que requieren una atención colectiva.

2. Percepción y Colaboración Internacional

La percepción pública sobre la inteligencia artificial varía en la región. Brasil destaca por tener un porcentaje significativo de percepción negativa, mientras que Ecuador y Colombia (Andina 2) presentan una mayor proporción de percepción positiva en comparación con otras regiones. Es interesante notar que la percepción en redes sociales y medios digitales difiere en algunos países, lo que sugiere que la discusión pública sobre la IA varía según la plataforma. La colaboración internacional en la investigación y desarrollo de IA también muestra cambios a lo largo de los períodos, con una red de colaboración más densa en los últimos años.

3. Desarrollo y Habilidades Tecnológicas

La penetración de habilidades tecnológicas y disruptivas varía entre países y sectores productivos. Países como Uruguay, Panamá y Costa Rica lideran en cantidad de data centers per cápita, lo que indica un entorno favorable para la infraestructura tecnológica. Brasil sobresale en habilidades tecnológicas y disruptivas, seguido por Argentina. Sin embargo, otros países como Chile, Colombia, Costa Rica y Uruguay muestran puntajes bajos en estos indicadores, destacando la necesidad de fortalecer las capacidades tecnológicas en toda la región.

4. Gobernanza y Regulación

La gobernanza y regulación de la IA presentan desafíos importantes. Algunos países como Argentina y Chile muestran un mayor nivel de promoción gubernamental en este campo, mientras que otros, como Bolivia, Costa Rica, Ecuador, Panamá y Paraguay, enfrentan un déficit marcado en regulación y estrategia en IA. La ausencia de una regulación sólida puede afectar la adopción segura y ética de la tecnología, lo que resalta la necesidad de desarrollar marcos regulatorios adecuados.

5. Transferencia Tecnológica y Colaboración

La transferencia tecnológica es un aspecto crítico para el desarrollo de la IA en la región. Los datos indican que Uruguay y Costa Rica muestran una alta productividad en plataformas de colaboración como GitHub, lo que sugiere una participación activa en proyectos de código abierto. Sin embargo, Brasil y México concentran la mayoría de las patentes asociadas a la IA en la región, lo que señala un desafío en la generación y protección de propiedad intelectual.

6. Reflexión sobre los Hallazgos

Los resultados del ILIA subrayan la necesidad de abordar diversos aspectos para impulsar el desarrollo sostenible de la inteligencia artificial en América Latina, el cual demuestra que, aunque hay avances en algunos países, la región en su conjunto enfrenta desafíos significativos en términos de infraestructura, habilidades tecnológicas, regulación y colaboración internacional. La heterogeneidad entre países y sectores también es evidente, lo que requiere enfoques adaptados a las necesidades específicas de cada lugar.

El Índice Latinoamericano de Inteligencia Artificial brinda una visión integral de la situación de la IA en la región. Los hallazgos presentados muestran tanto los avances logrados como los desafíos pendientes en términos de desarrollo tecnológico, colaboración internacional, percepción pública y regulación. Estos resultados no solo deben servir como un diagnóstico, sino también como un llamado a la acción para que los países de América Latina trabajen juntos para superar las brechas identificadas y aprovechar al máximo las oportunidades que la IA ofrece en términos de innovación, crecimiento económico y desarrollo sostenible.

Acceso al documento: Indice de Inteligencia Artificial

Übermensch tecnológico y existencia humana: reflexiones en un mundo caórdico

                                                                              1998, Le poids des ans

Por: Johanna Lastra

La noción del "Übermensch", o superhombre, que Friedrich Nietzsche nos presentó, no es simplemente la propuesta de un ser superior, sino una invitación a reevaluar y transgredir los valores establecidos en pro de una existencia más auténtica. Desde esta perspectiva, la contemporaneidad tecnológica nos confronta con una dialéctica intensamente nietzscheniana: ¿es la tecnología el vehículo que nos permitirá encarnar la figura del Übermensch o, por el contrario, nos sumirá en una nueva forma de nihilismo?

Nietzsche veía en la humanidad una tensión constante entre el Apolíneo y el Dionisíaco; el primero simbolizando el orden, la estructura y la razón, y el segundo la intuición, el caos y el éxtasis. La tecnología, con sus promesas de eficiencia, precisión y expansión de capacidades, parece ser una manifestación extremadamente apolínea. Sin embargo, ¿no reside también en sus profundidades un impulso dionisíaco? La capacidad de la tecnología de destruir y reconstruir, de sumirnos en realidades virtuales y alterar nuestras percepciones, ¿no es acaso una expresión de ese caos y éxtasis dionisíaco?

El verdadero desafío, desde una perspectiva nietzscheniana, no es tanto si la tecnología puede potenciar o limitar nuestras capacidades, sino cómo puede reconfigurar nuestra relación con el mundo, con los demás y con nosotros mismos. Si la voluntad de poder, como sostenía Nietzsche, es la fuerza motriz fundamental del ser humano, entonces la tecnología se presenta como una herramienta ambivalente. Por un lado, amplifica nuestra capacidad de dominar el mundo exterior, de alterar nuestro entorno a nuestra imagen y semejanza. Pero, por otro lado, corre el riesgo de convertirnos en esclavos de nuestros propios artefactos, de alienarnos de nuestra esencia en una paradoja donde nuestra herramienta de dominación nos domina.

Nietzsche, en su crítica a la moral judeocristiana, sostenía que el hombre había matado a Dios para erigirse en su lugar. En el contexto tecnológico, uno podría preguntarse si no estamos en un proceso similar: al buscar crear inteligencias y entidades que nos superen, ¿no estamos intentando crear un nuevo dios, uno hecho a nuestra imagen, pero libre de nuestras limitaciones?

El camino hacia el Übermensch tecnológico es incierto. Si bien la tecnología tiene el potencial de liberarnos, también puede encadenarnos a un nuevo tipo de sometimiento. La invitación de Nietzsche, entonces, es a ejercer una voluntad de poder auténtica, no solo sobre el mundo, sino sobre nosotros mismos, para que en la era digital no perdamos de vista nuestra aspiración más profunda: la superación constante y la reafirmación de la vida en todas sus manifestaciones.

El desafío de la existencia humana en la era digital: una reflexión desde Heidegger y Nietzsche

Nos encontramos en un punto de inflexión histórico donde la tecnología, con su alcance omnipresente, no solo modifica nuestras prácticas diarias, sino que interpela la estructura misma de nuestra existencia. Martin Heidegger, en su meditación sobre el "ser en el mundo", concebía al ser humano en una relación intrínseca con su entorno, un ser que encuentra significado en su interacción con el mundo. Pero, ¿cómo se transforma esta interacción, y con ella nuestra esencia, cuando el mundo se ve cada vez más mediado por lo digital?

La tecnología, en su imbricación con lo cotidiano, no solo afecta nuestras acciones, sino también nuestra capacidad para encontrarnos auténticamente y comprender nuestra existencia. Se extiende más allá de ser una simple herramienta y se convierte en un espejo que refleja, distorsiona y a veces redefine nuestra percepción del "ser". Este fenómeno lleva a un cuestionamiento crucial: a medida que nos adentramos en la simbiosis digital, ¿logramos una expresión más completa de nuestro ser o nos alienamos de nuestra autenticidad?

Nuestra posición cósmica también se ve redefinida en este nuevo milenio tecnológico. Frente a un panorama en el que las máquinas y algoritmos toman decisiones, aprenden y hasta crean, el ser humano se enfrenta al dilema de su propio lugar en el orden del universo. ¿Somos arquitectos de este nuevo cosmos digital o simples habitantes en la vastedad de un espacio dominado por la inteligencia artificial?

Aunque visiones optimistas de la tecnología nos pintan un futuro en el que humanos y máquinas coexisten en armonía, el espectro de una "obsolescencia humana" es una posibilidad que no puede ser ignorada. En este escenario, no solo se pone en juego nuestra relevancia, sino nuestra propia identidad. ¿Quiénes somos si las máquinas pueden emular, o incluso superar, nuestras capacidades cognitivas y emocionales?

Este escenario nos exige repensar conceptos que han sido pilares de la reflexión filosófica: identidad, autonomía, valor y ética ya no son temas de especulación, sino dilemas concretos que enfrentamos en nuestra convivencia diaria con la tecnología. Es un llamado a la reflexión profunda y al entendimiento de que, en esta era digital, la filosofía no es un lujo, sino una necesidad vital, que se manifiesta en múltiples dimensiones, a saber:

·         Identidad: A medida que la biotecnología nos permite reemplazar o mejorar partes de nuestro cuerpo y cerebro con implantes cerebrales, surgen preguntas inquietantes. ¿En qué momento de este continuo tecno biológico dejamos de ser "humanos"? ¿Existe un límite intrínseco a nuestra esencia humana, o estamos en un proceso de redefinición perpetua?

     Autonomía: La era digital, marcada por la neurociencia y la nanotecnología, ha dado lugar a dispositivos capaces de influir en nuestros pensamientos y emociones. Ante esta realidad, cabe preguntarse si en la escalada de avances científicos, mantendremos un libre albedrío en su sentido más puro o bien, ¿estaremos a merced de algoritmos que guiaran nuestras decisiones y sentimientos, o seguiremos siendo los arquitectos de nuestro destino?

·    Valor Humano: En un mundo donde la inteligencia artificial tiene el potencial de emular o incluso superar nuestras habilidades, surge una reflexión profunda sobre el valor intrínseco del ser humano. Si las máquinas pueden realizar todas nuestras funciones, ¿qué nos distingue? ¿Qué significa el "valor" de lo humano y del ser humano, en un mundo dominado por máquinas?

·   Ética y Moral: La relación entre humanos y máquinas trasciende la dimensión tecnológica para adentrarse en un debate ético-filosófico. Es imperativo considerar criterios éticos y morales en el desarrollo, implementación y uso de la inteligencia artificial. No obstante, el panorama se complica cuando imaginamos una máquina desarrollando su propio sentido de moralidad, que podría divergir o incluso contradecir nuestro sistema de valores.

·   Lejos de circunscribir los avances tecnológicos al binomio economía-tecnología, la relación entre humanos y máquinas implica un cuestionamiento sobre nuestra identidad, propósito y posición en el cosmos. Esta reflexión se profundiza al considerar fenómenos emergentes como socialización en el metaverso o discriminación algorítmica. Dominios que aunque diferentes, convergen en implicaciones éticas y filosóficas sobre nuestra esencia y misión en esta nueva era.

Desafíos derivados de la convergencia humano-tecnología

Desde implantes que mejoran nuestras habilidades sensoriales hasta interfaces cerebro-máquina que nos permiten controlar dispositivos con el pensamiento, estamos presenciando una convergencia sin precedentes entre humanos y tecnología, en una simbiosis que propone una evolución, un paso hacia el "Übermensch tecnológico", atestado de interrogantes sobre si en el proceso de innovación y desarrollo tecnológico, ¿estamos, a su vez, renunciando a parte de nuestra humanidad?

·        Biotecnología

La biotecnología, que abarca desde la edición genética hasta órganos creados en laboratorios, promete revolucionar la salud y la concepción de la longevidad, al mismo tiempo que presenta dilemas sobre ¿hasta qué punto debemos modificar la genética humana? ¿Qué significa "mejorar" al ser humano, y quién decide qué mejoras son deseables o éticas?, mientras las líneas entre lo natural y lo artificial se hacen cada vez más difusas, planteando el riesgo de crear nuevas desigualdades, como las desigualdades biológicas, a partir de desigualdades existente, fundadas en el acceso a "mejoras genéticas", por criterios de riqueza o estatus social.

·         Metaverso

El metaverso, un universo virtual con todas las amenidades del universo real, plantea preguntas sobre la dualidad de nuestra existencia. ¿Qué ocurre si pasamos más tiempo inmersos en realidades virtuales, que en la realidad física-material? ¿dónde reside nuestra verdadera estabilidad e identidad como seres humanos? Considerando que, estas realidades digitales, al ser construidas por humanos, no están exentas de sesgos, ¿podrían estas inmersiones virtuales llevar a la creación de espacios que perpetúen estereotipos o desigualdades existentes en el mundo real? De ser así, quién regulará y/o mitigara los efectos de lo virtual sobre el mundo real?

·       Supremacía algorítmica

Los algoritmos, aunque matemáticamente neutros, se alimentan de datos que pueden estar imbuidos de prejuicios humanos, lo cual puede llevar a decisiones sesgadas que afectan negativamente a grupos de por si vulnerables, como adultos mayores, mujeres, etc.

·        Neurociencia

La neurociencia busca desentrañar los misterios más profundos de nuestra mente y conciencia, a través de herramientas que pueden mapear, y potencialmente manipular, nuestros procesos cerebrales, frente a lo cual surgen preguntas sobre la privacidad, la autonomía y la esencia del libre albedrío. ¿Qué sucede cuando nuestras más íntimas reflexiones ya no son privadas? ¿O cuando nuestras decisiones pueden ser influenciadas sin nuestro conocimiento?, ¿estamos preparados como sociedad para hacer frente a estos desafíos, sin una adecuada reflexión ética y filosófica sobre el ser y el deber ser?

·         Nanotecnología

La nanotecnología, con su capacidad de manipular materiales a nivel molecular o atómico, ofrece posibilidades casi ilimitadas en medicina, energía y otras áreas. Sin embargo, también trae consigo preocupaciones sobre la seguridad, la manipulación no ética del cuerpo humano y el medio ambiente, así como el potencial uso indebido de esta tecnología por gobiernos y empresas privadas, en áreas tan sensibles como desarrollo de armamento o políticas de vigilancia estatal.

Estas y otras reflexiones, más que necesarias, son imprescindibles, ya que a medida que avanzamos en el siglo XXI, la relación entre humanos y tecnología va más allá de la mera convergencia física. Es una intrincada danza entre esencia humana, ética, e infinitas posibilidades de desarrollo, en el cual, a cada paso, debemos preguntarnos no solo "¿qué podemos hacer?", sino también "¿qué debemos hacer?" para asegurar la existencia humana. 

Mientras navegamos en aguas desconocidas, es esencial abordar estos temas con un profundo sentido de responsabilidad y respeto por la dignidad humana, independientemente de cuán entrelazada esté con la tecnología, a la vez que se va definiendo el camino hacia ese "Übermensch Tecnológico”, en un mundo cada vez más caórdico.

Créanme, el cliente nunca volverá!

  

Hace años, Sam Walton, fundador de la mayor red minorista del mundo, Wal-Mart, abrió un programa de entrenamiento para sus empleados, con mucha sabiduría. Cuando todos esperaban una charla sobre ventas y servicio, comenzó con las siguientes palabras:

" Soy el hombre que va a un restaurante, se sienta a la mesa y espera pacientemente, mientras el camarero hace todo menos anotar mi pedido.

Soy el hombre que va a una tienda y espera en silencio mientras los vendedores terminan sus conversaciones privadas.

Soy el hombre que entra en una gasolinera y nunca usa la bocina, pero espera pacientemente que el empleado termine la lectura de su periódico.

Soy el hombre que explica su desesperada urgencia por una pieza, pero no reclama que la reciba solamente después de tres semanas de espera.

Soy el hombre que, cuando entra en un establecimiento comercial, parece estar pidiendo un favor, rogando por una sonrisa o esperando sólo ser notado.

Debes estar pensando que soy una persona callada, paciente, del tipo que nunca crea problemas... se equivoca.

Sabes quién soy? Soy el cliente que nunca volverá!

Me divierto viendo millones gastados cada año en anuncios de todo orden, para llevarme de nuevo a su empresa. Cuando fui allí por primera vez, todo lo que deberían haber hecho era sólo un pequeño gesto de AMABILIDAD, simple y barata: tratar con un poco más de cortesía.

Sólo hay un jefe: el cliente. Y puede despedir a toda la gente de la empresa, del presidente al conserje, simplemente llevando su dinero para gastar en otro lugar."

Aproximaciones sobre la Gobernanza Global de la Inteligencia Artificial: Retos y Desafíos

Por: Johanna Lastra 

La inteligencia artificial (IA) se ha convertido en una tecnología disruptiva que está cambiando rápidamente la dinámica de distintos sectores de la sociedad. Sin embargo, a la par de las innegables bondades de dicha tecnología, a medida que evoluciona, se plantean inquietudes significativas relacionadas con su gobernanza, la cual proyecta retos y desafíos importantes, que deben ser gestionados, tanto desde una perspectiva nacional, a través de las instituciones encargadas de liderar las estrategias tecnológicas de los distintos países, como también, desde la política exterior y plataformas internacionales, con el objetivo de abordar los desafíos y dilemas éticos, sociales y de distinta naturaleza, en el contexto de su uso, diseño  e implementación a nivel global. A continuación algunas aproximaciones: 

Marco regulatorio y estandarización: 

El establecimiento de un marco regulatorio adecuado para la IA es esencial para la gobernanza global de la Inteligencia Artificial, ya que existen diferencias significativas en las leyes y regulaciones relacionadas con la Inteligencia Artificial, lo cual genera y/o profundiza asimetrías y vacíos legales, que limitan la transparencia, responsabilidad y equidad en el desarrollo y uso de la Inteligencia Artificial.

Ética y responsabilidad: 

La Inteligencia Artificial plantea dilemas éticos complejos, como la toma de decisiones autónomas, la privacidad de los datos y el impacto en el empleo. La gobernanza global debe abordar estos desafíos y asegurar que la Inteligencia Artificial se utilice de manera ética y responsable. La implementación de principios éticos sólidos que coloquen al ser humano en el centro del asunto, así como la promoción de la transparencia y la rendición de cuentas, con la participación de múltiples actores interesados, son elementos clave para superar este reto.

Desigualdades y asimetrías

La adopción de la Inteligencia Artificial a nivel global no es uniforme y existe enormes asimetrías entre países y comunidades dentro de dichos países. La gobernanza global de la Inteligencia Artificial debe abordar estas desigualdades y garantizar que todos los países tengan acceso y oportunidades equitativas para beneficiarse de una tecnología, que de manera subyacente, tendrá el potencial de distorsionar el ejercicio de derechos humanos fundamententales.  En este sentido,  la colaboración internacional, la promoción de la transferencia de conocimientos y capacidades, y el fomento al desarrollo inclusivo de la inteligencia artificial, son fundamentales para mitigar los efectos generados por el uso de la inteligencia artificial. 

Seguridad y privacidad 

El creciente uso de la Inteligencia Artificial también plantea preocupaciones sobre la seguridad y la privacidad de los datos. La gobernanza global debe abordar estos desafíos estableciendo estándares sólidos de seguridad cibernética y protección de datos. Además, es necesario promover modelos educativos que incorporen y prioricen temas de este este tipo.

Colaboración y cooperación internacional 

La gobernanza global de la Inteligencia Artificial requiere de instrumentos que posibiliten la colaboración y cooperación internacional planificada estrategicamente y sustentados en políticas públicas sólidas, participación colectiva, así como el establecimiento de plataformas y mecanismos internacionales de diálogo y cooperación que permitan compartir buenas prácticas, intercambiar conocimientos y abordar de manera conjunta los desequilibrios globales que genere o pueda generar la inteligencia artificial.

La gobernanza global de la inteligencia artificial es un reto crucial que enfrentamos en la era digital, razón por la cual urge un abordaje integral, desde lo nacional, a través de las instituciones encargadas de dirigir las estrategias científicas y tecnológicas, así como desde la política exterior de los distintos países. 

Fuentes:

OCDE. (2020). Principios de la OCDE sobre Inteligencia Artificial.  https://www.oecd.org/going-digital/ai/principios-ia-ocde.htm 

G20. (2021). G20 AI Principles. https://g20.org/en/what-is-the-g20/about/g20-ai-principles/ 

Unión Europea. (2020). Ethical Guidelines for Trustworthy AI. https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai

Foro Económico Mundial. (2021). Shaping the Future of Technology Governance: Artificial Intelligence. https://www.weforum.org/whitepapers/shaping-the-future-of-technology-governance-artificial-intelligence

Comisión Europea. (2021). White Paper on Artificial Intelligence – A European Approach to Excellence and Trust. https://ec.europa.eu/info/publications/white-paper-artificial-intelligence-european-approach-excellence-and-trust_en

• 
  

Gestión Pública en el siglo XXI: Nuevos Escenarios e Inteligencia Artificial a debate

Por: Johanna Lastra

El debate actual sobre modernización de las administraciones públicas y los posibles escenarios emergentes de cara a la gestión pública del siglo XXI pone de manifiesto el efecto transformador que supone el uso de nuevas tecnologías en el sector público, sin embargo, poco se ha dicho sobre el impacto específico de la inteligencia artificial como agente catalizador de dichos cambios y los posibles efectos sistémicos que su uso ocasionará en las administraciones públicas. 

La reflexión anterior es importante y nos impulsa a emprender un debate relevante sobre la capacidad que posee la inteligencia artificial diseñada a través de algoritmos, para producir y contribuir a distintas formas de injusticia, prejuicios, colonialismo de datos y nuevas desigualdades  y exclusiones sociales, tal como afirman especialistas en la materia. 

El debate sobre este nuevo escenario debe priorizarse en las agendas de Estado y de gobierno ya que, aunque la inteligencia artificial aplicada a la gestión pública es un fenómeno revolucionario que promete invaluables beneficios y oportunidades, plantea a su vez enormes retos y desafíos que tendrán efecto en la legitimidad, confianza, calidad, cultura, recursos humanos e infraestructura pública. 

 

Fuente: CAF (2021) Informe de Datos e Inteligencia Artificial en el Sector Público.

Por un momento imaginemos, un país sin una adecuada estrategia para abordar la implementación de la IA en el sector público; donde no se plantee siquiera la elaboración de guías éticas o normas regulatorias claras para gestionar situaciones como la ocurrida cuando se implementó el sistema de IA para jueces en Estados Unidos, en el que se implementó  un sistema de IA, diseñado bajo un conjunto de reglas o instrucciones (algoritmos), que afectaba la libertad de los ciudadanos negros con más frecuencia que a los ciudadanos blancos, producto de una desproporción o favoritismo racial (sesgo) que propiciaba la discriminación. 

Pensemos en el caso Boulamnwini, cuya historia se hizo popular en un documental denominado ‘Sesgo codificado’, de la conocida plataforma Netflix, donde se relata la historia de una investigadora afroamericana del MIT, que se vio discriminada por  un sistema de reconocimiento facial, que no reconocía su rostro, simplemente porque sus diseñadores habían tomado en consideración, rostros blancos a la hora de desarrollar el algoritmo ¿Se imaginan las implicaciones de sesgos similares en el marco de la ejecución de programas públicos?  

¿Estos casos son aislados y puntuales? La respuesta es no. Hoy por hoy, se registran una gran cantidad de casos en los que además de las ventajas de la IA, se evidencia el diseño y/o uso inadecuado de la misma no sólo en el ámbito privado, sino también en el público, en momentos en que se intenta restablecer la confianza de los ciudadanos en las administraciones públicas.  

No sé ustedes, pero pensar que estamos a merced de intereses privados, frente a algo tan determinante como el diseño e implementación de una tecnología que debe servir al ser humano; ciudadano, mientras ocurre un progresivo debilitamiento del Estado y se vulneran derechos humanos fundamentales, debe motivarnos a dirigir la atención a dar respuesta a preguntas esenciales como: 

¿Qué papel jugarán las administraciones públicas en la supervisión y debida diligencia de sistemas de inteligencia artificial para evitar sesgos discriminatorios? ¿Están preparadas para afrontar una nueva filosofía de gobernanza algorítmica, frente a una gobernanza democrática en franco deterioro? ¿Podrán las administraciones públicas, a partir de las prometedoras bondades de la inteligencia artificial, llegar a resolver los problemas más acuciantes   de grupos sociales que por años han sido excluidos del desarrollo? ¿Es posible que la poca explicabilidad de la IA, genere más exclusión de la que tenemos? 

En Informe de CAF denominado Experiencia sobre la implementación de la IA en el sector público, elaborado en el 2020,  recomienda establecer mecanismos de supervisión, contemplar a los usuarios afectados, abrir los algoritmos al escrutinio público, evaluar los posibles sesgos, riesgos e impactos que tendrá el uso de la IA en el sector público sobre las personas, empresas y comunidades, emprender estrategias para gestionar sus consecuencias e impactos negativos y estructurar modelos de gobernanza de datos e IA en un ecosistema de confianza, basado en un marco regulatorio adecuado. 

La IA llego para quedarse, por ende es necesario impulsar agendas de Estado que contengan estrategias de gobernanza pública de la inteligencia artificial, que permitan aprovechar las ventajas de la tecnología,  a la vez que se prepara a las administraciones públicas, para actuar sin rezagos, en la identificación y mitigación de riesgos  que puedan afectar a los ciudadanos e instituciones.