Inteligencia artificial al servicio de la humanidad
Un acelerador del desarrollo sostenible si se toma de manera ética y responsable
Ya sea como causa de entusiasmo o preocupación, la inteligencia artificial está en boca de todo el mundo. Este campo de la informática crea herramientas capaces de recopilar, analizar e interpretar datos para luego utilizar dicha información en la toma de decisiones o la ejecución de medidas.
A sabiendas del potencial y los riesgos, en el PNUD hemos adoptado con cautela algunas de las mejores propuestas que la inteligencia artificial tiene para ofrecer, en consonancia con nuestra Estrategia Digital. Estamos trabajando para optimizar el uso de la inteligencia artificial con miras a promover los Objetivos de Desarrollo Sostenible (ODS), al tiempo que buscamos abordar las verdaderas dificultades de esta tecnología.
“Los seres humanos y la inteligencia artificial se complementan, lo que abre nuevas oportunidades de crecimiento económico, producción, atención sanitaria, educación, comunicación y transporte”. — Estrategia Digital del PNUD
Robots que combaten epidemias
Apoyándonos en la inteligencia artificial, en el PNUD hemos ayudado a fortalecer a distintas comunidades vulnerables que enfrentan crisis mediante la mejora del acceso a servicios de salud, diagnóstico y consultas remotas. En respuesta a la presión que la COVID-19 ejerció en el sistema de salud de Rwanda, los Laboratorios de Aceleración del PNUD se asociaron con el Ministerio de Innovación y Tecnología de la Información y las Comunicaciones para desplegar cinco robots inteligentes que combaten epidemias en dos centros para el tratamiento de la COVID-19 y en el Aeropuerto Internacional de Kigali. En el Ecuador, trabajamos con el Ministerio de Telecomunicaciones para desarrollar un bot de conversación (chatbot) mejorado para responder las preguntas de la ciudadanía acerca de la COVID-19.
INTELIGENCIA ARTIFICIAL EN PRO DE LA ALIMENTACIÓN
“El progreso de las tecnologías digitales [...] como la inteligencia artificial, junto con su creciente accesibilidad, pone a disposición de los pequeños agricultores una serie de aplicaciones de agricultura de precisión en los países en desarrollo”, se declara en un informe del PNUD sobre tecnología, innovación y agricultura.
Por ejemplo, en Trinidad y Tobago, Crop Mate —una solución que se identificó mediante el Desafío para la Innovación Verde de los Laboratorios de Aceleración del PNUD— brinda a los agricultores información en tiempo real basada en inteligencia artificial sobre el estado del suelo y recomienda de forma automática intervenciones nutricionales para garantizar la salud de los cultivos. De forma similar, en el Brasil, la inteligencia artificial se ha usado para abordar los desafíos asociados a la agricultura sostenible y la seguridad alimentaria mediante el seguimiento de los cultivos, la optimización de la asignación de recursos y el suministro de información a los agricultores. La inteligencia artificial también se ha usado para redoblar los esfuerzos de mitigación y adaptación del cambio climático en países vulnerables, lo que reforzó su preparación en casos de desastre y la protección de la comunidad.
“La inteligencia artificial y otras tecnologías digitales pueden fomentar la democracia y los derechos humanos al facilitar el compromiso cívico y la participación política. Asimismo, pueden evitar la contaminación informativa y, como tal, desempeñar un papel fundamental en el fortalecimiento de la cohesión social, según las decisiones que tomemos”. — Achim Steiner, Administrador del PNUD
Algoritmos y gobernanza
El sistema eMonitor+ se basa en una serie de modelos de inteligencia artificial que ayudan a identificar y analizar contenido en línea perjudicial para la integridad de la información. Se ha implementado para apoyar la gobernanza y las elecciones en asociación con gobiernos, medios de comunicación y organizaciones de la sociedad civil del Líbano, Libia, Túnez y otros países de la región árabe. Así, está adquiriendo un carácter global, pues se ha implementado también en Mozambique y el Perú como ejemplo de cooperación Sur-Sur.
La herramienta de verificación de datos automatizada iVerify se puede emplear para identificar información errónea, desinformación y discursos de odio y evitar su propagación. Al combinar nuevas tecnologías como la inteligencia artificial y el aprendizaje automático con la comprobación humana, iVerify apunta a redoblar los esfuerzos colectivos encaminados a fomentar una sociedad mejor informada y con más cohesión. Honduras, Kenya, Liberia, Sierra Leona y Zambia se encuentran entre los primeros países que han usado la herramienta para promover un ecosistema informativo saludable, lo cual es esencial para promover la paz y procesos electorales de calidad.
La Alta Comisión Nacional Electoral (HNEC, por sus siglas en inglés) puso en marcha la primera capacitación en Libia para aprender a supervisar la violencia en línea contra las mujeres en las elecciones utilizando inteligencia artificial para fomentar la participación de las mujeres en los procesos electorales.
Foto: PNUD Libia / Malek Almoghrabi
La desinformación, que incluye la falta de información y el discurso de odio, supone una importante amenaza para las democracias de todo el mundo. Sierra Leona ha lanzado iVerify para luchar contra la contaminación informativa antes de las elecciones.
Foto: PNUD Sierra Leona
PONER EL OJO -DIGITAL- EN LA VIOLENCIA DE GÉNERO
A partir de las herramientas de clasificación por inteligencia artificial, el monitor de violencia digital de género proporciona evidencia en tiempo real de agresiones e insultos que reciben figuras públicas como mujeres políticas, periodistas, comunicadoras, activistas y artistas en el Uruguay. Sara, una asistente digital (chatbot) que ofrece información y orientación sobre violencia contra las mujeres y las niñas, es otro ejemplo del uso de la inteligencia artificial en la lucha contra la violencia de género.
Sara es un chatbot lanzado por el PNUD en América Latina y el Caribe que ayuda a mujeres víctimas de violencia proporcionándoles información, respondiendo a preguntas sobre la violencia de género y conectando a las víctimas con servicios de apoyo.
Justicia 4.0
En el Brasil, la iniciativa "Justicia 4.0" emplea inteligencia artificial para promover el acceso a la justicia para todas las personas. Una encuesta del Consejo Nacional de Justicia (CNJ) puso de manifiesto un crecimiento superior al 170 % de los proyectos por inteligencia artificial en comparación con años anteriores.
Se detectó que los principales incentivos para utilizar inteligencia artificial en las cortes de justicia aumentaron la productividad, la innovación, la mejora de la calidad de los servicios judiciales y la reducción de costos. “La finalidad consiste en ofrecer acceso a la justicia mediante el desarrollo de medidas y proyectos colaborativos que utilicen nuevas tecnologías e inteligencia artificial”, explica Rafael Leite, juez auxiliar del CNJ que trabaja en la iniciativa "Justicia 4.0".
INTELIGENCIA ARTIFICIAL PARA MEJORAR LAS FINANZAS
El PNUD y el Instituto Alan Turing han desarrollado la herramienta Prioridad Política de Inferencia (PPI) que combina teoría económica, economía de los comportamientos, ciencia y tecnología para ayudar a quienes formulan las políticas a establecer las prioridades de gasto público y ajustarlo a los ODS. “Los Gobiernos alrededor del mundo han debido asignar considerables recursos para luchar contra la COVID-19, lo que ha obstaculizado sus objetivos originales. En este contexto, la herramienta PPI se puede usar para no apartarse del rumbo pese a todas las dificultades”, explica Omar Guerrero, investigador de University College de Londres y el Instituto Alan Turing.
DECODIFICAR LOS RIESGOS
Si bien la inteligencia artificial brinda un potencial indiscutible para el desarrollo sostenible, también trae consigo algunos riesgos importantes. Los modelos de inteligencia artificial pueden estar sesgados o reforzar normas sociales perjudiciales, sobre todo en relación con las mujeres y otros grupos marginados.
Las oficinas del PNUD en países de Europa y Asia central han detectado que los modelos de inteligencia artificial, incluidas las herramientas de conversión de texto a imagen, podrían contribuir a la reproducción de las desigualdades y los estereotipos imperantes, como se reveló en un experimento que condujo el Laboratorio de Aceleración del PNUD en Serbia. En un examen sobre la representación de las mujeres en el campo de las ciencias, la tecnología, la ingeniería y las matemáticas en el que se usaron dos generadores de imagen por inteligencia artificial muy populares, el 75 % de las imágenes obtenidas describían varones, lo que refuerza el estereotipo según el cual las profesiones asociadas a este campo son más adecuadas para los hombres. Los roles y estereotipos de género de orden familiar también pueden aflorar en una exhibición virtual de obras de arte generadas con inteligencia artificial.
Las decisiones que toman los sistemas de inteligencia artificial pueden plantear interrogantes éticos. En un informe del PNUD India se reveló que el sesgo de los algoritmos tienen importantes repercusiones en las áreas de servicios financieros, atención médica, el empleo temporal y en el comercio minorista. Los empleos más afectados son los que desempeñan personas de grupos vulnerables y marginados, con escaso acceso a la tecnología y una capacidad reducida para interponer un recurso si sienten que una decisión automatizada les ha perjudicado.
En el informe, además, se hace hincapié en los riesgos para la privacidad y el acceso a los servicios financieros debido a las calificaciones de crédito basadas en la inteligencia artificial. Se ha denunciado que la inteligencia artificial califica a las solicitantes mujeres con una puntuación inferior a la de los hombres con antecedentes financieros similares. Asimismo, los modelos de inteligencia artificial complejos pueden resultar difíciles de comprender y explicar, lo que plantea problemas de confianza y responsabilidad. La seguridad de los datos es otra preocupación importante. Los sistemas de inteligencia artificial pueden ser vulnerables a la piratería informática, y el uso de grandes volúmenes de datos personales presenta problemas de privacidad.
La automatización basada en inteligencia artificial, a su vez, puede provocar desplazamientos laborales y exacerbar las desigualdades socioeconómicas. Por lo tanto, resulta fundamental que repensemos los modelos de trabajo y formación para adaptarnos a los cambios que la inteligencia artificial trae consigo. También están surgiendo problemas en el ámbito de la propiedad intelectual, lo que cuestiona la legitimidad de las empresas privadas que venden herramientas basadas en datos que normalmente se encuentran protegidas por derechos de propiedad intelectual o son de dominio público de forma anónima. Por último, una dependencia excesiva en la inteligencia artificial puede traer graves consecuencias en caso de fallos.
INTELIGENCIA ARTIFICIAL AL SERVICIO DE LA HUMANIDAD
Dado que la inteligencia artificial está ya incidiendo en tantos aspectos de nuestras vidas, no podemos ignorar sus limitaciones ni tampoco los peligros potenciales que conlleva. Como parte del Grupo de Trabajo entre Organismos sobre Inteligencia Artificial de las Naciones Unidas, en el PNUD trabajamos con nuestros socios para desarrollar una hoja de ruta y un enfoque estratégico relativos a una inteligencia artificial ética y al servicio de la humanidad. Asimismo, trabajamos en asociación con la Unión Internacional de Telecomunicaciones en una iniciativa conjunta para ayudar a los Gobiernos a crear capacidad digital y encauzar las responsabilidades de la inteligencia artificial.
En el PNUD, además, prestamos apoyo a los países en sus esfuerzos para desarrollar sistemas de inteligencia artificial éticos. La herramienta AI Readiness Assessment (AIRA) (Evaluación del grado de preparación para la inteligencia artificial) se creó para ayudar a los gobiernos a comprender el panorama de la inteligencia artificial en sus países y evaluar su nivel de conocimiento experto en los sectores. El enfoque se centra en la doble función de los gobiernos: como facilitadores de avances tecnológicos, por un lado, y como usuarios de inteligencia artificial en el sector público, por el otro. De manera crítica, da prioridad a las consideraciones éticas que rodean al uso de la inteligencia artificial a través de elementos clave como las políticas, infraestructura y destrezas.
Debemos garantizar la ecuanimidad y la transparencia en el diseño y el uso de la inteligencia artificial, esclarecer las responsabilidades y obligaciones jurídicas en casos de perjuicios causados por la inteligencia artificial, así como abordar las implicaciones asociadas a la propiedad intelectual. Tampoco debemos olvidar que a las herramientas de inteligencia artificial las crea el ser humano. Los sesgos que revelan son el reflejo de aquellos que imperan en el mundo real. Gran parte de la solución consistirá en crear un sector de tecnología más inclusivo, de tal modo que la gente que construye sistemas de inteligencia artificial haga una mejor representación de las personas a las que dichos sistemas atienden.
“El PNUD está comprometido con el uso ético y responsable de la inteligencia artificial. Para evitar inconvenientes, un sistema de inteligencia artificial debería construirse con transparencia, ecuanimidad, responsabilidad y privacidad de manera preestablecida. La transformación digital, incluidas las innovaciones de la inteligencia artificial, de manera intencionada deben ser inclusivas y fundarse en los derechos para tener un efecto social significativo”. — Yasmine Hamdar, Keyzom Ngodup Massally y Gayan Peiris de la Oficina Digital del PNUD
Únete a la conversación en línea
Comparte esta historia
