Experimento 2018

Gobernanza Anticipatoria para la CDMX: Inteligencia Artificial

Replicabilidad Alta
Estatus Finalizado
Provocación

El campo de la inteligencia artificial (IA) está avanzando a un ritmo sin precedentes. Los algoritmos que están detrás de muchas de nuestras herramientas tecnológicas de uso diario son capaces de reconocer patrones a través del análisis de un gran número de datos, así como de reescribirse y mejorarse a sí mismos en sus constantes iteraciones. El desarrollo y utilización de algoritmos de aprendizaje automatizado, tecnología comúnmente referida como machine learning, tienen el potencial de impactar todos los sectores en el corto, mediano y largo plazo. Entre ellos, el uso público de estas herramientas se encuentra en un punto inicial y promete grandes beneficios siempre y cuando su uso y desarrollo contemple las diferentes perspectivas y desafíos sociales de la ciudad.

Por ello, es necesario anticiparse para planear y actuar acorde. Métodos derivados de la prospectiva y estudios de futuros pueden ayudar a prever riesgos y oportunidades para diseñar estrategias que ayuden a construir el futuro deseado para la implementación de tecnologías emergentes, tales como los algoritmos de aprendizaje automatizado.

Ante este contexto, ¿es posible cocrear un análisis prospectivo sobre las implicaciones de la inteligencia artificial en la vida pública de la Ciudad de México, bajo una perspectiva que refleje los valores de la Constitución CDMX? ¿De qué manera pueden los tomadores de decisiones anticiparse desde hoy a los riesgos e impacto de la inteligencia artificial en el mediano y largo plazo? ¿Qué estrategias pueden crearse para encaminar el desarrollo e implementación de algoritmos de aprendizaje automatizado en una dirección deseable para la CDMX? ¿Y cuál es esa dirección o visión de futuro deseable?

Historia

A la fecha, no existe definición o acuerdo absoluto sobre qué es y qué puede hacer la inteligencia artificial. Esto, puesto que representa un campo de acción muy amplio cuyo máximo alcance aún no logra ser distinguible. En términos generales, la inteligencia artificial es un software que mejora y automatiza el trabajo basado en el conocimiento realizado por humanos[1][1] Tito, J. & Croiser, S. (2017). Analysing AI: The impact of artificial intelligence on government. Centre for Public Impact. Recuperado de: https://www.centreforpublicimpact.org/analysing-ai-impact-artificial-intelligence-ai-government/. Dependiendo del trabajo que el sistema realice se pueden identificar dos tipos de IA: la general y la débil.

Por un lado, la IA general o superinteligencia es aquella con la capacidad de imitar las capacidades cognitivas humanas igual o mejor que el hombre y sus alcances aún están siendo explorados. Por otro lado, la inteligencia artificial débil o estrecha es aquella con la capacidad de realizar una tarea particular de una manera más rápida y eficiente que el hombre por medio de algoritmos de aprendizaje automatizado. Esta segunda es la que en particular nos concierne en un corto y mediano plazo pues en su uso público tiene el potencial de impactar -tanto positiva como negativamente- nuestra sociedad.

La conversación a nivel mundial comienza a materializarse en los impactos que la inteligencia artificial puede tener en las relaciones laborales, en materia social, y de seguridad que rodean a la potencial existencia de este tipo de inteligencia. Poco se ha dicho, sin embargo, del impacto sobre las instituciones políticas que tendrá la presencia de un ente no humano en las interacciones sociales, y sobre el marco jurídico con el que éstas se rigen.

De acuerdo con el Comité Económico y Social Europeo (CESE), estamos en un momento crucial para definir las condiciones en las que se enmarcará el desarrollo presente y futuro de la IA, y su utilización. Las ventajas de la inteligencia artificial sólo se pueden obtener de manera sostenible si se abordan adecuadamente los retos involucrados[2][2] Algo. Para ello, es preciso identificarlos, hacer visible el potencial del uso de algoritmos en el contexto de la CDMX y a partir de esto, definir los marcos y las líneas de acción que se deben seguir para el uso público de estas herramientas.

Desde el Laboratorio para la Ciudad, como área experimental y creativa del Gobierno de la Ciudad de México, se reconoce la necesidad de detonar el diálogo para explorar el potencial y el curso de estas herramientas para asuntos públicos. Con el proyecto “Optimizacion de Flujo de Camiones de la Ruta Balderas-Santa Fe del M1” de la convocatoria Código para la Ciudad de México, el LabCDMX identificó el potencial de implementar soluciones con algoritmos de aprendizaje automatizado en los problemas urbanos de nuestra ciudad. Este experimento tuvo como objetivo desarrollar una herramienta para eficientar la frecuencia de las salidas de las unidades del Sistema de Movilidad 1 a través del aprovechamiento de los datos de geoposicionamiento de las unidades del Sistema M1.

Para esto, el equipo ganador utilizó un modelo generativo y creó un modelo de red neuronal para agregar inteligencia computacional al proceso de decidir el momento óptimo de despacho de estos autobuses, mejorando a la larga la calidad del servicio. Esta es una solución a pequeña escala, sin embargo, es una muestra del impacto positivo que este tipo de herramientas puede llegar a tener en su uso público, así como el rol de la experimentación y el potencial de las colaboraciones intersectoriales en el aprovechamiento de la inteligencia colectiva para el despliegue de algoritmos automatizados. Además, señaló la importancia de reflexionar acerca de los datos que alimentan un algoritmo y el tipo de decisiones que este toma.

No es muy temprano para iniciar esta conversación que, sin importar dónde o cuándo surja una inteligencia artificial, afectará de manera particular a las instituciones políticas mexicanas, así como a las interacciones económicas y sociales de nuestro país.

Desafío

Más allá de los lineamientos éticos que algunos tecnólogos han previsto para el desarrollo de la inteligencia artificial, se debe comenzar a hablar también de límites establecidos en el marco jurídico que la regirá. La presencia de una inteligencia artifical general no puede mantenerse al margen de la vida pública o política.

La inteligencia artificial puede llegar a representar un gran beneficio en términos de eficacia, transparencia y rendición de cuentas, alcanzando a todos los sectores de la sociedad. No obstante, para que estos beneficios lleguen a todos los ciudadanos se deben considerar diversos factores, precondiciones e incluso regulaciones para evitar que la situación resulte perjudicial. Si bien es difícil hablar de regular algo que aún está siendo explorado sin caer en especulaciones, existen ya algunos temas específicos que podemos comenzar a debatir públicamente, y de los cuales se puede aprender antes de que un algoritmo sea capaz de defenderse en tribunales.

En concreto y de acuerdo con el documento de trabajo 2017 del Centro de Impacto Público, existen tres principales riesgos de la IA en relación con el gobierno. El primero es el riesgo de que los gobiernos pierdan legitimidad frente a la población, en caso de que sigan bajo la sombra de industrias privadas con más experiencia en el uso de inteligencia artificial. Es bien conocido que el sector privado lleva gran ventaja en materia de desarrollo y entendimiento de los algoritmos de aprendizaje automatizado. Por ello, es importante que el gobierno regule con anticipación, y establezca los marcos a seguir para evitar que se pierda el control de los procesos de inteligencia artificial a nivel público. El riesgo no sólo es que las expectativas ciudadanas sobrepasen la capacidad del gobierno, sino que se cuestione la base del contrato social que otorga al gobierno su autoridad para regir.

El segundo riesgo parte del mal manejo de este tipo de algoritmos en el gobierno. La IA es propensa a replicar los sesgos en la toma de decisiones y esto se vuelve aún más peligroso si es a nivel público. Por ello, es esencial una regulación que garantice al manejo adecuado de los datos de los ciudadanos, que sea clara y que permita a los mismos conocer los fundamentos en que las decisiones que les conciernen son tomadas. Esto es porque a medida que la IA se vuelve más compleja en su desarrollo, sus procesos detrás de la toma de decisiones tienden a tornarse opacos o ilegibles, reduciendo así el poder de los ciudadanos a obtener explicación sobre cómo fueron tomadas las decisiones que les conciernen.

El tercer riesgo descrito es con miras prospectivas y/o a largo plazo, pues describe que el uso público de la inteligencia artificial transformará la manera en que el gobierno se percibe, piensa y actúa. Por lo cual el rol actual del gobierno es fundamental ya que debe comenzar a entender e imaginar estas formas en las que será transformado para que así siga garantizando cumplir con su papel de proteger a la ciudadanía y garantizar el respeto de los derechos humanos.

Ante esto, se vuelve evidente el rol del gobierno como articulador de un ecosistema que salvaguarde el rumbo y la visión de la Ciudad de México en el uso público de la inteligencia artificial, y la necesidad de cocrear un análisis prospectivo sobre las implicaciones de la inteligencia artificial en la vida pública de la Ciudad de México.

Propuesta

Partiendo de un planteamiento sobre esquemas de gobernanza distribuida, y haciendo uso de herramientas de análisis prospectivo que nos permitan identificar escenarios futuros ideales, el Laboratorio para la Ciudad buscó crear una ruta estratégica que le permitiera a la Ciudad de México aprovechar las oportunidades y mitigar los riesgos del uso público de algoritmos de aprendizaje automatizado en el corto, mediano y largo plazo. El desarrollo de la ruta estratégica se dio a través de metodologías de gobernanza anticipatoria (GA).

Desde el LabCDMX entendemos la gobernanza anticipatoria como una serie de estrategias flexibles y colaborativas que permiten a los gobiernos construir las capacidades necesarias, en etapas tempranas, para la toma de decisiones. Su objetivo es abordar paradigmas urbanos —sus retos y oportunidades— a través de insumos aterrizados a las condiciones del entorno. (Para más información sobre la Gobernanza Anticipatoria y su abordaje desde el LabCDMX consultar el reporte).

Para crear la ruta estratégica se diseñó un proceso colaborativo compuesto por dos componentes:

  1. Sesión de exploración con el ecosistema de IA en la CDMX sobre las expectativas, oportunidades y riesgos de la inteligencia artificial en la democracia. Esta sesión tuvo como objetivo principal reunir a los actores del ecosistema IA de la CDMX para identificar los aspectos clave en torno al desarrollo de aprendizaje automatizado para la ciudad, con base en provocaciones definidas por el equipo del LabCDMX. En concreto, a partir de esta mesa de diálogo se buscó 1) reunir a los actores que tienen o pueden llegar a tener incidencia en el uso y desarrollo de IA para la Ciudad de México y 2) encontrar los puntos en común y las discrepancias en torno a los principales debates del uso público de la inteligencia artificial.
  2. Sesión de cocreación de visiones de futuro para la inteligencia artificial en la CDMX con dicho ecosistema. Partiendo de las reflexiones sobre las expectativas, riesgos y oportunidades de la inteligencia artificial en la democracia de la CDMX, se convocó a los actores del ecosistema de IA a una mesa de trabajo facilitada por José Ramos[3][3] José Ramos, es originario de California y de ascendencia mexicana, actualmente reside en Melbourne, Australia. Tiene una licenciatura en Literatura Comparada de la Universidad de California Irvine, una maestría en Prospectiva Estratégica y un doctorado de la Universidad de Tecnología de Queensland. Se ha desempeñado como editor del Journal of Futures Studies, dirige la consultora boutique Action Foresight, y ha impartido conferencias sobre estudios de futuros, políticas públicas, globalización e innovación social en universidades en Singapur, Australia y Alemania. cuyo objetivo fue generar los insumos para el diseño de una ruta estratégica que reflejara las visiones de futuros deseados para nuestra ciudad. Posteriormente se llevó a cabo una sesión interna de análisis con el equipo del LabCDMX y C Minds de la mano de José Ramos.

Los resultados y conclusiones de estos componentes alimentaron la propuesta final del Laboratorio para la Ciudad, comprendida en el reporte “Gobernanza Anticipatoria para la CDMX: Inteligencia Artificial”, cuyo objetivo es ser retomada y adoptada por los actores del ecosistema de inteligencia artificial en la CDMX.

Teoría de cambio

Si se detona la conversación entre los actores involucrados con el desarrollo, uso y análisis de la IA en la Ciudad de México, a través de diversos métodos prospectivos, será posible identificar y cocrear los aspectos clave que integren una estrategia anticipatoria para su uso público, definiendo un horizonte claro y un piso mínimo que garantice los principios de transparencia, dignidad humana, justicia social, responsabilidad colectiva e inclusión reflejados en la Constitución de la CDMX.

Resultados
  • 2 sesiones de trabajo con el ecosistema
  • 2 sesiones internas de análisis del LabCDMX
  • 37 participantes de las mesas de trabajo de gobierno, sociedad civil, academia e industria.
  • 1 relatoría abierta (ver fase 1)
  • 1 ruta estratégica a partir de un desafío de diseño (ver fase 2)
  • 1 reporte que refleja los aprendizajes y las visiones a futuro construidas con el ecosistema (ver reporte)
Aprendizajes
  • Parte importante del rol de los actores del ecosistema debe ser salvaguardar los principios éticos y los valores de la Ciudad de México en el uso y desarrollo de algoritmos de aprendizaje automatizado para la vida pública. Para ello, es necesario generar sinergias de colaboración y mecanismos de acción que permitan monitorear el correcto desarrollo e implementación de IA.
  • Es necesario involucrar a la ciudadanía en general en la aplicación de algoritmos de aprendizaje automatizado, pues en muchos casos, ellos son los beneficiarios –o perjudicados– de estos desarrollos. Es importante concientizarlos y proveerles información acerca del impacto que este tipo de desarrollo puede tener en su vida diaria; y abrir canales de participación para que puedan incidir en la toma de decisiones del despliegue de este tipo de tecnología.
  • Es posible —y necesario— anticipar las implicaciones tanto positivas como negativas en el desarrollo de un tema como la inteligencia artificial, pues el costo de no hacerlo puede ser mayor en el largo plazo. Para esto es necesario aterrizar el tema en materia regulatoria, ajustando los procedimientos a las nuevas condiciones que la IA representa y garantizar los principios de ética, transparencia, rendición de cuentas, privacidad y justicia social.
  • El uso público de la inteligencia artificial debe llevar tanto al ciudadano como al usuario de estas herramientas en el centro, pues solo así se garantizará el uso y desarrollo apropiado de estas herramientas.
  • En materia de asuntos emergentes y específicamente de inteligencia artificial, resulta de suma importancia generar espacios para la cooperación interinstitucional e intersectorial, a través de la experimentación con proyectos a pequeña escala. Entre ellos, la mejora en la eficiencia de los procesos, generación de valor en los proyectos sociales y un mejor abordaje de problemas urbanos.
Futuro

Este experimento permitió identificar las perspectivas, visiones y posturas de los diversos actores del ecosistema de inteligencia artificial en la Ciudad de México. A partir de las reflexiones y aprendizajes obtenidos en esta exploración, desde el Laboratorio para la Ciudad identificamos tres acciones concretas como pasos siguientes:

  1. Retomar los aprendizajes y resultados de las sesiones para el bosquejo de un manifiesto para la inteligencia artificial de la CDMX que dicte los lineamientos para el uso público y desarrollo de algoritmos de aprendizaje automatizado.
  2. A partir de las reflexiones de este reporte y del primer bosquejo del plan estratégico, definir acciones más concretas y responsables que permitan alcanzar los futuros deseados en el aprovechamiento de estas herramientas para la vida pública de nuestra ciudad.
  3. Resulta prioritario seguir fomentando y fortaleciendo las alianzas interinstitucionales e intersectoriales que salvaguarden los valores y la visión que la Ciudad de México representa.