Dentro del marco de la Semana de la Gestión Pública 2024 del ITESO, organizada por el Desoj, se llevó a cabo la conferencia “Inteligencia artificial en el sector público: retos, desafíos y dilemas éticos”, impartida por el académico del CUCEA de la UdeG, Édgar Ruvalcaba
Para el especialista Édgar Ruvalcaba, varias preguntas surgen de estos casos: ¿vamos a ser gobernados por máquinas?, ¿podrán tomar ellas decisiones de política pública?, ¿quién preferirías que decidiera si vas a la cárcel o no, una máquina que no sabemos como procese la información o un juez que no sabemos que tan parcial puede ser?
Estas y otras reflexiones fueron parte de la conferencia “Inteligencia artificial en el sector público: retos, desafíos y dilemas éticos”, impartida por este académico de la Universidad de Guadalajara (UdeG) como parte de la Semana de la Gestión Pública 2024, organizada por el Departamento de Estudios Sociopolíticos y Jurídicos del ITESO.
Durante dos días, esta actividad concentró discusiones dirigidas a estudiantes y personal académico sobre asuntos relacionados con la gestión y política pública, como la transparencia y el quehacer legislativo, la paridad de género en los cargos de elección popular y la administración pública, el papel de las tecnologías de la información, los resultados de la política de drogas y la militarización de la seguridad pública.
Ruvalcaba Gómez forma parte del Departamento de Políticas Públicas del Centro Universitarios de Ciencias Económico Administrativas (CUCEA) de la UdeG, es doctor en Derecho, Gobierno y Políticas Públicas por la Universidad Autónoma de Madrid y es especialista en gobierno abierto, gobernanza electrónica, innovación pública e IA en el sector público.
“Hemos escuchado la palabra IA por todos lados, a veces con narrativas esperanzadoras y a veces alarmistas (…). La IA cambia las reglas del juego entre gobierno y sociedad. Por eso es importante decir que, ante este escenario, tenemos que evitar el determinismo tecnológico, y no la usemos indiscriminadamente sin un control, monitoreo o evaluación”, consideró Ruvalcaba.
El investigador explicó que la IA es parte fundamental de muchas operaciones que son controladas por administraciones públicas. Ese usual ya hablar del gobierno algorítmico, gobierno inteligentes o gobiernos 4.0: “el gobierno usa algoritmos y tecnologías digitales para tomar decisiones, para gestionar lo público y relacionarse con sus ciudadanos”.
Se usan especialmente para optimizar los servicios públicos, bajar costos, analizar grandes bases de datos, tomar decisiones, automatizar procesos, interactuar con los ciudadanos, ayudar en temas de seguridad pública con cámaras de identificación facial o hasta en los sistemas de salud.
Ejemplos claros están en el Sistema de Administración Tributaria (SAT) que ya utiliza IA en sus auditorías para evitar la corrupción, detectar pagos indebidos o lavado de dinero; los sistemas de C5 de seguridad pública, que además de identificar rostros, rasgos biométricos, pueden leer matrículas de coche; o el programa OlivIA de la Secretaría de Igualdad Sustantiva Entre Mujeres y Hombres de Jalisco, utilizado para derivar casos de atención a mujeres víctimas de violencia.
“La IA ya está teniendo una gran materialidad, está cambiando la vida de las personas y controlando gran parte de las sociedades del mundo. Una cosa que es interesante es que avanza de modo exponencial, cosa que el cerebro humano no puede. Se trata de tomar en cuenta que límites no queremos pasar, la IA nos puede llevar a un lugar mejor, pero también a uno peor”, añadió.
Para el académico, la IA debe ser sometida a ciertas regulaciones, tal y como ha pasado en la Unión Europea y algo que aún no ocurre en México, pues la discusión sobre ella se ha centrado principalmente en los sectores privados y la sociedad civil. “La regulación es muy importante, porque no puede ser una zona sin ley, tienes que poner límites. El primero de ellos es que, en el momento en que una IA dañe a un ser humano, tienes que protegerlo”, declaró.
La IA en el sector público implica retos y oportunidades como son la aceptación y confianza por parte de los ciudadanos; la sustitución de muchos empleos públicos; cuestiones normativas como definir quién tiene responsabilidad por las decisiones de los algoritmos, la privacidad y seguridad de los datos; o la administración de datos y herramientas, si será por entidades públicas o privadas.
Pero también hay implicaciones éticas, porque hay evidencia de que la IA se equivoca, tiene sesgos, discrimina por colectivos, razas o género, pues muchas máquinas aprenden a partir de la sociedad, y replican ese tipo de cuestiones. Por ello, una nueva disciplina en ciernes, la algorética (es decir, la ética en la IA) debe ponerse sobre la mesa, pues esta tecnología no debe quedar solo en manos de ingenieros, sino que debe sumarse la visión de politólogos, administradores públicos, filósofos, abogados, etcétera.
“Abordar la ética desde la IA es una situación urgente que necesita un enfoque humanista, porque estas máquinas son neutrales, es un medio para lograr fines, lo que se haga con ellas puede ser bueno o malo, pueden crear las mejores vacunas, pero también virus y drogas poderosas”, explicó.
Es por eso por lo que deben tenerse en cuenta temas como el respeto a la autonomía humana, la transparencia, la responsabilidad y la rendición de cuentas, la seguridad, la justicia y la no discriminación. No olvidar que hace poco, ya hubo un algoritmo que fue capaz de convencer a cientos de personas de que la tierra era plana, recordó Ruvalcaba.
«Las maquinas parecen ser aquellos que están aprendiendo de lo más creativo, artístico, mientras los humanos están constreñidos a visiones de la pantalla, a tener menos capacidad de razonamiento, perdidos en la inmediatez. Es importante mantener la calma, y quizás no preocuparnos tanto del aumento de la inteligencia artificial sino por la disminución de la inteligencia humana”, concluyó.
Fotos: Zyan André
