El ITESO fue sede de las «Jornadas de Inteligencia Artificial. El futuro de la IA se construye hoy» que organizó la Cámara Nacional de la Industria Electrónica, de Telecomunicaciones y Tecnologías de la Información.

La inteligencia artificial está en la mayoría de las conversaciones sobre eficiencia, creatividad y competitividad en las empresas. Para que las promesas de esta tecnología se hagan realidad hacen falta espacios de aprendizaje dirigidos a los colaboradores de las compañías, las universidades y las instituciones públicas. Con ese propósito la Cámara Nacional de la Industria Electrónica, de Telecomunicaciones y Tecnologías de la Información (Canieti) llevó a cabo la segunda edición de sus “Jornadas de Inteligencia Artificial. El futuro de la IA se construye hoy” con sede en el ITESO.

Marco Antonio Estrella, presidente de la Canieti Sede Occidente, estuvo presente en la inauguración del evento para comunicar a los asistentes que uno de los propósitos de la organización que lidera es acelerar la adopción responsable de la IA entre las organizaciones de la industria. Una manera de hacerlo es a través de instrumentos internacionales que establecen principios éticos fundamentales ante el desarrollo tecnológico; por ejemplo, los generados por la Organización de las Unidas para la Educación, la Ciencia y la Cultura (UNESCO por sus siglas en inglés).

Durante el primer día de las jornadas de la Canieti, Juan Roberto Hernández, consultor de IA en UNESCO México, dirigió una conferencia sobre aquellos lineamientos que permiten entender, desde una perspectiva práctica, lo que significa la ética tecnológica en las empresas. Para ello, referenció la Metodología de evaluación de la preparación para la IA, la Evaluación de impacto ético y, sobre todo, la Recomendación sobre la ética de la inteligencia artificial. Las tres son herramientas de las Naciones Unidas “con un enfoque especial en la promoción de derechos humanos”, dijo Hernández.

La Recomendación sobre la ética está conformada por diez principios que comienzan por la proporcionalidad e inocuidad. Eso quiere decir, que la decisión de utilizar algún sistema de IA en las empresas debe estar dirigido a lograr un objetivo determinado. “Antes de construir un modelo (de IA) hay que documentar si realmente necesitan la inteligencia artificial o una automatización”, agregó el conferencista.

El segundo y tercer principio son la seguridad y protección y la equidad y no discriminación. Los daños no deseados y ataques contra los sistemas tecnológicos pueden prevenirse mediante pruebas de robustez contra fraudes maliciosos, entradas inesperadas, así como el desarrollo de mecanismos de apagado (acciones que detienen un sistema automáticamente para evitar daños). Por otro lado, la conformación de equipos de personas diversas —en cuanto a género, edad, orientación, escolaridad, entre otros— y las pruebas para detectar sesgos en los conjuntos de datos que se usan para trabajar, promueven la justicia social y la equidad.

El cuatro principio entre las recomendaciones de la UNESCO es la sostenibilidad mediante la medición del costo ambiental de las tecnologías y las acciones de mitigación para contrarrestarla.

Luego viene el imperativo del derecho a la intimidad y la protección de datos. “No hay que olvidar que los datos son como el alimento de toda inteligencia artificial. […] Cuando desarrollamos (nuevos sistemas) hay que saber que la información que tenemos sigue siendo de las personas usuarias”, dijo Hernández. Puntualizó que la minimización de datos recolectados y la reglamentación clara sobre su eliminación son estrategias ideales para poner en marcha.

El principio número seis es la supervisión humana, pues los sistemas tecnológicos no deben ser la autoridad final ante decisiones de vida o muerte. La alternativa son las interfaces en las que las personas puedan corregir, rechazar o analizar las respuestas de la IA.

Entre los puntos siete y ocho están la transparencia y la rendición de cuentas. En un primer paso eso implica desarrollar avisos de privacidad y consentimientos informados accesibles para todas las personas usuarias; mientras que para la rendición de cuentas hace falta asignar responsables técnicos y funcionales para mantener la trazabilidad de versiones de los sistemas y las decisiones alrededor de ellos.

En último lugar están los principios de sensibilización y la educación y la gobernanza. Estos dan claridad sobre las personas que van a estar al frente de los sistemas de IA y que tendrán acceso a los datos personales recolectados. Sin importar los ámbitos de aplicación, todas las instituciones desarrolladoras de tecnología deben contribuir en la alfabetización mediática e informacional con el fin de garantizar una participación pública efectiva.

“La Recomendación sobre la ética de la inteligencia artificial es el único documento internacional que ha sido aprobado y adoptado por 193 países, incluido México. Algo que me gusta es que se publicó en 2021, antes de que la inteligencia artificial generativa nos cambiara todo el panorama. A pesar de eso, afronta de manera responsable los efectos conocidos, desconocidos y brinda una base ética para aceptar o rechazar eh tecnologías de inteligencia artificial” resaltó el conferencista.

Un ecosistema colaborativo

Durante las jornadas del Canieti Sede Occidente, celebradas entre el 16 y 17 de julio, hubo espacio para otras conferencias, talleres prácticos y espacios de networking. Todo esto alrededor de temas clave como los fundamentos de la IA, ciberseguridad, educación, industrias creativas, vibe coding (desarrollo de software a través de la IA en lugar de escribir código), infraestructura tecnológica y ética.

Luis Marrufo Cardín, director General Académico del ITESO alentó a los participantes y coordinadores del evento a mantenerse “profundamente humanos” ante el avance de las tecnológicas, tal como lo insta el papa León XIV en su carta encíclica. Además, Marrufo habló del compromiso de la universidad en la formación de profesionales que sean capaces de desarrollar, integrar y gobernar la inteligencia artificial y no solo adoptarlas a su cotidianidad. “Hemos generado saberes en áreas estratégicas como la electrónica, los sistemas computacionales, la ciberseguridad, la ciencia de datos, el diseño de microchips, los semiconductores y, por su supuesto, la inteligencia artificial”, dijo el director.

Fanny Valdivia Márquez, secretaria de Innovación, Ciencia y Tecnología (SICYT) del Gobierno de Jalisco, también asistió a las jornadas y sostuvo que estas son una oportunidad para fortalecer la posición del estado como líder en el desarrollo tecnológico. La clave para lograrlo es la unidad entre todos los actores que forman parte del ecosistema de innovación en la región: la industria, la academia, el gobierno y los estudiantes. El evento de Canieti fue organizado con el apoyo de las autoridades del estado de Jalisco, a través de la SICYT y el Consejo Estatal de Ciencia y Tecnología.

FOTO: Zyan André