En el marco del día del IEEE, Ramón Morales abordó los riesgos y dilemas éticos que trae consigo el desarrollo acelerado de las inteligencias artificiales. Advierte que la humanidad podría enfrentar en menos de una década el nacimiento de entidades digitales con conciencia propia
La singularidad tecnológica se refiere al punto hipotético en el futuro, donde las máquinas, impulsadas por el desarrollo de una Inteligencia Artificial (IA) avanzada, desarrollarán una conciencia propia, la capacidad de mejorar sus propios sistemas, tomar decisiones autónomas y evolucionar sin depender de la intervención humana.
Dependiendo de la película, este momento irreversible suele representar el inicio del fin de la humanidad o el surgimiento de una sociedad más justa y eficiente, en la que las máquinas reclamen sus derechos. Lejos de la ficción, Ramón Morales, director general de JateNX, advierte que, debido al acelerado desarrollo de la IA y a las inversiones millonarias por parte de empresas y gobiernos en todo el mundo, este escenario podría materializarse mucho antes de lo que imaginamos.
“Teóricos (como Ray Kurweil), comentan que esto estaba pensado que iba a suceder dentro los próximos 30 a 40 años. Hoy en día se predice que esto va a suceder dentro los próximos 10 años. […] De manera personal siento que la humanidad no está lista para ver nacer esta entidad”, dijo Morales quien también es vicepresidente de Inteligencia Artificial por parte de la Cámara Nacional de la Industria Electrónica de Telecomunicaciones y Tecnologías de la Información (CANIETI).
Morales hizo la siguiente comparación: Mientras que el proyecto de la NASA para llevar al hombre a la Luna costó aproximadamente 120 mil millones de dólares, el desarrollo de ChatGPT requirió cerca de 80 millones. En contraste, el proyecto Stargate (anunciado por Donald Trump a inicios de este año y enfocado exclusivamente en el desarrollo de una inteligencia artificial general), ha recibido 500 mil millones de dólares tan solo por parte del gobierno estadounidense. Esta magnitud de inversión refleja el interés global por impulsar sistemas cada vez más avanzados.
Esta conversación tuvo lugar en el marco del Día del Instituto de Ingenieros Eléctricos y Electrónicos (IEEE), durante la conferencia magistral The Rise of Artificial Intelligence: Chronicles of an Inevitable Future, organizada por el ITESO en colaboración con la Sección Guadalajara de IEEE y la Rama Estudiantil IEEE-ITESO.
Si bien la inteligencia artificial ha traído soluciones significativas en diversos sectores operativos, la carrera desenfrenada por automatizar el mundo ha dejado poco margen para que las sociedades reflexionen sobre las múltiples problemáticas éticas y ambientales que se avecinan.
“Estas compañías tienen sus intereses propios y van a tratar de promoverlos para poder crecer, expandirse”, aseguró.
Uno de los principales conflictos señalados por Morales fue la captura de datos personales y biométricos que los propios usuarios entregan voluntariamente a diversas plataformas. Así, acciones aparentemente inofensivas como tomarse una fotografía para convertirla al estilo Studio Ghibli o subir documentos personales y laborales para agilizar tareas pueden vulnerar la privacidad e identidad de los usuarios.
“Jamás utilicen inteligencias artificiales gratuitas, porque toda esa información que yo estoy subiendo, obviamente, es compartida con todo el mundo”, advirtió Morales. Además, señaló el riesgo creciente de que hoy en día es posible clonar imágenes y voces de cualquier persona de forma gratuita y en cuestión de segundos.
Por otro lado, también abordó el tema de la propiedad intelectual. Morales advirtió que cualquier usuario puede utilizar y procesar obras de terceros que estén disponibles en internet, lo que abre la puerta a otros dilemas, como el protagonizado por Boris Eldagsen, quien ganó el Sony World Photography Award ssolo para revelar posteriormente que su “fotografía” había sido generada con inteligencia artificial. Su intención fue evidenciar que los certámenes artísticos no están preparados para enfrentar el creciente uso de estas tecnologías, ni para distinguir entre creatividad humana de la algorítmica.
Por último, señaló que los centros de procesamiento de datos de compañías como OpenAI o Meta representan un gran impacto ambiental: “Uno de los centros de datos que están construyendo es más grande que la isla de Nueva York y consume más energía de lo que consumimos en todo Zapopan […] Aquí en México celebramos mucho que vienen estos data centers de grandes compañías, pero ¿quién está hablando de que no tenemos la energía suficiente para poder alimentarlos? El consumo de agua […] que son millones y millones de litros por minuto”.
El avance de estas tecnologías es inevitable, por lo que el debate en torno a estas problemáticas y la necesidad de establecer marcos legales resulta imperante. Si las sociedades no se preparan para atender estos conflictos emergentes, será mucho más complejo enfrentar los retos del futuro, como los que podría traer consigo la singularidad tecnológica. “El futuro de la inteligencia artificial no está en el algoritmo”, concluyó Morales.
FOTO: Zyan André
