“Inteligencia Artificial y ética para la vida” fue el nombre de la ponencia desarrollada por el Dr. Julio César Guanche al cierre del Congreso de Seguridad de la Información (CONSI), organizado por primera vez en Venezuela como parte del cuarto vértice de la Gran Misión Ciencia, Tecnología e Innovación “Dr. Humberto Fernández – Morán”.
El Dr. Guanche es licenciado en derecho de la Universidad de La Habana, Doctor en Ciencias Sociales, especialista de Ciencias Sociales y Humanas de la Organización de las Naciones Unidas para la Ciencia, Educación y Cultura (UNESCO-Ecuador), entre otros.
Durante su participación, expuso cómo desde este organismo internacional se valora la ética para la implementación de la Inteligencia Artificial tomando en cuenta las ciencias sociales.
Repasó el papel de las matemáticas para los procesos de desarrollos de la vida, la política, economía y particularmente en la construcción de las IA y sus algoritmos.
El Dr. Guanche abordó los sesgos de los algoritmos de estas herramientas, que no son nuevas, pero que cobran mucha fuerza en este mundo digital.
Asimismo, precisó que existe una creciente tendencia hacia el extractivismo o mercantilización de datos personales en las economías contemporáneas, que responde al concepto de capitalismo de vigilancia.
“Aumentan exponencialmente las amenazas a la privacidad debido a la recolección de datos a gran escala por parte de grandes corporaciones tecnológicas. En este proceso se utilizan datos para manipular comportamientos mediante publicidad personalizada”, explicó.
De esta forma, han surgido nuevos conceptos como el de economía del comportamiento y neuroeconomía, se crean arquitecturas de elección “como técnicas para manipular y controlar la percepción y el comportamiento de las personas, planteando problemas serios para la democracia, porque se trata de procesos de manipulación que niegan el intercambio político como un diálogo racional entre iguales”, comentó.
Aunque reconoció las ventajas de los usos de la IA para la salud, el ambiente, toma de decisiones, gestión masiva de datos, etc, hay un aspecto preocupante en estas herramientas: el racismo que puede replicar en sus resultados.
“La complejidad de lo que estamos hablando es cuando tienen que trabajar cada día, cada minuto, cada segundo, con algo que no son declaraciones y tienen que responder en forma de declaraciones. Tienen que trabajar con datos y tienen que trabajar con algoritmos, ahí empiezan a surgir muchos problemas”, refirió el experto.
Puso como ejemplo, la incapacidad que tuvieron sistemas líderes de reconocimiento facial para identificar a figuras afroamericanas reconocidas mundialmente como Serena Williams u Oprah Winfrey.
Al respecto, el Dr. Guanche precisó que esto ocurre porque el sistema “no lo decide por sí mismo, sino que el entrenamiento de los datos y el aprendizaje de esos datos lo llevan a decir esto”.
Agregó que los sesgos sobre la población afrodescendiente, de las IA son frecuentes en sistemas sanitarios, identificación de rostros, manifestaciones de sexismos en incrustaciones de palabras, feminización de herramientas de IA y perpetuación de sistemas de género, y mucho más, “ocurren todos los días, con una frecuencia que es muy alarmante”.
Para entender este panorama, refiere que “la IA es tan buena como los datos que procesa” y “un modelo de algoritmo mal diseñado difunde sesgo a escala”. Agregó que, el racismo es una herencia estructural, social y cultural que a la vez se reconstruye.
Consideró que el problema radica en la necesidad de visibilizar cómo los sesgos históricos de la sociedad se infiltran en los sistemas automáticos, creando bucles de discriminación y ciclos dañinos de interacción entre tecnología y desigualdades que involucran la clase, el género y la idea de “raza”.
Invitó a ir más allá de los solucionismos tecnológicos y considerar las implicaciones sociales de las tecnologías, rechazar el tecno-determinismo.
“La tecnología es, siempre, un producto de su contexto temporal y organizacional, y manifiesta los sesgos y entendimientos de su momento de concepción”, sentenció.
Finalmente, expresó que la ética para la vida y la justicia algorítmica se puede avanzar en la ampliación de la protección de la seguridad; iniciativas proactivas contra la discriminación; uso de análisis estadísticos avanzados para identificar discrepancias; gobernanza de datos holística, entre otros aspectos.
Oficina de Gestión Comunicacional del Ministerio del Poder Popular para Ciencia y Tecnología / Periodista: Vanessa Gutiérrez.
