El contexto y las consecuencias del desarrollo vertiginoso de la Inteligencia Artificial (IA) han acaparado la primera sesión de Nuevas teconologías y humanismo digital, ciclo de actividades organizado por Casa Amèrica Catalunya con la colaboración de Diplocat. Ante un centenar de alumnos de Bachillerato del Liceo Francés de Barcelona, los expertos en la materia Sofía Trejo y Jordi Vallverdú han abundado en las circunstancias del “cambio histórico fundamental” que la extensión imparable de la IA está protagonizando con la inquietante ausencia de una envoltura ética consensuada y pautada.”En la IA todo es opaco. El gran peligro es pensar que es un sistema perfecto”, ha advertido Jordi Vallverdú.
24/04/2023 / Barcelona
Tecnología de dioses, mentes prehistóricas
Tras la introducción de la sesión a cargo de Marta Nin y Laura Foraster, directora de Casa Amèrica Catalunya y secretaria general de Diplocat respectivamente, la matemática mexicana y miembro de la red FAIR de investigación feminista sobre Inteligencia Artificial Sofía Trejo ha iniciado su exposición remarcando la necesidad de visibilizar los procesos que hoy día hacen posible la IA: Desde la obtención de minerales como el cobalto o el litio en zonas en conflicto a las redes de cables submarinos propiedad de grandes corporaciones que transportan la señal de Internet por el mundo.
Perspectiva feminista
De esta forma, Sofía Trejo ha reivindicado una perspectiva feminista en la generación, validación y uso de los conocimientos que alimentan el fenómeno de la IA y lograr un cambio en la narrativa existente, que también aquí aparta a las mujeres y a otros colectivos históricamente marginados. “Con la IA se están reviviendo sistemáticas de opresión y marginación del siglo pasado que creíamos olvidadas”, ha señalado. A modo de ejemplo, la experta ha expuesto cómo en Estados Unidos se habían desarrollado sistemas de reconocimiento facial que no funcionaban con afrodescendientes. Las características raciales de estas personas estaban infrarrepresentadas en las bases de datos que alimentan a estos programas.
Ante el desarrollo de la IA, “no tenemos repuestas ni sabemos cómo hacerlo. Somos monos con tecnología de dioses y mentes prehistóricas”, afirma con contundencia Jordi Vallverdú, profesor de ICREA Academia especializado en Filosofía de la Ciencia y la Computación. “No fallan los robots, fallan los sistemas éticos. Esas máquinas no pueden funcionar bien porque nuestros sistemas éticos no son coherentes”, subraya.
En este sentido, Vallverdú se ha referido a los primeros escarceos de la llamada justicia predictiva, en la que la propia IA redacta las resoluciones judiciales en base a algoritmos que también beben de los sesgos que se dan a nivel social. “No somos justos, nunca. Somos racistas, sexistas, clasistas... ¿Pero que significa ser neutro?”, se ha preguntado para añadir: “No somos el mejor ejemplo para diseñar estas máquinas pero sí somos útiles para que puedan funcionar”
¿Máquinas con sentimientos?
Ante la inevitable perspectiva de que más pronto que tarde la IA adquiera la facultad de sentir emociones, Sofía Trejo ha rechazado abordar estas conjeturas insistiendo en la necesidad de hablar de las graves cicunstancias en las que en estos momentos se desarrolla este avance: “Las tecnologías requeridas para la IA son las que están destruyendo el planeta en nombre del progreso y el futuro”, denuncia.
“Las máquinas no pueden computarlo todo ni nos interesa que lo hagan. Es inevitable que funcionen mal, no las podemos cargar con datos correctos, nuestras sociedades son imperfectas. Exigimos estándares a sistemas artificiales que los humanos no cumplimos”, concluye Vallverdú.
Más información:
Las máquinas deben tener emociones.
Por Anna Cuatrecasas. Diplocat.
