Instituto de la Mujer
Seminario Justicia algorítmica en clave de género 2021 Compartir

El 22 de septiembre de 2021 se desarrolló el Seminario Justicia algorítmica en clave de género 2021.

Los beneficios de los sistemas de inteligencia artificial y de la tecnología son innegables, pero también los riesgos asociados. Las tecnologías de la IA no deberían reproducir las brechas de género que existen en el mundo real y los riesgos de discriminación asociados, además existe el riesgo de no poder determinar responsabilidades y retrotraer los efectos de las decisiones tomadas por sistemas de IA. La opacidad de los algoritmos puede dificultar la aplicación efectiva de la legislación vigente en materia de seguridad y derechos fundamentales.

Por otra parte, con nuestra historia de navegación (qué buscamos, qué compramos, dónde nos movemos) estamos ofreciendo al sistema pautas de nuestro comportamiento, intereses o deseos. Esta información es analizada por los algoritmos para ofertarnos información acorde con ella y limitando por tanto nuestro derecho a la información y almacenando datos relativos a nuestra privacidad.

Aunque los avances tecnológicos parecen que son objetivos y neutros, no lo son, por eso es muy importante que los sistemas de IA no reproduzcan prejuicios y discriminaciones. Al contrario, si se diseñan adecuadamente, los sistemas de IA deberían contribuir a reducir los prejuicios y la discriminación estructural existente.

Este seminario quiere contribuir a sensibilizar a la comunidad sobre los beneficios y riesgos de la IA y sobre la importancia de un enfoque más humanista y multidisciplinar en los equipos de trabajo, para incorporar cuestiones éticas en el diseño y en su caso políticas activas de acción positiva.

Señalamos, brevemente, algunas ideas expuestas a lo largo de las mesas:

La industria tecnológica que desarrolla sistemas de IA cuenta con un espacio de impunidad, donde no hay una real rendición de cuentas. La ciudadanía tiene sensación de indefensión ante el desconocimiento de la parte técnica de los algoritmos. Esta idea tiene que ver con el trabajo que hay que hacer desde un enfoque humanista de interpretación entre el lenguaje computacional y el lenguaje humano para que las personas puedan entender cómo funciona un sistema de inteligencia artificial que toma decisiones relevantes que afectan a su vida diaria.

Las personas tienen que saber que pueden impugnar los errores que cometen las máquinas, además de tener la oportunidad de hacerlo colectivamente, identificando y desmintiendo las injusticias.


En España, existe un marco legal bastante robusto, que entre otras cuestiones plantea el auditar los sistemas de IA que usa la Administración Pública, este marco no está implementado, por lo tanto, uno de los retos de la Administración Pública es cómo implementar la legislación relativa a los sistemas de IA.

Es necesario asegurar que los datos utilizados son representativos de la población a la que se dirige el sistema.

Los equipos de trabajo deben ser multidisciplinares.

Los sistemas de inteligencia artificial, deben ser transparentes y debe registrarse y notificarse dónde se utiliza y para qué finalidad. La transparencia es una herramienta esencial para gestionar riesgos de orden ético.

Los modelos matemáticos no ofrecen una explicación a la dimensión política, social, económica de fenómenos tan complejos como la discriminación o la desigualdad de género. Cuando se mapea el mundo social con estadísticas y modelos es habitual que ciertas relaciones de poder no se hagan explícitas. Los estudios de Big data, no suelen tener una consideración de lo social, no tiene cabida el poder en tanto que elemento explicativo y constitutivo de lo social, ni la lógica de las carencias.

No podemos reducir la complejidad de las relaciones humanas a fórmulas matemáticas ya que tienden a simplificar. Los sistemas de inteligencia artificial nos pueden ayudar en muchísimas cosas, pero no son la solución a los problemas del mundo, tenemos que empezar a mirar desde otras partes del mundo y considerar todas las dimensiones interseccionales que condicionan la discriminación de las mujeres.

Puede consultar el video completo del seminario en el canal de Youtube de Se abrirá en una ventana nueva. InstMujeres: Se abrirá en una ventana nueva.   Se abrirá en una ventana nueva.

W3C. Se abrirá en una ventana nueva