Democracia digital

El Instituto de las Mujeres y la AESIA se alían para combatir la violencia digital y corregir sesgos de género en la IA

• El Laboratorio de Ideas que se ha celebrado hoy en Bergondo, A Coruña, es uno de los puntos estratégicos de colaboración entre ambas entidades

09/04/26 – El Instituto de las Mujeres, organismo autónomo adscrito al Ministerio de Igualdad, y la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), dependiente del Ministerio para la Transformación Digital y de la Función Pública, han puesto en marcha una colaboración para combatir la violencia digital y corregir sesgos de género en los sistemas de Inteligencia Artificial.

Para ello, ambas entidades han firmado un convenio que establece un marco de colaboración que servirá para integrar la igualdad de género en todo el ciclo de supervisión y uso de la inteligencia artificial en España. Ambas entidades cooperarán en la detección, prevención y corrección de los sesgos de género en sistemas de IA.

Esta coordinación permitirá reforzar la protección de los derechos fundamentales en el despliegue de sistemas de alto riesgo, así como asegurar que las decisiones automatizadas no generen discriminación. Por su parte, la AESIA alertará sobre sistemas de alto riesgo, compartirá documentación, organizará pruebas técnicas y formará a su personal en materia de igualdad.

Un Laboratorio de Ideas que sitúa a España como referente mundial

En el marco de dicha colaboración, se ha celebrado hoy en Bergondo, A Coruña, el Laboratorio de Ideas de AESIA, compuesto por una treintena de personas referentes en el sector académico, público, empresarial y sindical para la elaboración de estudios e informes específicos.  

En el acto, en el que han participado el ministro para la Transformación Digital y de la Función Pública, Óscar López; la secretaria de Estado de Digitalización e Inteligencia Artificial de España, María González Veracruz; y la directora del Instituto de las Mujeres, Cristina Hernández, se ha destacado que AESIA supondrá un paso más de este Gobierno por el desarrollo de una IA ética que permitirá a España situarse como referente mundial de la IA confiable.

Cristina Hernández, directora del Instituto de las Mujeres, organismo que participa como observador permanente en el Laboratorio, ha recordado que “gran parte de la construcción de identidades, referentes y relaciones se produce en entornos digitales que no son neutros y reproducen estereotipos que legitiman el machismo”. Y ha continuado reforzando con datos la idea de que estamos ante nuevas formas de conflicto en el espacio digital, porque “la desinformación, la manipulación social y las operaciones digitales forman parte de un ecosistema que contribuye al retroceso de derechos y a la polarización de nuestras sociedades”.

El Laboratorio de Ideas de AESIA ha seleccionado cuatro temas de discusión para reflexionar durante su primer año en función de su impacto social; el primero de esos asuntos es el impacto en los derechos de las mujeres. En colaboración con el Instituto de las Mujeres, se buscarán iniciativas para evitar que la IA amplifique los sesgos de género, así como proteger a las mujeres ante la manipulación de imágenes y la violencia digital.

En línea con las estrategias de la Comisión Europea

Entre las acciones que se desarrollan en el convenio suscrito recientemente, la AESIA compartirá evidencias técnicas y documentales con la Comisión Europea y la Oficina de IA europea para contribuir de forma eficiente a sus investigaciones sobre el uso de sistemas de inteligencia artificial en redes sociales.

En ese sentido, el Instituto de las Mujeres elevará un informe sobre la situación en España del uso del asistente de IA Grok en la plataforma X para la creación y difusión de imágenes sexualizadas o sexualmente explícitas manipuladas sin consentimiento. Dicho informe aportará la visión y las evidencias recopiladas por instituciones públicas y privadas con el fin de preservar el pleno respeto a los derechos fundamentales y los fundamentos de nuestro Estado de Derecho. En esta recopilación de documentación, ha colaborado el Instituto Nacional de Ciberseguridad (INCIBE).

En la declaración suscrita, la AESIA y el Instituto de las Mujeres reconocen los esfuerzos de la Unión Europea y solicitan que siga liderando la lucha contra la violencia digital a la que se enfrentan mujeres y niñas en la red. “La producción de un alto contenido misógino, sexista y de discursos de odio en las redes sociales obstaculiza y desalienta la participación y el liderazgo femenino, afectando gravemente a la calidad de nuestra democracia y a la igualdad de género. Estos abusos superan la esfera digital, afectando a la salud mental, silenciando a las mujeres y niñas para poder expresarse con libertad y provocando situaciones de acecho, violencia física e incluso la muerte”, señala el texto.

Acciones concretas con enfoque de género

El acuerdo suscrito entre AESIA y el Instituto de las Mujeres prevé acciones coordinadas para promover una cultura de IA ética y responsable y alineada con el principio de igualdad. Para lograrlo, ambas partes impulsarán de forma coordinada acciones de sensibilización y formación, desarrollarán iniciativas de investigación, análisis y generación de conocimiento en materia de inteligencia artificial, igualdad de género y no discriminación.

La iniciativa también contempla la creación de una Comisión de Seguimiento que garantizará la planificación y continuidad de estas actuaciones durante la vigencia del acuerdo.