La inteligencia artificial también es machista

Agencias

La directora del Instituto de las Mujeres, Toni Morillas, destacó el pasado miércoles la necesidad de impulsar desde las instituciones públicas medidas que acaben con los algoritmos con sesgo de género que existen en el sector de la Inteligencia Artificial (IA).

Morillas inauguró el conversatorio ‘Justicia Algorítmica en clave de género’, organizado por el Instituto, en donde junto a varias representantes de empresas del sector, informáticas y especialistas la importancia de «revisar y analizar cómo estos sistemas pueden afectar al desarrollo de los derechos humanos reproduciendo sesgos y estereotipos» presentes en la sociedad. Según Morillas, los algoritmos están diseñados para discriminar a las mujeres.

Como ejemplo de la brecha de género que existe dentro del diseño de la IA, Morillas ha señalado los sistemas «que no reconocen las voces agudas porque se entrenan con voces masculinas, o los historiales que realizan las redes sociales basados en estereotipos» y concepciones previas que incentivan la polarización.

También apunta a la ausencia de datos sobre asuntos que interesan a las mujeres, como el tratamiento del embarazo o el parto, la violencia obstétrica, o la falta de cifras, por ejemplo, en relación a los infartos en mujeres. Unos números que, ha apuntado, se escondieron durante mucho tiempo.

Según recoge la agencia Ep, Morillas considera de gran importancia no solo «cómo se diseñan» estos sistemas, sino también cómo se trabaja con los datos y la información previa, para «eliminar las brechas de género, pero también las raciales, de clase o por orientación sexual».

«Los sistemas de IA de selección de personas tiran del histórico de datos y estos representan desigualdades y brechas de género que se producen en segmentos laborales», apuntó al inaugurar la jornada, que se prolongó durante toda la mañana del miércoles.

Para Morillas, la IA es un ámbito que se debe «politizar y problematizar» para evitar sesgos en su diseño y no se acabe constituyendo un dispositivo que haga retroceder a la sociedad en derechos humanos.

Ética en la inteligencia artificial

Entre las medidas que propone la directora del Instituto de las Mujeres está incentivar desde niñas el interés de las menores por las materias STEM (científicas y tecnológicas como las Matemáticas, Ingenierías, Ciencias y Tecnología).

A su juicio, parte de la problemática existente en el diseño de algoritmos se debe a cifras como que menos del 25% de las personas que se dedican a la investigación en IA son mujeres; y entre quienes lideran proyectos en el ámbito empresarial de la IA solo un 18% son mujeres. En cuanto a los artículos de investigación en este tema, Morillas ha indicado que el porcentaje de autoras se sitúa en el 13,8%.

Finalmente, ha puesto en valor que la Unesco esté trabajando en un documento de recomendaciones sobre ética en la IA que «apuesta por definir marcos regulatorios por parte de los estados»; así como que la UE apoye también «que haya un enfoque regulatorio» en esta materia, un tema sobre el que «se está debatiendo una propuesta de reglamento».

Por ABC.es