Estudio revela que los robots podrían ser racistas y sexistas - 800Noticias
800Noticias
Tecnología

800 Noticias

Un estudio reciente ha revelado que los robots que operan con un modelo de IA aceptado y ampliamente utilizado funcionan con importantes sesgos de género y raza.

El estudio dirigido por investigadores de la Universidad Johns Hopkins, el Instituto Tecnológico de Georgia y la Universidad de Washington, que será publicado en la Conferencia sobre Equidad, Responsabilidad y Transparencia de 2022, muestra cómo robots se vuelven sexistas y racistas por culpa de una inteligencia artifical (IA) defectuosa.

Según los profesionales, un robot con sistema de inteligencia artificial prefiere sistemáticamente a los hombres sobre las mujeres, a los blancos sobre las personas de color, y saca conclusiones sobre la profesión o la designación de las personas basándose únicamente en una foto de su rostro.

 «Corremos el riesgo de crear una generación de robots racistas y sexistas, pero la gente y las organizaciones han decidido que está bien crear estos productos sin abordar los problemas», explicó un equipo en un texto dirigido por el primer autor e investigador de robótica Andrew Hundt, del Instituto Tecnológico de Georgia.

A medida que las empresas se apresuran a comercializar la robótica, el equipo sospecha que los modelos podrían servir de base para los robots que se diseñen para su uso en hogares y lugares de trabajo, como los almacenes.

Si las mismas redes neuronales se utilizan en modelos de producción generalizada, esto podría traducirse en un sesgo racial y de género en el mundo real, con un impacto potencialmente peligroso tanto para los trabajadores como para los propietarios privados.

Con información de DW

Síguenos por @800noticias