Sesgos de género, Inteligencia Artificial y Algoritmos

Esta investigación aporta soluciones a los sesgos de género en las nuevas tecnologías desde las Ciencias Sociales y a través de una mirada ética, jurídica y politológica.

Entre sus principales resultados, se pueden destacar los siguientes:

1. Los algoritmos sistemática e injustamente discriminan a determinadas personas o grupos de personas a favor de otras (por razón de sexo, género, edad, raza, etc.).
2. Esto se produce, fundamentalmente, por diversos factores. En primer lugar, por el “sesgo preexistente” (sesgos en la sociedad, en las fuentes de información con sesgos de los que se alimenta el sistema para operar). En segundo lugar, por el “sesgo técnico” (sesgos de los programadores; de las estructuras y de los entornos tecnológicos e institucionales; y las restricciones hechas por los propios sistemas). Y, por último, debido al “sesgo emergente” (por el funcionamiento, a causa del aprendizaje autónomo de la propia inteligencia artificial (IA), “machine learning” y los problemas derivados de que su uso real muchas veces no coincide con las capacidades o valores de las personas usuarias).
3. Son “black boxes” amparadas en derechos industriales, propiedad intelectual, comerciales,…

Autoras: Rosa Ricoy, Patricia Valcárcel, Itziar Sobrino.