Nesgos de xénero, Intelixencia Artificial e Algoritmos

Esta investigación achega solucións aos nesgos de xénero nas novas tecnoloxías dende as Ciencias Sociais e a través dunha mirada ética, xurídica e politolóxica.

Entre os seus principais resultados, pódense destacar os seguintes:

1. Os algoritmos sistemática e inxustamente discriminan a determinadas persoas ou grupos de persoas a favor de outras (por razón de sexo, xénero, idade, raza, etc).
2. Isto prodúcese, fundamentalmente, por diversos factores. En primeiro lugar, polo “nesgo preexistente” (nesgos na sociedade, nas fontes de información con nesgos das que se alimenta o sistema para operar). En segundo lugar, polo “nesgo técnico” (nesgos dos programadores; das estruturas e das contornas tecnolóxicas e institucionais; e as restriccións feitas polos propios sistemas). E, por último, debido ao “nesgo emerxente” (polo funcionamiento, debido á aprendizaxe autónoma da propia intelixencia artificial (IA), “machine learning” e os problemas derivados de que o seu uso real moitas veces non coincide coas capacidades ou valores das persoas usuarias).
3. Son “black boxes” amparadas en dereitos industriais, propiedade intelectual, comerciais,…

Autoras: Rosa Ricoy, Patricia Valcárcel, Itziar Sobrino.