“La Inteligencia Artificial reproduce los sesgos de las personas que la han creado, principalmente hombres blancos”
Además de intrusivo, el reconocimiento biométrico facial puede generar errores en la identificación de personas pertenecientes a ciertos grupos étnicos.
La inteligencia artificial (IA) ha experimentado un rápido crecimiento en los últimos años, lo que ha permitido su integración en distintos ámbitos de la vida cotidiana. Sin embargo, a medida que aumenta su presencia e importancia, también crecen las preocupaciones en torno a distintos ámbitos, uno de ellos son los sesgos que pueden existir en estos sistemas de comunicación.
¿Es la IA racista?
Por supuesto, no podía ser de otra manera, ya que los sistemas de los cuales se alimenta han sido entrenados con conjuntos de datos que contienen sesgos raciales, ya que éstos han sido realizados por personas, que son las verdaderamente racistas. La IA simplemente reproduce estos prejuicios.
Un ejemplo claro es el reconocimiento facial, en el cual se han encontrado numerosos casos en los que la IA tiene dificultades para identificar correctamente a personas de ciertos grupos étnicos, especialmente aquellos con tonos de piel más oscuros. Esta situación puede generar consecuencias graves en ámbitos como la vigilancia, la aplicación de la ley o el acceso a servicios y oportunidades. La discriminación basada en el sesgo racial de la IA puede excluir a comunidades enteras y perpetuar la desigualdad.
Otro de los sesgos más notorios en la IA es el machismo. Este sesgo puede manifestarse de diversas formas, desde la perpetuación de estereotipos de género hasta la discriminación en el ámbito laboral. Un ejemplo es la tendencia de algunos sistemas de IA a asociar trabajos tradicionalmente femeninos con mujeres y trabajos tradicionalmente masculinos con hombres, algo que puede llevar a la discriminación en el momento de contratar personal o en la asignación de tareas y responsabilidades.
Además del racismo o el machismo, existen otros prejuicios en la IA que pueden afectar a la vida de otros colectivos.
Sesgos socioeconómicos
La IA puede perpetuar estereotipos y discriminación en función del nivel socioeconómico de las personas. Por ejemplo, algoritmos de contratación pueden favorecer a candidatos con antecedentes educativos o laborales de ciertas instituciones o empresas, excluyendo a aquellos con trayectorias menos convencionales o de entornos menos privilegiados.
Sesgos lingüísticos
Los sistemas de IA pueden tener dificultades para comprender y procesar lenguajes minoritarios o dialectos regionales, lo que puede resultar en una menor calidad de servicio o incluso en la exclusión de ciertos grupos.
Sesgos de edad
La IA también puede manifestar discriminación en función de la edad, como en el caso de sistemas de contratación que favorecen a candidatos más jóvenes en detrimento de aquellos con más experiencia laboral.
La IA está hecha por personas, en su mayor parte por hombres blancos, es por ello que repite patrones y estereotipos heredados. Estamos ante los inicios de un nuevo concepto de internet dominado por la IA, el cual va a vertebrar nuestra sociedad en las próximas décadas. Cuanto más ricos y variados sean los perfiles que diseñen este internet, más rica y justa será la sociedad.