¿Cómo se puede utilizar el aprendizaje automático para corregir los prejuicios inconscientes?

Dado que los modelos de aprendizaje automático y los sistemas de inteligencia artificial han llegado a influir en muchos aspectos de la sociedad estadounidense, desde el sistema de justicia penal hasta las decisiones sobre inmigración, es imperativo que estos métodos estén libres de prejuicios. Pero como casi todas las personas tienen algún tipo de prejuicio en un momento u otro, esto puede resultar sumamente difícil. Además, muchos de los equipos que desarrollan los modelos de datos utilizados en los algoritmos de aprendizaje automático no son diversos. Es imposible representar a todos los grupos demográficos en un determinado conjunto de datos si el conjunto ha sido creado por un único grupo demográfico. En un escenario así, los problemas aparecerán invariablemente si se da el tiempo suficiente.

Es un reto detectar los prejuicios inconscientes en el aprendizaje automático, aunque hay ocasiones en las que el aprendizaje automático puede utilizarse para evitar los comunes prejuicios inconscientes de la sociedad estadounidense. En el contexto del aprendizaje automático, se puede implementar un programa de visión artificial en el lugar de trabajo que contenga muchas mujeres cocinando y muchos hombres programando. Con el tiempo, este programa aprenderá que los hombres son programadores y las mujeres cocineras, a pesar de que los hombres pueden ser cocineros y las mujeres programadoras.

¿Cómo puede utilizarse el aprendizaje automático para corregir los prejuicios inconscientes de los humanos?

Un área en la que los prejuicios inconscientes están más presente es en las decisiones de contratación tomadas por empresas, corporaciones u otros empleadores. Por ejemplo, un empleador puede tener un sesgo inconsciente hacia una determinada raza o etnia y evitar inconscientemente la contratación de personas de estos grupos. Por otra parte, como algunas ocupaciones como el atletismo y los puestos de trabajo manual se han asociado durante mucho tiempo con la masculinidad, es posible que alguien que contrate para estos puestos no tenga en cuenta a las mujeres. Por último, el prejuicio de edad también puede prevalecer en las decisiones de contratación, ya que un profesional de recursos humanos puede pensar que es más fácil trabajar con una persona joven y recién salida de la universidad en comparación con una persona mayor que puede tener un estilo de trabajo establecido.

Tomemos como ejemplo los currículos. En estos, los algoritmos de aprendizaje automático pueden utilizarse para invisibilizar la información personal de identificación (nombres, direcciones, números de teléfono, direcciones de correo electrónico, nombres de escuelas y fechas) para que los responsables de contratación puedan tomar decisiones basadas en las habilidades, la educación y el talento.

Utilizar el aprendizaje automático para corregir los prejuicios

Las capacidades de aprendizaje automático pueden utilizarse para agilizar, mejorar y hacer intuitivo y fluido el proceso de contratación. Los algoritmos aprenden y se perfeccionan a sí mismos con el tiempo. Esta tecnología de redacción automática es muy superior a la redacción manual de toda esta información de los currículos, la cual conlleva un tiempo excesivo. Además, un director de contratación puede querer llevar esta redacción más allá, al invisibilizar el promedio de calificaciones de un solicitante o la escuela de la que es graduado, en un intento de garantizar que la decisión se tome basada completamente en los méritos, sin ningún otro factor atenuante.