Nueva York promulga una ley de discriminación laboral por prejuicios contra la IA

El pasado mes de diciembre, la ciudad de Nueva York se convirtió en la primera jurisdicción de Estados Unidos en promulgar una ley orientada a regular el uso de la inteligencia artificial y los algoritmos de aprendizaje automático que se utilizan para reclutar, contratar y promocionar a los empleados que trabajan en la ciudad. Int. No. 1894-A, descrita como “Una ley local para enmendar el código administrativo de la ciudad de Nueva York, en relación con las herramientas automatizadas de decisión de empleo”, entrará en vigor en enero del próximo año, e impondrá nuevas responsabilidades a las empresas dentro de la ciudad que utilicen inteligencia artificial durante el curso de sus respectivas prácticas de contratación, con el objetivo de reducir la influencia del sesgo algorítmico en las decisiones de contratación en el área de Nueva York y sus alrededores.

¿Cómo define la ley una herramienta automatizada de decisión de empleo?

En virtud de las disposiciones de la Ley Int. Nº 1894-A, una herramienta automatizada de toma de decisiones de empleo se define como “cualquier proceso computacional, derivado del aprendizaje automático, el modelado estadístico, el análisis de datos o la inteligencia artificial, que emite un resultado simplificado, incluida una puntuación, clasificación o recomendación, que se utiliza para ayudar o sustituir sustancialmente la toma de decisiones discrecionales para la toma de decisiones de empleo que afectan a las personas físicas”. El término “herramienta automatizada de toma de decisiones de empleo” no incluye una herramienta que no automatice, apoye, ayude sustancialmente o sustituya los procesos discrecionales de toma de decisiones y que no afecte materialmente a las personas físicas, incluidos, entre otros, un filtro de correo electrónico no deseado, un cortafuegos, un software antivirus, una calculadora, una hoja de cálculo, una base de datos, un conjunto de datos u otra compilación de datos.”

¿Cuáles son las obligaciones de las empresas con arreglo a la ley?

En virtud de las disposiciones de la Ley Int. Nº 1894-A, las empresas que utilizan herramientas automatizadas de decisión de empleo deben someterse a una “auditoría de sesgos” de estas herramientas de decisión. Tal como establece la ley, estas auditorías deben ser realizadas por un auditor independiente, y deben “evaluar el impacto dispar de la herramienta sobre las personas de cualquier categoría de componente 1 que los empleadores deban notificar de conformidad con la subsección (c) de la sección 2000e-8 del título 42 del Código de los Estados Unidos, tal como se especifica en la parte 1602.7 del título 29 del código de reglamentos federales”. Como referencia, la sección 2000e-8 del título 42 del Código de los Estados Unidos – Investigaciones impone varios requisitos a las empresas de todo el país en lo que se refiere a prácticas laborales justas.

Por otra parte, la ley también prohíbe a los empleadores utilizar herramientas automatizadas de decisión de empleo para contratar, seleccionar o promocionar empleados, a menos que se cumplan determinadas condiciones. Por ejemplo, los empleadores de la ciudad de Nueva York están obligados a permitir que sus herramientas de decisión de empleo sean auditadas como máximo un año antes de implantarlas y utilizarlas. Además, los empleadores también tienen la obligación de poner los resultados de estas evaluaciones de sesgo a disposición de los miembros del público en general a través del sitio web público de la empresa que se ha sometido a la auditoría, o a través de algún canal similar. Por otra parte, todas las empresas que utilicen herramientas automatizadas para la toma de decisiones de empleo, independientemente de los resultados de cualquier auditoría independiente, están obligadas a proporcionar a los futuros empleados un aviso que contenga diversos detalles sobre dichas herramientas.

Notificación pública

En relación con este último punto, las notificaciones que las empresas de la ciudad de Nueva York están obligadas a proporcionar a los solicitantes de empleo en caso de que dichas empresas utilicen herramientas automatizadas de decisión sobre el empleo como ayuda en sus prácticas de contratación deben incluir lo siguiente:

• Un reconocimiento formal de que la herramienta automatizada de decisión de empleo se utilizará para evaluar si se contrata o no a un posible empleado para el puesto, no menos de 10 días hábiles antes del uso de dicha herramienta. Además, los empleadores también deben “permitir que un candidato solicite un proceso de selección alternativo o adaptaciones”.
• Las cualificaciones y características específicas del puesto que la herramienta automatizada de decisión de empleo utilizará para determinar la posible adecuación de un candidato al puesto, con una antelación mínima de 10 días hábiles a la utilización de dicha herramienta.
• Los tipos específicos de información personal relativa a un candidato que recogerá la herramienta automatizada de decisión de empleo, así como la fuente de dichos datos, si dicha información no está ya disponible públicamente en el sitio web del empleador. Además, los solicitantes de empleo también tienen derecho a solicitar una copia personal de esta información, y los empleadores de la ciudad de Nueva York tienen la obligación legal de facilitar dicha información en un plazo de 30 días laborables a partir de la recepción de la solicitud.

Por el contrario, en lo que respecta a la aplicación de la ley, las empresas de Nueva York que no cumplan la Int. No. 1894-A están sujetas a una amplia gama de sanciones pecuniarias. En particular, los empresarios de la ciudad de Nueva York que infrinjan la ley están sujetos a una multa de 500 dólares por la primera infracción, así como a una multa adicional de 500 dólares por cada infracción posterior que se produzca el mismo día de la primera infracción. Además, los empresarios que infrinjan repetidamente la ley también están sujetos a una multa de hasta 1.500 dólares por cada infracción posterior. Es más, la ley también otorga a los residentes de Nueva York el derecho a interponer sus propias demandas civiles contra los empleadores que consideren que han violado sus derechos en virtud de la ley.

A medida que los algoritmos de IA sigan utilizándose con mayor frecuencia en diferentes sectores empresariales de la sociedad, seguirán produciéndose casos en los que se descubra que una herramienta automatizada de toma de decisiones laborales ha tomado una decisión sesgada. Por esta razón, una legislación como la Int. No. 1894-A es muy necesaria, ya que la idea de que la inteligencia artificial desempeñe un papel sustancial en la decisión de una empresa de reclutar, contratar o ascender a un empleado es una realidad que nunca se ha hecho realidad en ningún otro momento de la historia de la humanidad. Dicho esto, aunque Nueva York es la única ciudad de Estados Unidos que ha aprobado una ley relativa a la IA y la discriminación laboral a partir de 2022, muchas más jurisdicciones de todo el país seguramente considerarán la posibilidad de aprobar leyes similares en un futuro próximo.