NYC DCWP propose des règles pour mettre en œuvre une nouvelle loi régissant les outils de décision d’emploi automatisés

Le 24 octobre 2022, le Département de la protection des consommateurs et des travailleurs de la ville de New York («DCWP») a proposé des règles pour mettre en œuvre sa nouvelle loi concernant les outils automatisés de décision en matière d’emploi («AEDT»).

La nouvelle loi, la loi locale 144 de NYC (« LL 144 »), entrera en vigueur le 1er janvier 2023 et interdira à un employeur ou à une agence de placement d’utiliser les AEDT pour une décision d’emploi (c’est-à-dire la sélection d’un candidat à l’emploi ou d’un employé pour une promotion, au sein de NYC) sauf :

  • dans l’année précédant l’utilisation de l’AEDT, il a fait l’objet d’un « audit de biais » ; autre
  • Avant d’utiliser l’AEDT, un résumé de l’audit des préjugés et la date de distribution ont été publiés sur le site Web de l’employeur ou de l’agence pour l’emploi.

En vertu de LL 144, un AEDT comprend « tout processus de calcul, dérivé de l’apprentissage automatique, de la modélisation statistique, de l’analyse de données ou de l’intelligence artificielle, qui émet une sortie simplifiée, y compris un score, une classification ou une recommandation, qui est utilisé pour aider ou remplacer de manière substantielle les décisions discrétionnaires ». prise de décision » pour les décisions en matière d’emploi. Les AEDT couverts n’incluent expressément pas les outils qui ne prennent pas en charge la prise de décision discrétionnaire et n’ont pas d’impact matériel sur les individus, y compris, par exemple, les filtres de courrier indésirable, les pare-feu, les logiciels antivirus, les calculatrices, les feuilles de calcul, les bases de données, les ensembles de données ou d’autres compilations de données.

LL 144 exige également que tout employeur ou agence pour l’emploi à New York utilisant un AEDT pour le filtrage fournisse un avis aux employés ou candidats résidant à New York, y compris :

  • un préavis indiquant que l’outil sera utilisé et qu’un candidat peut demander un autre processus de sélection ou un accommodement ;
  • un préavis des qualifications et des caractéristiques du poste que l’outil utilisera pour évaluer le candidat ; autre
  • avis du type, de la source et de la politique de conservation des données collectées pour l’AEDT.

LL 144 prévoit l’application par le NYC Corporation Counsel, y compris des amendes pouvant aller jusqu’à 1 500 $ par infraction.

Les règles proposées mettant en œuvre la LL 144 prévoient des exigences supplémentaires, notamment :

  • clarifier la portée des AEDT couverts, y compris l’exigence qu’ils « aident ou remplacent considérablement la prise de décision discrétionnaire » ;
  • clarifier les exigences relatives à la conduite et à la publication des résultats d’un audit sur les préjugés, y compris lorsque l’AEDT sélectionne, classe ou note les individus ; autre
  • clarifiant comment satisfaire aux exigences de préavis de la loi.

Une audience sur les règles proposées est prévue pour le 4 novembre 2022.