Algunas compañías pueden estar excluyendo a personas con discapacidad de una manera injusta. Son los organismos federales de Estados Unidos los últimos en alertar a las empresas sobre los posibles prejuicios de las herramientas de contratación con IA (Inteligencia Artificial).
Son el Departamento de Justicia (DOJ) y la Comisión para la Igualdad de Oportunidades en el Empleo (EEOC), según informa la agencia de noticias AP del país norteamericano, los que han advertido a los empresarios de que los sistemas de contratación y productividad con IA pueden violar la Ley de Estadounidenses con Discapacidades. Esto se puede dar debido a que estas tecnologías estarían discriminando a las personas con discapacidades por que aplican un control incorrecto del rendimiento, solicitan información sensible illegal o limitan los aumentos de sueldo, para estos puestos de trabajo, descartando a los candidatos injustamente.
Se han publicado documentos por parte de las organizaciones gubernamentales (DOJ, EEOC), en los que se describen los requisitos de la ADA (American with Disabilities Act / Ley sobre los estadounidenses con discapacidades) y se ofrece ayuda para mejorar la equidad de los sistemas de IA en el lugar de trabajo. Se debe de asegurar en las empresas que su IA permita realizar ajustes razonables, así como tener en cuenta el modo en que cualquiera de sus herramientas automatizadas puede afectar a las personas con diversas discapacidades.
Aunque puede ser que hayan empresas que no sigan estos consejos, existe una presión cada vez mayor sobre las empresas para mitigar el uso de la IA para la contratación y el seguimiento de los empleados. California promulgó recientemente una ley de cuotas de productividad que prohíbe los algoritmos que violan las normas de salud, trabajo y seguridad y además despide a las personas que no cumplen con las cuotas peligrosas. Como parte de eso, la ciudad de Nueva York ahora requiere que los sistemas de contratación de AI pasen auditorías anuales por discriminación. Las empresas que no presten atención a las nuevas advertencias pueden enfrentarse a graves implicaciones legales en múltiples niveles.