En fecha de 12 de agosto de 2021 entró en vigor la conocida como Ley Rider, de la que hablamos aquí.
Según el Ministerio, se entiende por algoritmo, un conjunto ordenado y finito de operaciones o reglas que permite hallar la solución de un problema, que puede implementarse o no a través de programas informáticos. A su vez, un sistema de decisión automatizada es un proceso automatizado mediante el uso de datos y algoritmos para optimizar la toma de una decisión.
¿Qué debo saber?
Por uno mismo puede solicitarse la información sobre la decisiones que se adoptan íntegramente automatizadas, es decir , en las que no hay intervención alguna. Siempre existe intervención humana, desde su creación, inserción de los datos que debe procesar el algoritmo, etc. Por lo que la intervención debe ser importante, es decir, que n ose limite a aplicar la decisión del algoritmo.
Será a través de la representación de los trabajadores (sección sindical, representante o comité de empresa) por donde solicitar cual es el uso realizado de los algoritmos o sistemas de inteligencia artificial que inciden en las condiciones de trabajo, acceso, mantenimiento del empleo e incluso elaboración de perfiles. En este caso, se podrá pedir sobre todas las decisiones haya o no intervención humana.
¿Cuál es la información concreta que debe dar la empresa?
El uso de algoritmo y sistemas de inteligencia artificial para la toma de decisiones de gestión de personas, incluyendo tanto a personas trabajadoras como a personas candidatas a un puesto de trabajo.
2. El uso de algoritmos o sistemas de inteligencia artificial para la elaboración de perfiles de las personas para su aplicación en el ámbito laboral.
3. Las concretas decisiones de gestión de personas que son tomadas mediante algoritmos o sistemas de decisión automatizada: selección de personas, contratación, asignación de tareas, control de la productividad, promociones, ascensos, etc.
4. El tipo de tecnología utilizada por parte del algoritmo y, entre otras cuestiones, si esta genera un algoritmo de “caja negra” o si se trata de un algoritmo de aprendizaje continuo.
5. El concreto software o producto utilizado y, en su caso, si cuenta con algún tipo de certificación, la empresa suministradora y, en su caso, si la empresa ha realizado alguna alteración sobre el producto.
6. El grado de intervención humana cualificada en las decisiones adoptadas mediante el uso de algoritmos y sistemas de decisión automatizada, incluida la elaboración de perfiles. En concreto, la competencia y autorización de la persona humana para apartarse de la decisión adoptada por el algoritmo.
7. En caso de elaboración de perfiles, la tipología de perfiles que elabora el algoritmo y, específicamente a la persona trabajadora ex artículos 13.2.f) y 14.2.g) RGPD, información sobre la asignación concreta a uno de ellos.
8. Las variables utilizadas por parte del algoritmo, entendidas como la información o factores utilizados por el algoritmo para tomar la decisión o la elaboración del perfil, incluyendo si algunas de estas variables son datos personales.
9. Los parámetros utilizados por parte del algoritmo para la toma de decisiones automatizadas, entendidos como la ponderación relativa de cada variable en el modelo para la toma de la decisión, así como cualquier cambio de estos parámetros que modifique el comportamiento del algoritmo. En un algoritmo utilizado en un proceso de selección, los parámetros serían el peso relativo que tiene cada variable en la decisión final de selección o contratación.
10. Las reglas e instrucciones utilizadas por el algoritmo, entendidas como las reglas programación (ya sea aquellas programadas de forma expresa o derivadas por aprendizaje automático del propio algoritmo) que conducen a la toma de la decisión.
11. Los datos de entrenamiento y, en su caso, validación, utilizados y sus características. La referencia a información sobre la lógica del algoritmo (artículos 13.2.f) y 14.2.g) 15.1.h) RGPD) y a “instrucciones” (artículo 64.4.d) ET) debe interpretarse en el sentido que incluye también los datos de entrenamiento y, en su caso, validación del sistema, por cuanto estos también influyen en su lógica o instrucciones del algoritmos. Por tanto, la empresa deberá informar sobre (i) los datos de entrenamiento y, en su caso, validación utilizados, (ii) su calidad, entendida como que sean adecuados, pertinentes, no excesivos, en atención a la finalidad para los que fueron obtenidos, etc., y (iii) el tipo de patrones identificados en los datos de entrenamiento.
12. En casos de elaboración de perfiles, las métricas de precisión o error en las tareas automatizadas (clasificación, puntuación, regresión, ordenación…) de las personas en los distintos perfiles.
13. Las auditorías realizadas o la evaluación de impacto realizada por parte de la empresa o una
tercera empresa respecto del algoritmo o sistema de decisión automatizada utilizado.
14. Las consecuencias que la decisión adoptada mediante algoritmos o sistemas de decisión
automatizada pueden tener sobre la persona. Es decir, cuáles pueden ser las consecuencias de
la decisión adoptada en términos de acceso al empleo, mantenimiento del empleo o determinación de condiciones laborales (por ejemplo, determinación de salario, asignación de tareas, fijación de horarios, promociones, despidos, etc.). Por ejemplo, en un proceso de selección basado en un sistema de decisión automatizada, las consecuencias podrían ser superar la primera fase de selección y acceder a la entrevista.
15. A la representación legal de la plantilla, además debe proporcionarse información respecto
el impacto que las decisiones adoptadas mediante algoritmos o sistemas de decisión automatizada tienen en materia de igualdad y no discriminación entre mujeres y hombres. Así se deriva del artículo 64.3 ET que reconoce el derecho de la representación legal de la plantilla de acceder a información referente a la aplicación en la empresa del derecho a la igualdad y no discriminación entre mujeres y hombres. Así como del artículo 7 Real Decreto 901/2020, referente al diagnóstico en un contexto de elaboración de un Plan de Igualdad.
La información debe facilitarse de forma clara, simple y comprensible para personas sin conocimientos técnicos, sin que aportar información meramente técnica resulte suficiente, por cuanto puede ser información opaca o confusa.
Para mayor información, detalle, y asesoramiento por nuestros abogados en derecho laboral, estamos a su disposición en nuestros despachos, e-mail, y en nuestras #rrss.
Contacte con nosotros y solicite su consulta en info@mijaresabogados.es o en el 985 213 722.