Auditoría Algorítmica: ¿Es Obligatoria en España?

En la era digital actual, la integración de la inteligencia artificial (IA) y los algoritmos en el tejido empresarial ha pasado de ser una novedad a una realidad omnipresente, especialmente en el ámbito laboral. Desde la selección de personal hasta la evaluación de rendimiento y la asignación de tareas, las decisiones automatizadas están redefiniendo las relaciones entre empleadores y empleados. Sin embargo, esta revolución tecnológica no viene sin sus desafíos, planteando interrogantes cruciales sobre la transparencia, la equidad y la protección de los derechos fundamentales de los trabajadores. La preocupación creciente por los posibles sesgos, la falta de intervención humana y la opacidad de los sistemas algorítmicos ha impulsado a legisladores y organismos reguladores a actuar. En España, el Ministerio de Trabajo y Economía Social ha dado un paso significativo al publicar una “Guía práctica y herramienta sobre la obligación empresarial de información sobre el uso de algoritmos en el ámbito laboral”, buscando arrojar luz sobre estas complejas cuestiones. Este documento es fundamental para entender el marco legal y las responsabilidades que recaen sobre las empresas que emplean estas tecnologías. Pero, ¿es realmente obligatorio realizar una auditoría algorítmica? ¿Qué implicaciones tiene para las empresas y los trabajadores?

Definiendo los Términos Clave: Algoritmos y Sistemas de Decisión Automatizada

Para comprender el alcance de la regulación y las obligaciones empresariales, es fundamental tener claras las definiciones de los conceptos centrales. Un algoritmo, en su esencia más pura, es un conjunto ordenado y finito de operaciones o reglas bien definidas que permite encontrar la solución a un problema específico. Estos pueden ser implementados a través de programas informáticos, pero el concepto en sí es más amplio que la mera codificación. Son la receta, el paso a paso, para lograr un resultado. Por otro lado, un sistema de decisión automatizada (SDA) es un proceso que utiliza datos y algoritmos para optimizar la toma de una decisión, sin la intervención directa y significativa de un ser humano en cada paso. Un SDA puede estar compuesto por uno o varios algoritmos interconectados. Existen dos modalidades principales de SDA:

• Sistemas Programados Explícitamente: Aquellos donde el programador establece reglas claras y lógicas que el sistema seguirá para tomar decisiones. Son más transparentes en su funcionamiento.
• Sistemas de Aprendizaje Implícito (Caja Negra): Son los más complejos y, a menudo, los que generan mayor preocupación. Estos sistemas aprenden sus reglas de forma autónoma, analizando grandes volúmenes de datos para identificar patrones estadísticos. Técnicas de inteligencia artificial, como el aprendizaje automático (Machine Learning) o las redes neuronales, pueden producir modelos de "caja negra", donde los procedimientos, lógicas internas y variables que llevan a una decisión no son inmediatamente evidentes o fácilmente comprensibles para los humanos. Esta opacidad es uno de los principales focos de atención regulatorio.

La Pervasiva Presencia de Algoritmos en la Gestión de Personas

Los algoritmos y los sistemas de decisión automatizada han permeado casi todas las etapas de la gestión de recursos humanos dentro de las organizaciones. Su uso promete eficiencia y objetividad, pero también introduce riesgos potenciales si no se gestionan adecuadamente. A continuación, se detallan algunos de los ámbitos más comunes de su aplicación:

• Selección y Contratación de Personal:
• Fase de Selección: Publicación segmentada de ofertas de empleo en redes sociales o plataformas específicas, procesamiento automatizado de currículums vitae (CV) para identificar palabras clave o perfiles.
• Fase de Preselección: Ordenación automática de candidatos basada en criterios predefinidos o en el análisis de datos.
• Fase de Entrevista: Uso de chatbots para proporcionar información adicional a los candidatos, sistemas de reconocimiento facial para analizar expresiones o reacciones durante entrevistas virtuales, o tests psicotécnicos adaptativos que generan indicadores sobre la personalidad o habilidades.
• Fase de Contratación: Modelos predictivos que sugieren ofertas salariales personalizadas o que evalúan la probabilidad de retención de un candidato.
• Monitorización y Vigilancia en el Ámbito Laboral: Sistemas de reconocimiento facial para control de accesos o presencia, tecnologías wearables (dispositivos ponibles) que monitorean la actividad, análisis de datos de teléfonos inteligentes corporativos o el tratamiento de información disponible públicamente en redes sociales para evaluar el comportamiento o la imagen del empleado.
• Dirección y Gestión del Trabajo:
• Asignación automatizada de tareas y proyectos.
• Fijación de horarios y turnos de trabajo optimizados por algoritmos.
• Determinación del salario o bonificaciones basada en métricas de rendimiento.
• Control de la productividad y evaluación del rendimiento mediante el análisis de datos.
• Decisiones sobre promociones o ascensos.
• Incluso, en algunos casos, la recomendación o decisión de despidos basada en criterios algorítmicos.

La complejidad de estos sistemas y su influencia directa en la vida laboral de las personas hace que la transparencia sea un pilar fundamental.

La Obligación Empresarial de Información Algorítmica en España

La normativa española, en línea con la regulación europea, ha establecido un marco de obligaciónes para las empresas en lo que respecta al uso de algoritmos y sistemas de decisión automatizada. Estas obligaciones se articulan en dos planos principales:

1. Plano Individual (Artículo 22 RGPD)

El Reglamento General de Protección de Datos (RGPD) es la piedra angular de esta obligación. Su artículo 22 establece el derecho de las personas a no ser objeto de decisiones basadas únicamente en el tratamiento automatizado, incluida la elaboración de perfiles, que produzcan efectos jurídicos en ellas o les afecten significativamente de modo similar. Esto implica que, si una empresa toma decisiones que afecten a un trabajador de forma íntegramente automatizada (sin intervención humana significativa), debe informarle sobre:

• La existencia de la decisión automatizada, incluida la elaboración de perfiles.
• La lógica aplicada por el algoritmo.
• Las consecuencias previstas de dicho tratamiento para el interesado.

Esta obligación busca garantizar que los trabajadores tengan conocimiento y, en ciertos casos, puedan oponerse a decisiones que les impactan directamente y que son tomadas por máquinas.

2. Plano Colectivo (Artículo 64 del Estatuto de los Trabajadores)

El Estatuto de los Trabajadores (ET) complementa el RGPD al establecer obligaciones de información en favor de la representación legal de la plantilla (comités de empresa, delegados de personal, etc.). El artículo 64 del ET, tras su modificación, incorpora la obligación empresarial de informar sobre el uso de "algoritmos o sistemas de IA que afectan a la toma de decisiones que pueden incidir en las condiciones de trabajo, el acceso y mantenimiento del empleo, incluida la elaboración de perfiles".

Esta obligación colectiva es crucial porque reconoce que el impacto de los algoritmos puede ir más allá del individuo, afectando a grupos enteros de trabajadores o a las dinámicas laborales de la empresa. La información debe ser proporcionada para que los representantes de los trabajadores puedan comprender cómo funcionan estos sistemas y evaluar sus posibles efectos.

En resumen, todas las empresas que tengan personas asalariadas a su cargo y utilicen algoritmos o sistemas de decisión automatizada para la gestión de personal (desde la selección y contratación hasta la fijación de salarios o despidos) tienen la obligación de proporcionar esta información algorítmica.

¿Existe la Obligación de Negociar el Algoritmo?

Una pregunta frecuente es si las empresas están obligadas no solo a informar, sino también a negociar el diseño o la aplicación de los algoritmos con la representación legal de los trabajadores. Como norma general, la Guía de España especifica que no existe una obligación general de negociar el algoritmo. La normativa actual se centra principalmente en la obligación de informar.

Sin embargo, hay matices importantes:

• Negociación Colectiva: Los convenios colectivos pueden ir más allá de la ley y establecer esta obligación. Esto podría incluir la negociación de las variables, parámetros o características del algoritmo o sistema de decisión automatizada.
• Test de Uso Responsable: Los convenios colectivos también podrían introducir un "test de uso responsable" en casos donde el empleo de algoritmos pueda afectar significativamente al empleo, por ejemplo, debido al uso progresivo de robótica o automatización.
• Despidos Colectivos: Existe una excepción clara a la norma general. Si un algoritmo se utiliza en el marco de un despido colectivo para determinar las personas afectadas, la empresa sí tiene la obligación de negociar su uso y criterios con los representantes de los trabajadores. Este es un punto crítico que subraya la importancia de la intervención humana en decisiones de alto impacto.

Evaluación de Impacto y la Auditoría Algorítmica: ¿Son Obligatorias?

La evaluación de impacto relativa a la protección de datos (EIPD o DPIA, por sus siglas en inglés) es una herramienta preventiva que ayuda a las organizaciones a identificar y minimizar los riesgos de privacidad de los proyectos. En el contexto del uso de algoritmos, la empresa tiene la obligación de realizar una EIPD en al menos dos supuestos clave, según el artículo 35 del RGPD:

1. Tratamientos que Impliquen Decisiones Automatizadas o Contribuyan Significativamente a Ellas: Esto incluye cualquier tipo de decisión que pueda impedir a una persona el ejercicio de un derecho, el acceso a un bien o servicio, o la formación de un contrato. La toma de decisiones en el ámbito laboral mediante algoritmos suele encajar en esta categoría.
2. Tratamientos que Impliquen el Uso de Nuevas Tecnologías o un Uso Innovador de Tecnologías Consolidadas: Esto abarca la utilización de tecnologías a una nueva escala, con un objetivo diferente o combinadas de formas que supongan nuevas maneras de recogida y uso de datos con riesgo para los derechos y libertades de las personas. Los sistemas algorítmicos complejos y de IA a menudo se encuadran aquí.

La EIPD es, por tanto, obligatoria cuando el tratamiento de datos de la empresa, debido al uso de nuevas tecnologías, supone un alto riesgo para los derechos de la persona trabajadora.

Ahora, volviendo a la pregunta central: ¿Es obligatorio realizar una auditoría algorítmica? La Guía de España es clara al respecto: como norma general, no es obligatorio realizar una auditoría algorítmica específica. Sin embargo, hay una salvedad importante: si el empleo de algoritmos puede afectar a la seguridad y salud de los trabajadores, dicha tecnología podría y debería formar parte de la auditoría en materia de riesgos laborales que la empresa ya está obligada a realizar. Esto resalta la interconexión entre las diferentes normativas y la necesidad de un enfoque integral en la gestión de riesgos.

Los Algoritmos en el Contexto de los Planes de Igualdad

La importancia de los algoritmos también se extiende al ámbito de la igualdad de género. En el contexto del diagnóstico previo para la elaboración de un Plan de Igualdad, la empresa debe incluir un análisis del impacto o los efectos que los algoritmos y sistemas de decisión automatizada utilizados puedan tener en la igualdad entre mujeres y hombres. Esto es crucial para identificar y corregir posibles sesgos algorítmicos que puedan perpetuar o incluso ampliar las brechas de género en aspectos como la contratación, la promoción o la retribución.

Una empresa que adopte una metodología de auditoría o compliance en la gestión algorítmica de sus relaciones laborales, aunque no sea obligatoria de forma general, demostraría una mayor diligencia y compromiso con la protección de los derechos fundamentales de sus trabajadores. Esto no solo mitiga riesgos legales, sino que también mejora la reputación y la confianza interna.

La Guía Española: Una Herramienta Crucial para la Transparencia

La "Guía práctica y herramienta sobre la obligación empresarial de información sobre el uso de algoritmos en el ámbito laboral" del Ministerio de Trabajo y Economía Social de España es un recurso valioso para empresas y trabajadores. Su objetivo es concretar y sistematizar las obligaciones de información, proporcionando una herramienta práctica para cumplir con ellas. Esta herramienta busca que la información suministrada sea relevante y detallada, abarcando:

• Información general sobre el uso de algoritmos o sistemas de IA para tomar decisiones automatizadas.
• Detalles sobre la lógica y el funcionamiento de cada algoritmo utilizado.
• Información sobre las posibles consecuencias que pueden derivarse de la decisión automatizada o del uso del algoritmo.
• Cualquier otra información relevante para la representación legal de la plantilla, que les permita entender las características y detalles técnicos más importantes para comprender la lógica y el funcionamiento del algoritmo.

El propósito último de esta guía es ofrecer a trabajadores y empresas una referencia para comprender el origen, la procedencia, los posibles sesgos y el grado de impacto de una solución tecnológica automatizada en la organización del trabajo. Subraya la importancia de una intervención humana constante en cada una de las decisiones, no solo al inicio o al final del proceso, para evitar sesgos o discriminaciones involuntarias en cualquier punto de la cadena. Un ejemplo claro de la necesidad de esta supervisión es la sentencia del Tribunal de Bolonia, que dictaminó como discriminatorio el algoritmo de la aplicación Deliveroo para la asignación de turnos a los riders, evidenciando que los sesgos algorítmicos son una realidad con consecuencias jurídicas.

Es fundamental recordar que los algoritmos, especialmente aquellos basados en modelos de IA de aprendizaje automático, requieren una evaluación periódica. Solo así se puede garantizar que no hayan introducido sesgos nuevos e inesperados en su propia toma de decisiones durante el autoaprendizaje. Aunque muchos países aún carecen de legislación específica, iniciativas como la española representan un paso adelante crucial para asegurar que el diseño, desarrollo, aplicación y auditoría de los algoritmos siempre respeten los derechos fundamentales de los ciudadanos.

Preguntas Frecuentes sobre Algoritmos y Auditorías en el Ámbito Laboral

¿Qué es un algoritmo en el ámbito laboral?

En el ámbito laboral, un algoritmo es un conjunto de reglas o instrucciones programadas que una empresa utiliza para automatizar o asistir en la toma de decisiones relacionadas con la gestión de personal. Esto puede incluir desde la selección y contratación hasta la asignación de tareas, la evaluación de rendimiento o la determinación de salarios.

¿Qué es un sistema de decisión automatizada (SDA)?

Un SDA es un proceso que utiliza datos y algoritmos para tomar decisiones de forma autónoma, sin una intervención humana significativa en cada paso de la decisión. Estos sistemas pueden ser programados con reglas explícitas o aprender de los datos para identificar patrones y tomar decisiones basadas en ellos.

¿Es obligatorio informar a los trabajadores sobre el uso de algoritmos?

Sí, en España es obligatorio. Existe una obligación de información individual (basada en el RGPD) para los trabajadores afectados por decisiones íntegramente automatizadas, y una obligación de información colectiva (basada en el Estatuto de los Trabajadores) para la representación legal de la plantilla sobre el uso de algoritmos que afecten a las condiciones o al acceso/mantenimiento del empleo.

¿Deben las empresas negociar el algoritmo con los representantes de los trabajadores?

Como norma general, no existe una obligación legal de negociar el algoritmo. Sin embargo, los convenios colectivos pueden establecer esta obligación. Además, sí es obligatorio negociar el uso del algoritmo si se emplea en el contexto de un despido colectivo para determinar a los afectados.

¿Es obligatoria una auditoría algorítmica en España?

No, como norma general, no es obligatorio realizar una auditoría algorítmica específica. Sin embargo, la empresa sí tiene la obligación de realizar una Evaluación de Impacto en la Protección de Datos (EIPD) si el uso de algoritmos implica un alto riesgo para los derechos de los trabajadores. Además, si el algoritmo afecta a la seguridad y salud laboral, podría formar parte de una auditoría de riesgos laborales ya obligatoria.

¿Qué riesgos implican los algoritmos en el trabajo?

Los principales riesgos incluyen la violación de la privacidad y la protección de datos, la posibilidad de sesgos y discriminación (por ejemplo, por género, edad o etnia), la afectación a la igualdad de oportunidades, la falta de transparencia en la toma de decisiones y el impacto en la seguridad y salud laboral debido a la monitorización excesiva o la presión por la productividad.

¿Para qué sirve la Guía de España sobre algoritmos en el ámbito laboral?

La Guía sirve para reunir y sistematizar las obligaciones y derechos existentes en materia de información algorítmica en el ordenamiento jurídico-laboral español. Ofrece una herramienta práctica para que las empresas cumplan con sus deberes de transparencia y ayuda a los trabajadores y sus representantes a entender cómo funcionan estos sistemas y a defender sus derechos ante su uso.

Si quieres conocer otros artículos parecidos a Auditoría Algorítmica: ¿Es Obligatoria en España? puedes visitar la categoría Librerías.