LA INTELIGENCIA ARTIFICIAL – ASISTIMOS AL NACIMIENTO DE LA REGULACIÓN LEGAL DE LA QUE CONSTITUYE UNA DE LAS HERRAMIENTAS DE GESTIÓN MÁS IMPORANTE DE TODOS LOS CAMPOS
El pasado 12 de julio de 2024 fue publicado por el Diario Oficial de la Unión Europea, El Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo de 13 de junio de 2024 por el que se establecen normas armonizadas en materia de inteligencia artificial, denominado REGLAMENTO DE INTELIGENCIA ARTIFICAL.
El reglamento de Inteligencia Artificial (IA), tiene como objetivo que el desarrollo de la IA en la Unión Europea responda a los valores de la unión, promoviendo una IA centrada en el ser humano, que sea fiable y garantice un elevado nivel de protección de la salud, la seguridad y los derechos fundamentales.
De esta forma se busca garantizar “protección de las personas físicas, las empresas, la democracia, el Estado de Derecho y la protección del medio ambiente y, al mismo tiempo, impulsará la innovación y el empleo y convertirá a la Unión en líder en la adopción de una IA fiable”.
Dado la velocidad a la que evoluciona la IA, podemos considerar el Reglamento como la normativa que contiene los principios básicos a la luz de los cuales se deberá adecuar e interpretar las futuras regulaciones cuyo desarrollo sin duda irá incrementando en paralelo con dicha evolución.
En este entrada nos detendremos únicamente en aquellas aspectos con incidencia directa en las relaciones laborales, sin perder de vista que, en la aplicación, la utilización y el desarrollo de la IA se deberá evitar el menoscabo de los derechos de los trabajadores, tanto tangibles como intangibles, lo que incluye cualquier clase de perjuicio ya sea económico, social, psíquico o físico.
A partir de este momento debemos acostumbrarnos a la utilización de conceptos como RESPONSABLE DEL DESPLIEGUE, IDENTIFICACIÓN BIOMÉTRICA REMOTA, y otros tan sorprendentes como el SISTEMA DE RECONOCIMIENTO DE EMOCIONES, referido a reconocer las emociones físicas de las personas a través de sus DATOS BIOMÉTRICOS.
Las posibilidades de evolución de la AI, y los potenciales riesgos son tan elevados, que es necesario articular una regulación en función de la clasificación del riesgo que corresponda a cada IA.
. Prácticas prohibidas.
No se trata de cuestionar los múltiples beneficios de la AI, sino como se recoge en el considerando 28, la de evitar que se produzcan prácticas sumamente perjudiciales (“utilizarse indebidamente y proporcionar nuevas y poderosas herramientas para llevar a cabo prácticas de manipulación, explotación y control socia”).
Por su importancia, a continuación, listamos las principales prácticas de Inteligencia Artificial que se encuentran PROHIBIDAS:
| QUEDAN PROHIBIDAS |
| La introducción en el mercado, la puesta en servicio o la utilización de un sistema de IA que se sirva de técnicas subliminales que trasciendan la conciencia de una persona o de técnicas deliberadamente manipuladoras o engañosas con el objetivo o el efecto de alterar de manera sustancial el comportamiento de una persona o un colectivo de personas, mermando de manera apreciable su capacidad para tomar una decisión informada y haciendo que tomen una decisión que de otro modo no habrían tomado, de un modo que provoque, o sea razonablemente probable que provoque, perjuicios considerables a esa persona, a otra persona o a un colectivo de personas; |
| La introducción en el mercado, la puesta en servicio o la utilización de sistemas de IA para evaluar o clasificar a personas físicas o a colectivos de personas durante un período determinado de tiempo atendiendo a su comportamiento social o a características personales o de su personalidad conocidas, inferidas o predichas, de forma que la puntuación ciudadana resultante provoque una o varias de las situaciones siguientes: un trato perjudicial o desfavorable hacia determinadas personas físicas o colectivos de personas en contextos sociales que no guarden relación con los contextos donde se generaron o recabaron los datos originalmente un trato perjudicial o desfavorable hacia determinadas personas físicas o colectivos de personas que sea injustificado o desproporcionado con respecto a su comportamiento social o la gravedad de este |
| La introducción en el mercado, la puesta en servicio para este fin específico o el uso de un sistema de IA para realizar evaluaciones de riesgos de personas físicas con el fin de valorar o predecir el riesgo de que una persona física cometa un delito basándose únicamente en la elaboración del perfil de una persona física o en la evaluación de los rasgos y características de su personalidad; esta prohibición no se aplicará a los sistemas de IA utilizados para apoyar la valoración humana de la implicación de una persona en una actividad delictiva que ya se base en hechos objetivos y verificables directamente relacionados con una actividad delictiva; |
| La introducción en el mercado, la puesta en servicio para este fin específico o el uso de sistemas de IA que creen o amplíen bases de datos de reconocimiento facial mediante la extracción no selectiva de imágenes faciales de internet o de circuitos cerrados de televisión; |
| La introducción en el mercado, la puesta en servicio para este fin específico o el uso de sistemas de IA para inferir las emociones de una persona física en los lugares de trabajo y en los centros educativos, excepto cuando el sistema de IA esté destinado a ser instalado o introducido en el mercado por motivos médicos o de seguridad; |
| La introducción en el mercado, la puesta en servicio para este fin específico o el uso de sistemas de categorización biométrica que clasifiquen individualmente a las personas físicas sobre la base de sus datos biométricos para deducir o inferir su raza, opiniones políticas, afiliación sindical, convicciones religiosas o filosóficas, vida sexual u orientación sexual; esta prohibición no incluye el etiquetado o filtrado de conjuntos de datos biométricos adquiridos lícitamente, como imágenes, basado en datos biométricos ni la categorización de datos biométricos en el ámbito de la garantía del cumplimiento del Derecho; |
| El uso de sistemas de identificación biométrica remota «en tiempo real» en espacios de acceso público con fines de garantía del cumplimiento del Derecho, salvo y en la medida en que dicho uso sea estrictamente necesario. |
- Los sistemas de IA en el ámbito laboral.
Como se ha indicado, el Reglamento clasifica los Sistemas de IA en función del riesgo, y en tal sentido se clasifican como de ALTO RIESGO los sistemas de IA que se utilizan en el ámbito laboral o de empleo y la gestión de los trabajadores, en particular “para la contratación y la selección de personal, para la toma de decisiones que afecten a las condiciones de las relaciones de índole laboral, la promoción y la rescisión de relaciones contractuales de índole laboral, para la asignación de tareas a partir de comportamientos individuales o rasgos o características personales y para la supervisión o evaluación de las personas en el marco de las relaciones contractuales de índole laboral, dado que pueden afectar de un modo considerable a las futuras perspectivas laborales, a los medios de subsistencia de dichas personas y a los derechos de los trabajadores”.
ANEXO III
Sistemas de IA de alto riesgo a que se refiere el artículo 6, apartado 2
Los sistemas de IA de alto riesgo con arreglo al artículo 6, apartado 2, son los sistemas de IA que formen parte de cualquiera de los ámbitos siguientes:
(…)
4. Empleo, gestión de los trabajadores y acceso al autoempleo:
a) Sistemas de IA destinados a ser utilizados para la contratación o la selección de personas físicas, en particular para publicar anuncios de empleo específicos, analizar y filtrar las solicitudes de empleo y evaluar a los candidatos.
b) Sistemas de IA destinados a ser utilizados para tomar decisiones que afecten a las condiciones de las relaciones de índole laboral o a la promoción o rescisión de relaciones contractuales de índole laboral, para la asignación de tareas a partir de comportamientos individuales o rasgos o características personales o para supervisar y evaluar el rendimiento y el comportamiento de las personas en el marco de dichas relaciones
- Requisitos de los sistemas de IA de Alto Riesgo.
Para la implantación de los sistemas de IA de Alto Riesgo se deberá establecer, documentar y mantener un sistema de gestión del riesgo, entendido como el proceso actualizable que necesariamente debe incluir:
- La determinación y el análisis de los riesgos conocidos y previsibles.
- La estimación y evaluación de los riesgos que puedan surgir.
- La adopción de medidas adecuadas para hacer frente a tales riesgos.
Las medidas de gestión irán encaminadas a:
- Eliminar los riesgos detectados y evaluados.
- Mitigar y controlar los riesgos que no puedan eliminarse.
- Y proporcionar la información requerida para poder formar a los responsables del despliegue.
Los Sistemas de IA de alto riesgo se desarrollarán garantizando la máxima transparencia, y deberán ir acompañados de las instrucciones de uso, que deberán contener como mínimo la información mínima señalada en el Reglamento entre los que destacamos:
- Su finalidad prevista
- Su duración prevista
- Las medidas de supervisión humana
Los sistemas de IA de alto riesgo se diseñarán y desarrollarán de modo que alcancen un nivel adecuado de precisión, solidez y ciberseguridad y funcionen de manera uniforme en esos sentidos durante todo su ciclo de vida.
- Obligaciones de Información en el ámbito laboral:
Naturalmente, el Reglamento se aplica sin perjuicio de las obligaciones de información y consulta a los trabajadores y/o a sus representantes (Ej., Directiva 2002/14/CE), sobre la decisión de incluir sistemas de IA. El Reglamento incide en la necesidad de informar a trabajadores y/o sus representantes sobre el despliegue previsto de sistemas de IA de alto riesgo en el lugar de trabajo incluso aunque no se cumplan las obligaciones establecidas en otros instrumentos jurídicos (a nivel europeo o nacional):
Artículo 26
Obligaciones de los responsables del despliegue de sistemas de IA de alto riesgo
(…)
7. Antes de poner en servicio o utilizar un sistema de IA de alto riesgo en el lugar de trabajo, los responsables del despliegue que sean empleadores informarán a los representantes de los trabajadores y a los trabajadores afectados de que estarán expuestos a la utilización del sistema de IA de alto riesgo. Esta información se facilitará, cuando proceda, con arreglo a las normas y procedimientos establecidos en el Derecho de la Unión y nacional y conforme a las prácticas en materia de información a los trabajadores y sus representantes.
- Corolario.
La información contenida en este artículo debe ser entendida como una mínima aproximación a una regulación extensa que incluye, en un documento de 144 páginas, definiciones, obligaciones, que distribuye competencias, que establece responsabilidades, y que organiza, lo que será la base del futuro y sin duda extenso, desarrollo normativo tanto a nivel europeo como nacional.