La inteligencia artificial no es el futuro: ya es el presente. Ya decide en muchos centros de trabajo de la Comunidad de Madrid quién accede a una entrevista, qué perfil se ajusta mejor a una vacante o si alguien “encaja” o no en una promoción. Pero lo hace sin rostro, sin contexto, sin humanidad. Y lo que es aún más grave: sin transparencia ni control.
Desde UGT Madrid llevamos tiempo advirtiendo de que la revolución tecnológica en curso no puede avanzar sin una garantía férrea de derechos. Madrid, que ha querido presentarse en los últimos años como polo europeo de digitalización, no puede permitirse construir su modelo económico sobre un proceso de modernización que excluya, discrimine y destruya empleo digno. El desarrollo tecnológico debe estar al servicio de las personas, no a costa de ellas.
Por eso hemos elegido este año el título del curso de verano “Inteligencia artificial y tecnología al servicio del empleo. La innovación en la Era Digital”. Porque no basta con hablar de innovación. Hay que decidir al servicio de quién ponemos esa innovación. Y eso, en Madrid, hoy por hoy, no está garantizado.
Vivimos en una región donde los servicios públicos están masivamente externalizados. Desde la atención sanitaria hasta la gestión de emergencias, pasando por los servicios sociales, cada vez más trabajadores y trabajadoras madrileñas dependen de empresas adjudicatarias cuya prioridad no es garantizar derechos, sino reducir costes. En este contexto, la IA se convierte en una herramienta perfecta para ocultar decisiones arbitrarias o sesgadas tras una aparente objetividad tecnológica.
Y lo sabemos bien. En UGT hemos testado varias de estas herramientas y hemos comprobado que reproducen patrones discriminatorios, especialmente hacia las mujeres. En muchas aplicaciones, al generar textos o imágenes sobre liderazgo o éxito, los algoritmos eligen sistemáticamente a hombres. Cuando se analizan trayectorias laborales, penalizan a quien ha tenido permisos por cuidados, interrupciones o simplemente una trayectoria no lineal. En otras palabras: la IA consolida y blanquea los sesgos del pasado en lugar de corregirlos.
El problema se agrava cuando estas decisiones se toman sin supervisión humana, sin auditoría, sin explicaciones. La mayoría de las empresas que ya han introducido estas tecnologías en Madrid —y son muchas— lo hacen sin garantizar ni la transparencia ni la formación adecuada para sus plantillas. ¿Cómo puede una trabajadora defenderse de un algoritmo que ha decidido no renovarle un contrato si no sabe ni cómo funciona ni por qué la ha descartado?
La Comunidad de Madrid no puede mirar hacia otro lado. Debe incorporar cláusulas de protección algorítmica en todos sus contratos públicos. Debe garantizar que ninguna empresa adjudicataria utilice sistemas automatizados que violen derechos laborales. Y, sobre todo, debe dejar de recortar fondos a la universidad pública, que es uno de los pocos espacios donde aún se reflexiona críticamente sobre estos temas.
En ese sentido, la Universidad Complutense y otras instituciones madrileñas están haciendo un esfuerzo por aportar conocimiento, alertar de los riesgos y diseñar alternativas. Pero sin apoyo institucional y sin financiación, poco podrán hacer frente al tsunami tecnológico que ya ha llegado.
Desde UGT Madrid proponemos una respuesta clara: formar a nuestros delegados y delegadas para poder negociar con conocimiento; auditar los sistemas de IA que se usan en el entorno laboral; y situar el debate ético en el centro de las decisiones públicas sobre digitalización. No puede ser que mientras algunos se dedican a organizar ferias tecnológicas o a presumir de hubs de innovación, los trabajadores estén a merced de algoritmos invisibles que ni comprenden ni pueden cuestionar.
Madrid necesita un modelo digital justo. Y eso solo se consigue garantizando que la transformación tecnológica no es excusa para destruir lo que nos ha costado décadas conquistar: igualdad, transparencia, condiciones dignas. Innovar sí, pero con derechos. Automatizar, sí, pero con personas en el centro. Y sobre todo, legislar ya, porque el algoritmo no espera.
Susana Huertas es secretaria general de UGT Madrid