Noelia Antonella Barrios Colman
“Apenas diez años de inteligencia artificial en nuestras manos y ya tenemos asistentes virtuales con voz de mujer y robots inteligentes con apariencia de hombre”.
“El futuro del trabajo en América Latina y el Caribe: ¿Cómo será el mercado laboral para las mujeres?” BID
INTRODUCCIÓN
Las relaciones laborales se transforman y van mutando conforme los avances sociales, económicos, culturales y tecnológicos. Sin dudas estos últimos son los que se encuentran actualmente arrasando -y amenazando- muchos puestos de trabajo tales como fueron concebidos. Pero ya sabemos que demonizar el progreso tecnológico no es la solución.
En este contexto, las mujeres seguimos sufriendo más la precarización laboral y la desocupación que los varones. Además del mayor riesgo de desplazamiento laboral, enfrentamos otro problema: ha surgido una nueva forma de discriminación de la mano de la imparable evolución de la tecnología.
La automatización y la adopción de tecnología para sustituir tareas que antes realizaban los seres humanos -independientemente de su género- es un fenómeno económico y social que ha estado presente a lo largo de la historia, especialmente desde la primera revolución industrial. A partir de ese momento, el impacto de la tecnología ha crecido de manera acelerada en todos los ámbitos de la economía, eliminando algunos trabajos, creando nuevas profesiones y transformando las actividades que las personas pueden realizar. Esta perspectiva propone un diálogo que no se enfoca en la desaparición del trabajo, sino en la evolución del trabajo en el futuro.
La automatización de las economías desarrolladas puede generar mayores riesgos de desigualdad y desempleo para aquellos trabajadores que realizan tareas fácilmente automatizables, en particular las mujeres, los adultos mayores y otros grupos vulnerables están siendo los más afectados, al igual que las pequeñas empresas.
La ONU informó recientemente que el 3.7% de los empleos ocupados por mujeres podrían ser reemplazados por inteligencia artificial, en comparación con el 1.4% de los empleos ocupados por hombres.
No solo cambian los trabajos, sino también las habilidades requeridas para llevarlos a cabo. Por ello, es lógico pensar que la cuarta revolución industrial no implicará la desaparición del empleo, sino una transformación del mundo laboral, orientándose hacia nuevas ocupaciones y tareas que aún no podemos anticipar.
La Organización para la Cooperación y el Desarrollo Económico (OCDE) estima que más de mil millones de empleos -lo que representaría un tercio de la fuerza laboral mundial- serán transformados por la tecnología en la próxima década.
Para regiones como la nuestra, atravesadas por altos niveles de desigualdad económica y social en donde el 10% más rico de la población gana 22 veces más que el 10% más pobre. Es imprescindible darnos estos debates. Debates que no deben dejar de lado la calidad de tecnología que consumimos, quienes participan en esta construcción y las implicancias de la falta de regulación de algunos temas como veremos que dejan en manos libres decisiones que nos perjudican más de lo que creemos y sabemos.
DESIGUALDADES EN LA FORMACIÓN Y OPORTUNIDADES LABORALES PARA LAS MUJERES
Según el Banco Interamericano de Desarrollo (en adelante BID), las mujeres ya suponen el 60% de los graduados en carreras terciarias y universitarias, pero solo representan el 30% de los graduados en carreras CTIM (ciencia, tecnología, ingeniería y matemática). ¿Debe alarmarnos este número? Claro que sí.
Eleonora Lamm bien refiere que la infrarrepresentación de las mujeres y otros grupos marginados en la industria tecnológica puede dar lugar a prejuicios en el desarrollo de la IA, tal como se analizará a continuación. También, este rezago en las habilidades digitales limita su posibilidad de obtener los beneficios que ofrece esta tecnología: mejores salarios, aspirar a otro tipo de empleos y a puestos de toma de decisión. Es decir, aportar para mejorar la economía en general.
Además de la problemática vinculada a las habilidades digitales (las mujeres hacen un uso más limitado de los dispositivos digitales y de internet), se evidencia un patrón de segregación ocupacional del mercado laboral digital en la región, tanto en el tipo de empresas (las firmas unipersonales lideradas por mujeres tienen una mayor presencia en sectores de cuidado, comercio y servicios, mientras que las lideradas por hombres tienen una mayor presencia en aquellos de comunicación, informática y financieros) como en el tipo de tareas (las mujeres participan más en plataformas de servicios de limpieza y compra/entrega de artículos para el hogar, mientras que los hombres lo hacen más en servicios de taxis).
La participación de las mujeres en el mercado laboral genera mayores tasas de crecimiento y reduce la pobreza. Estimaciones para la región proyectan un crecimiento de hasta un 6% del PBI per cápita con políticas modestas que promuevan la participación laboral femenina, como la expansión de servicios de cuidado de calidad. Esto se suma a múltiples beneficios positivos para las familias y las comunidades, incluyendo la mejora de la nutrición y los resultados educativos de los niños. Además, las compañías que tienen una fuerza laboral más diversa en sus puestos de liderazgo alcanzan un mayor rendimiento financiero (entre un 21% y 33% más) que las empresas en su mismo campo sin tanta diversidad.
INTELIGENCIA ARTIFICIAL Y SESGOS ALGORÍTMICOS: UN RIESGO PARA LA IGUALDAD DE GÉNERO EN EL TRABAJO
Kate Crawford sostiene que la IA no es artificial ni inteligente. La autora afirma que los sistemas de IA no son autónomos, racionales ni capaces de discernir algo sin un entrenamiento extenso y computacionalmente intensivo, con enormes conjuntos de datos o reglas y recompensas predefinidas.
Si bien nos parece que la IA es cosa nueva, lo cierto es que no lo es. El término habría sido acuñado por primera vez en el año 1956 en una Conferencia que reunió a varios brillantes jóvenes matemáticos, entre ellos: John McCarthy, Marvin L. Minsky, Nathaniel Rochester, Claude E. Shannon. Sostiene Facundo Yorlano que: “Se podría decir que este evento marcó el inicio oficial del campo de la IA como una disciplina académica y de investigación, impulsando un interés creciente en la exploración de la capacidad de las máquinas para realizar tareas que, hasta ese momento, se consideraban exclusivas de la inteligencia humana”. Claramente, cuando hablamos de tareas, en muchos casos hablamos de trabajos que sin dudas podrán ser realizados en menor tiempo, con menor costo y sin la necesidad de la intervención humana (al menos en gran parte).
La escritora divulgadora (y abogada) especializada en inteligencia artificial, Cecilia Danesi en su obra “El imperio de los algoritmos: IA inclusiva, ética y al servicio de la humanidad” realiza una definición de IA como ella misma llama “en criollo”, y al respecto sostiene: “…la IA consiste en hacer predicciones futuras basándose en datos, muchos datos, del pasado. Esas predicciones las realizan algoritmos que tienen la capacidad de aprender de patrones que se encuentran en esos datos. Por eso se afirma que sin datos no existe la IA y de ahí que se los considere el petróleo de nuestra era”.
Por su parte, al definir algoritmos la autora los describe como una secuencia de pasos (de manera análoga a una receta de cocina): un protocolo que debemos seguir para alcanzar un resultado. Yuval Noah Harari los define como un conjunto metódico de pasos que pueden emplearse para hacer un cálculo, resolver problemas y alcanzar decisiones. Refiere que el algoritmo no es un cálculo concreto, sino el método que se sigue cuando se hace el cálculo.
Refiere Eleonora Lamm que la principal preocupación es el riesgo de que la IA pueda perpetuar o incluso amplificar los sesgos y disparidades de género, socavando los avances en la igualdad de género. Los sistemas de IA aprenden de datos históricos, que pueden reflejar y perpetuar prejuicios sociales existentes. Por ejemplo, si los datos históricos de contratación muestran sesgos de género en los procesos de selección, una herramienta de contratación impulsada por IA entrenada en estos datos puede perpetuar esos sesgos recomendando candidatos basados en criterios sesgados.
Existe un famoso caso testigo sobre este tema y es la “experiencia Amazon”. En el año 2014 la compañía puso en marcha un sistema para agilizar y automatizar la selección de personal. Para desarrollar este modelo, los ingenieros utilizaron una base de datos con una década de currículum de empleados, entrenando un modelo estadístico con más de cincuenta mil términos encontrados en esos curriculum. Pero, advirtieron un error muy grande que llevó a descartar este sistema: mostraba un sesgo contra las candidatas mujeres. Bien sostiene Yorlano que las practicas de contratacion historicas y actuales de la firma estaban moldeando sus futuras herramientas de selección ya que, el sistema no solo expuso los sesgos preexistentes, sino que también evidenció cómo el sesgo de género estaba implícito en el lenguaje, los currículum y la cultura corporativa. ¿Las razones? La gran mayoría de los ingenieros contratados por Amazon en la última década habían sido hombres, y el modelo, entrenado con esos datos, había aprendido a favorecer a los candidatos masculinos. Tengamos en consideración que -según la ONU- solo el 22% de los profesionales que se dedican al mundo de la IA son mujeres.
Sostiene Danesi que el sesgo algorítmico acaece cuando un sistema de inteligencia artificial hace una predicción que genera una situación injusta o un trato desfavorable para una persona o grupos de personas (en el caso de Amazon, las mujeres). Para evaluar esa situación, es necesario compararla con los principios éticos de la inteligencia artificial —los cuales retomaremos más adelante— o con el marco jurídico en un sentido amplio. Los algoritmos se entrenan con datos que son parciales e incompletos, lo que genera predicciones sesgadas que refuerzan y amplían las desigualdades sociales preexistentes.
Asi, la discriminacion algoritmica en sentido amplio puede definirse como aquella que se produce cuando los sistemas inteligentes provocan un impacto o trato desfavorable respecto de ciertas personas o grupos, en base a criterios o características que no pueden ser racionalmente apreciados como objetivos y razonables.
Cada una de las etapas del ciclo de vida de la IA está a cargo de seres humanos responsables de definir sus características, objetivos, reglas de éxito, métricas y estructuras de análisis, así como de elegir los sets de datos para su entrenamiento, validación y testeo, lo que lleva ínsito el riesgo de que esas personas reflejen sus malas intenciones, así como sus propios valores, prejuicios y sesgos en el sistema.
. Además, estos sistemas obtienen su conocimiento de las estructuras y dinámicas de la sociedad que produce los datos que los nutren, por lo que también pueden reproducir, reforzar y amplificar, con relativa facilidad, los patrones de exclusión, desigualdad y discriminación existentes.
AUDITORÍA ALGORÍTMICA
En Argentina la IA no está regulada y en coincidencia con Danesi, afirmamos que la legislación adecuada -léase que no frene la innovación y nos deje fuera del progreso- ordena a las sociedades y sirven para poner límites a los avasallamientos del sector público y privado. Esto se traduce en una imperiosa e impostergable necesidad. Lo contrario da rienda suelta a objetivos comerciales que en muchos casos afectan los derechos de las personas y no tienen ninguna consecuencia.
La referida autora propone puntualmente la auditoría algorítmica obligatoria y la certificación ética de la IA. Nos llama a la reflexión -citando a Judith Duportail- recordando que los algoritmos de empresas como Tinder son su propiedad intelectual (están protegidos por la ley) y que la receta de Coca-Cola sigue siendo un secreto pero sabemos que una autoridad sanitaria certifica que es apta para su consumo.
El año 2023, ingresó a la Cámara de Diputados de la Nación un proyecto de ley titulado “Marco legal para la regulación del desarrollo y uso de la Inteligencia Artificial”, teniendo por objeto: “1.1 Establecer el marco legal para la investigación, desarrollo, uso y regulación de la inteligencia artificial en el territorio nacional, con el fin de garantizar la protección de los derechos humanos, la privacidad y la seguridad de los ciudadanos, fomentando la transparencia, la ética y la responsabilidad en su aplicación. 1.2 Fomentar la innovación y el progreso en el campo de la IA, promoviendo el beneficio humano y evitando riesgos y consecuencias negativas”.
El referido proyecto, en sus fundamentos -entre otras cuestiones- destaca que: “La IA puede influir en la distribución de recursos y oportunidades en la sociedad. Una ley de regulación puede promover la equidad y la justicia al establecer mecanismos para evitar la discriminación algorítmica y garantizar que los sistemas de IA no perpetúen sesgos o desigualdades existentes. Además, puede establecer políticas para abordar la brecha digital y garantizar un acceso igualitario a los beneficios de la IA”.
Europa, recientemente sancionó su Ley de IA -Reglamento(UE) 2024/1689- constituyéndose en el primer marco jurídico integral sobre IA en todo el mundo. La Ley de IA forma parte de un paquete más amplio de medidas políticas para apoyar el desarrollo de una IA fiable, que también incluye el paquete de innovación en materia de IA y el plan coordinado sobre IA. En conjunto, estas medidas garantizan la seguridad y los derechos fundamentales de las personas y las empresas en lo que respecta a la IA.
En materia laboral la ciudad de New York tiene una ley vigente desde enero del 2023 que obliga a realizar una auditoría de sesgos a las “herramientas de decisión de empleo automatizada” que impactan en personas físicas. La norma exige que se publique en el sitio web del empleador un resumen de dicha evaluación y se informe al candidato o candidata que será evaluado/a con esa herramienta y que tiene derecho a pedir un proceso de selección alternativo y las cualificaciones o parámetros que tendrán en cuenta el sistema para la evaluación.
APORTES FINALES
La automatización está transformando el mercado laboral, pero presenta un riesgo desproporcionado para las mujeres, quienes ya enfrentan mayores niveles de precarización laboral. La inteligencia artificial, si no es controlada, podría exacerbar estas desigualdades de género.
Como vimos, a pesar de que las mujeres representan un alto porcentaje de graduadas universitarias, su participación en áreas tecnológicas es muy baja. Esto limita sus oportunidades en el creciente campo de la IA y perpetúa los sesgos. Por ello hay que implementar medidas que inserten a las mujeres en carreras orientadas a la ciencia, tecnología, ingeniería y matemática. Para tener éxito en las transiciones necesarias hacia la fuerza laboral del futuro, las mujeres necesitan adquirir las habilidades y capacidades tecnológicas adecuadas.
Danesi resalta que el valor de la diversidad en los equipos desarrolladores de sistemas de IA permitirá sin duda contribuir a reducir los sesgos algoritmos. Si cada sistema pasará a lo largo de su ciclo de vida por la visión, la cultura y la expertise de personas con acervos culturales diversos, operaría como una especie de filtro para tamizar la presencia de estereotipos o prejuicios. Para que eso realmente funcione no solo necesitamos diversidad real, sino también capacitación en diversidad, cuestiones éticas y derechos humanos.
Implementar políticas que garanticen la transparencia y la justicia en el uso de estas tecnologías es urgente.
Aunque la IA tiene el potencial de mejorar el mercado laboral, es necesario un enfoque ético y regulado para asegurar que las mujeres puedan beneficiarse de estos avances. Invertir en educación tecnológica y fomentar la participación femenina en este sector es clave para cerrar la brecha de género.
Y lo último, pero no menos importante, somos las personas las que debemos tomar las últimas decisiones y no la IA. La revisión humana, no debe dejarse de lado. Cristina Pombo nos recuerda que cuando los sistemas de datos no son comprensibles ni transparentes no hay dominio pleno de los servicios que se gestionan y afectan nuestra vida cotidiana. el impacto en la vida de las mujeres?: somos discriminadas por razones que no sabemos, nadie puede explicar por qué el algoritmo decide que debemos ganar menos y existen temas de privacidad que las mujeres tenemos que resguardar (ejemplo planificación familiar).
NOTAS AL PIE
1- BID. “El futuro del trabajo en América Latina y el Caribe” 2020.
2- https://www.youtube.com/watch?v=j0IBnPMVPvY Más robots, ¿menos empleo? Banco Interamericano de Desarrollo.
3- Entrevista a Eleonora Lamm: “El riesgo es que la IA perpetúe los sesgos de género”. Disponible en: https://www.pagina12.com.ar/726000-el-riesgo-es-que-la-ia-perpetue-los-sesgos-de-genero.
4- BID. “El futuro del trabajo en América Latina y el Caribe: ¿Cómo será el mercado laboral para las mujeres?” 2019.
5- Idem
6- Yorlano, Facundo Elian. “Inteligencia artificial para abogados y chat GPT”. Ed. Estudio. Ciudad Autónoma de Buenos Aires, 2024.
7- En la Conferencia de Dartmouth (EEUU), que tenía como objetivo principal explorar como hacer que las máquinas usen el lenguaje, formen abstracciones y conceptos, resuelvan tipos de problemas reservados para los humanos y se mejoren a sí mismas.
8- Harari, Yuval Noah. “Homo Deus. Breve historia del mañana”, Ed. Debate, 2015, Buenos Aires. Pág. 100 en: Danesi, Cecilia. “El imperio de los algoritmos: IA inclusiva, ética y al servicio de la humanidad”. Ed. Galerna, 2022, Buenos Aires, Pág. 41.
9- Entrevista a Eleonora Lamm: “El riesgo es que la IA perpetúe los sesgos de género”. Disponible en: https://www.pagina12.com.ar/726000-el-riesgo-es-que-la-ia-perpetue-los-sesgos-de-genero.
10- Explica la autora que proviene del inglés algorithmic bias y su traducción sería “prejuicio” y no sesgo.
11- Sanchez Caparrós, Mariana: “Los riesgos de la inteligencia artificial para el principio de igualdad y no discriminación. Planteo de la problemática y algunas aclaraciones conceptuales necesarias bajo el prisma del Sistema Interamericano de Derechos Humanos”. elDial DC 3045.
12- Idem
13- Idem
14- Disponible en español en https://digital-strategy.ec.europa.eu/es/policies/regulatory-framework-ai
15- Danesi, Cecilia. “El imperio de los algoritmos: IA inclusiva, ética y al servicio de la humanidad”. Ed. Galerna, 2022, Buenos Aires, Págs. 254 y 255.
16- ¿Está la Inteligencia Artificial perpetuando los sesgos de género?. Banco Interamericano de Desarrollo. Entrevista a Cristina Pombo. Disponible en https://soundcloud.com/bancointeramericanodesarrollo/esta-la-inteligencia-artificial-perpetuando-los-sesgos-de-genero