EMANUEL CAPATTO
A modo de prólogo:
Me siento un privilegiado en poder haber asistido a diferentes cursos referidos a la temática elegida, con prestigiosos profesores y haber realizado diversas actividades bajo la Dirección del maestro Julio Armando Grisolía. Nobleza obliga agradecer al Dr. Alberto Chartzman Birenbaum por su permanente predisposición y generosidad al compartir conocimientos.
La importancia que va adquiriendo la Inteligencia Artificial -que vino para quedarse- planteando nuevos desafíos, es lo que me llevó a participar y escribir unas líneas para este 14º Congreso de Derecho Laboral y Relaciones del Trabajo. Ya el año pasado, el Dr. Julián De Diego escribía una columna de opinión titulada “El irreversible camino a la inteligencia artificial”, donde expresaba que “estamos en los albores de la inteligencia artificial, donde las máquinas y las computadoras pensarán, actuarán, razonarán, solucionarán problemas y se desenvolverán como lo haría un ser humano”.
En el titular del presente trabajo, una frase sacada del inicio de un programa deportivo que marco una época, pero sin dudas, no vamos hablar de fútbol, sino que de tecnología. Ya nos estamos familiarizando con la inteligencia artificial (I.A.), donde se reconoce este fenómeno nuevo e interesante desde donde se lo mire. En la actualidad, se están escribiendo numerosos artículos al respecto.
Se tratará de caracterizar, desarrollar algunos aspectos y de entender este tema novedoso que es la INTELIGENCIA ARTIFICAL y de los desafíos que plantea.
Los avances y las aplicaciones “populares” vigilan nuestros comportamientos y gustos. En los años setenta Michel Foucault (filósofo, historiador, sociólogo y psicólogo francés) escribió un libro denominado “Vigilar y Castigar. Nacimiento de la prisión”, donde utiliza el concepto panóptico. Esa vigilancia, en la actualidad, es la que utilizan algunas empresas de aplicaciones digitales para diferentes fines.
Inteligencia Artificial:
“Ya no habitamos la tierra y el cielo, sino Google Earth y la nube. El mundo se torna cada vez más intangible, nublado y espectral.
Nada es sólido y tangible”. (Han, Byung-Chul; “NO-COSAS”, 2022).
Primeramente, hay que definir el concepto que según la RAE (Real Academia Española) la Inteligencia Artificial es la “disciplina científica que se ocupa de crear programas informáticos que ejecutan operaciones comparables a las que realiza la mente humana, como el aprendizaje o el razonamiento lógico”.
El Dr. CORVALÁN manifiesta que en la Inteligencia artificial no existe una definición única. El neurocientista David COX, señala que tiene diferentes significados para diferentes personas, no hay una única definición; para él significa otorgarles a las computadoras la capacidad de que puedan tomar decisiones que nos ayuden, es automatizar habilidades y como forma de aumentar nuestras vidas.
El Dr. José Elvis TOTO la precisa como “la habilidad para absorber información del ambiente, construir modelos sobre qué ocurrirá luego, predecir, y entonces ejecutar acciones que ayuden a alcanzar objetivos”.
Para el Dr. BIRENBAUM “La máquina nunca va a reemplazar al ser humano”. Partiendo de esto, se puede decir que el ser humano se va a tener que adaptar a los avances tecnológicos.
La Inteligencia artificial no piensa, a diferencia del ser humano, solo recibe órdenes del ser sapiente (ser humano). “Tenemos la obligación de actuar responsablemente, construyendo algoritmos con una visión ética. La Inteligencia Artificial (IA) plantea el desafío ético: de legislar sus alcances y posibilidades….Nuestra inteligencia biológica que la seguimos teniendo, no cabe duda, se está abriendo paso a la Inteligencia Artificial, que no es que va a venir a invadirla y a reemplazarla, sino que la va a venir a complementar a través de una serie de procesos que evidentemente se van a tener que dar con la mayor seguridad posible”.Este autor habla de aggiornarse para no quedar fuera del sistema.
El filósofo surcoreano Byung-Chul HAN sostiene que “hoy, el mundo se vacía de cosas y se llena de una información tan inquietante como esas voces sin cuerpo. La digitalización desmaterializa y descorporeiza el mundo. También suprime los recuerdos. En lugar de guardar recuerdos, almacenamos inmensas cantidades de datos”.HAN plantea que estamos en transición de la era de las cosas a las no-cosas, lo que determina el mundo es la información y no las cosas. Esa información es inquietante y que justamente son las no-cosas.
De Foucault a estamos vigilados: ¿Panoptismo digital?
Podríamos llamarlo el impacto de las nuevas tecnologías, “(L) las tecnologías disruptivas son innovaciones que llegan para sustituir un proceso, un producto o una tecnología que ya está establecida, originando una nueva forma de operación, ya sea para los consumidores, las organizaciones empresarias, o para ambos; tienen la cualidad de transformar por completo una solución y la reemplazan, porque tienen atributos superiores que permiten abrir nuevas posibilidades”.
Retomando lo anterior, con el avance de la inteligencia artificial y en lo que denominan la cuarta revolución industrial, podemos afirmar que estamos continuamente y permanentemente vigilados.
El filósofo francés Paul Michel Foucault, a mediados de los años setenta escribió sobre el poder (“Vigilar y Castigar” en 1975, “Microfísica del poder” en 1978, entre otros libros). Él piensa el poder como una trama extendida en toda la sociedad, donde están todos involucrados. “El momento en el que se ha percibido que era, para la economía del poder, más eficaz y más rentable vigilar que castigar”. Foucault considera que el poder siempre opera acompañado por una resistencia y que es dinámico. La verdad es un instrumento de poder, puesto que los hombres luchan, procuran dominarse unos a otros y ejercen relaciones de poder, eso a través de los distintos dominios de saber o discursos.
Este filósofo toma el concepto de “Panóptico” de Jeremy Bentham(del año 1791 e identificado como el padre del utilitarismo), para dar cuenta de una forma ideal del poder disciplinario. Para Foucault, lo novedoso del panóptico es que el individuo no es coaccionado a comportarse de una forma determinada según se lo indiquen las normas institucionales. Ese sistema de vigilancia impersonal, invisible y eficaz, es trasladado a diversos espacios –instituciones- de la sociedad de manera transversal como ser: la fábrica, la escuela, el hospital, etc.; todos quedan dentro de este poder disciplinario. Todos están vigilados, la mirada está en todas partes.
Según Foucault, el “efecto mayor del Panóptico: inducir en el detenido un estado consciente y permanente de visibilidad que garantiza el funcionamiento automático del poder…(…)…sutilmente dispuesto para que un vigilante pueda observar, de una ojeada, a tantos individuos diferentes, permite también a todo el mundo venir a vigilar al vigilante de menor importancia”. (“Vigilar y castigar…” (2004).
Cuando estamos en las redes sociales nos sometemos al disciplinamiento, ya que, para producir una información valiosa, tenemos que adaptarnos a reglas, a algoritmos.
Resumiendo, podemos afirmar que con el panóptico se genera que el individuo se sienta en un estado permanente de vigilancia, sin saber por quién. Hay un funcionamiento automático del poder. El panoptismo es una forma de saber, ya no es indagación sino vigilancia, examen. Entonces, ¿estamos viviendo actualmente un panoptismo digital?.
El problema del capitalismo de la vigilancia:
Sin dudas, por los algoritmos (que “puede ser definido como un conjunto preciso de instrucciones o reglas, o como una serie metódica de pasos que puede utilizarse para hacer cálculos, resolver problemas y tomar decisiones”) y al machine learning (“rama dentro del campo de la Inteligencia Artificial que nos lleva a introducirnos dentro del campo del aprendizaje”, permite generar comportamientos automáticos y lógicos a partir de unos ejemplos que ha tomado previamente), estas plataformas son capaces de ofrecernos contenidos personalizados que se adaptan a nuestros gustos y preferencias concretas. Ejemplo de ello, es la plataforma de streaming estadounidense Netflix o la plataforma Amazon Web Services (AWS), que en cada perfil aparecen recomendaciones de películas y series acorde a nuestros gustos. Nada es casual.
Según la escritora y periodista española Marta Peirano son las diferentes aplicaciones “populares” que están hechas para provocar dopamina, es decir, adicción. Lo importante es que el individuo esté el máximo tiempo posible tocando el móvil de manera inconsciente, la idea es generar más datos (esos datos que muchas veces no nos interesan, a las grandes empresas por el contrario). Es ahí donde hay empresas que se dedican en convertir esos datos en alimento para sus algoritmos predictivos de inteligencia artificial.
Peirano manifiesta, que a los datos “Google los saca del correo, los mapas, el buscador, YouTube y el sistema operativo Android, entre otros. Amazon, de la tienda, el Kindle, los altavoces inteligentes y AWS. Facebook, de la red social, Instagram, WhatsApp y Oculus. Netflix, de las series. Uber, de los coches. Spotify, de las listas. Airbnb, de las vacaciones. Tinder, del sexo. Match, del amor”. Estos dispositivos nos escuchan y geolocalizan y se utilizan por los gobiernos para diferentes cuestiones, por ejemplo por la seguridad.
“Se estima que las grandes empresas de tecnología como Google, Amazon, Facebook, Apple, y Microsoft (Grupo GAFAM) son las propietarias de más del 70% de los datos de todo el mundo”. La empresa Google fue la primera en realizar tracking, es decir, espiar todo historial de búsqueda de los usuarios, y con eso hacer publicidad. Estos grupos vendrían a ser los grupos de vigilancia efectiva que hablaba Foucault, de vigilancia sin interrupción y totalmente.
Trabajan con los data brokers, que son empresas que rastrean el resto de los datos que hay desperdigados y los ponen en un solo lugar. Las plataformas digitales saben lo que haces cuando estás conectado y los data brokers los únicos que sabían lo que haces cuando no estás conectado.
Cabe destacar que “la tecnología, mediante el uso de la Big Data, puede conocer en lo singular a cada consumidor y, así, saber qué información será relevante para su decisión de compra”.
La socióloga, profesora y escritora estadounidense Shoshana Zuboff creó el concepto de “el capitalismo de vigilancia”, que trataba sobre la comercialización de la información característica de los negocios a través de Internet. Según ella, ya no se trata solo de captar datos sino de pasar a la acción, cita el ejemplo de que con la excusa de cazar pokemones, los usuarios podían ser teledirigidos a un local de las conocidas casas de comidas Starbucks o Mc Donalds (esto fue auspiciado por Google en el año 2016, dando así un potente dispositivo de control y acción social).
La especialista en tecnología Peirano, se preguntaba que vamos hacer para solucionar el problema del capitalismo de la vigilancia y para proteger vuestros datos individuales y colectivos. Según ella, cometemos tres grandes errores: a) infravalorar la gran cantidad de información que producimos cada día, 2) despreciar el valor de esa información que brindamos todos los días, y 3) pensar que nuestro gran problema es una agencia distante y poderosa que es NSA (Agencia de Seguridad Nacional).
No interesarnos en esconder nuestros datos y por tanto mostrar todo ya que no pasa nada o no valen nada mis datos, produce la no preocupación de que me vigilen y hace que se produzca la distopía.
El progresivo desarrollo de sistemas de inteligencia artificial propaga al capitalismo y hace que se maximicen las ganancias de las grandes corporaciones. A su vez, produce la sumisión del individuo/usuario en una nueva forma de dominación.
La investigadora Flavia Costa, en su nuevo libro “Tecnoceno: Algoritmos, biohackers, y nuevas formas de vida” (Ed. Taurus, 2021), dice que cuando pasamos por internet dejamos siempre huellas, ya sea en buscadores, en likes de Instagram o cuando miramos mercado libre. Todos esos datos quedan en algún lugar. Vivimos en la era del tecnoceno.
Vigilancia electrónica:
“La plataforma de convergencia de inteligencia artificial china Sense Time, resulta ser el mejor ejemplo de cómo la inteligencia artificial es empleada a nivel nacional para llevar a cabo un modelo de vigilancia electrónica de los ciudadanos”.
El Dr. SUEIRO explica que en nuestro país –desde 2019- existe el empleo de un sistema de reconocimiento facial en la Ciudad Autónoma de Buenos Aires, ello mediante un software de inteligencia artificial de origen ruso. Por ahora, solamente identifica o reconoce rostros sobre la base de datos de personas dentro del Co.Na.R.C (Consulta Nacional de Rebeldías y Captura), donde existe deber de confidencialidad de los funcionarios públicos.
“El sistema de vigilancia electrónica mediante reconocimiento facial asistido por inteligencia artificial, se complementa con: 1.- El Sistema de reconocimiento electrónico de patentes, 2.-El Sistema Público Integral de Videovigilancia, y, 3.-la aplicación Mi Argentina App….(…) se verá complementado en pocos años por información obtenida y suministrada a través de vigilancia electrónica implementada por el sector privado. El sector privado quien fue el pionero en este campo a través de las grandes corporaciones multinacionales dedicadas al desarrollo de alta tecnología que en occidente forman parte del grupo GAFAM (Google, Amazon, Facebook, Apple y Microsoft), han dado lugar al surgimiento de un sector altamente rentable dedicado a la vigilancia electrónica de ciudadanos y de propiedades.”.
Palabras finales:
“La crítica consiste en desemboscar este pensamiento e intentar cambiarlo,
mostrar que las cosas no son tan evidentes como se cree,
hacer que lo que se acepta como que va de suyo deje de ir de suyo.
Hacer crítica es volver difíciles los gestos demasiado fáciles”. (Entrevista realizada por el biógrafo de Foucault, Didier Eribon, aparecida en Liberation, en mayo de 1981, pág. 21)
No creo que lleguemos a lo que el filósofo HAN llama “el hombre inactivo del futuro”, donde no elige solo actúa, donde no usa las manos. Donde se pierde el interés por las cosas y que no será más un trabajador (homo faber) sino un jugador (homo ludens).
Es un hecho de que nos encontramos permanentemente vigilados, por obra y gracia de los avances de la Inteligencia artificial. El problema es que la mayoría no toma conciencia y en algunos casos, verbigracia por fines comerciales, están cómodos con esa vigilancia. Creo que lo importante es cómo actúan los gobiernos de turno, ya que pueden hacer el bien o el mal con esa información. La vigilancia corporativa-gubernamental es lo malo y no cuando se tiende a lograr el bien común.
Según el Dr. BIREMBAUN el “Big Data es un término que describe el gran volumen de datos, tanto estructurados como no estructurados, que inundan los negocios cada día. Pero no es la cantidad de datos lo que es importante. Lo que importa con el Big Data es lo que las organizaciones hacen con los datos. Big Data se puede analizar para obtener ideas que conduzcan a mejores decisiones y movimientos de negocios estratégicos…(…)…Por un lado, asistimos a una generación constante de datos que necesitan ser canalizados y analizados. Y, gracias al Big Data, estos datos son transformados en información útil para el desarrollo de diversos sectores y actividades.”.
Los datos personales afectan esferas de la dignidad de la persona, un derecho fundamental y que está consagrado en nuestra Carta Magna, además de los derechos a la privacidad y la intimidad de las personas.
La tecnología trae cosas buenas y malas. Es una realidad que el avance es muy rápido, tenemos que estar preparados y adaptarnos a las nuevas condiciones y dificultades que puedan transcurrir con el devenir del tiempo. Las máquinas NO van a reemplazar al hombre, ni tampoco al trabajo humano.
Para cerrar, como dice el Dr. Birembaum, vienen a reemplazar algunas habilidades, estamos adaptándonos a complementar o a sustituir por un camino artificial. Nuestra inteligencia biológica se complementa con la artificial…Debemos adaptarnos y prepararnos (formarnos)…depende de nosotros!!!.
¿Qué diría Michel Foucault si viviera?….
Abstract:
La importancia que va adquiriendo la Inteligencia Artificial que vino para quedarse, plantea desafíos. Los avances y las aplicaciones “populares” vigilan nuestros comportamientos y gustos. El ser humano se va a tener que adaptar a esos cambios. Tenemos la obligación de actuar responsablemente, construyendo algoritmos con una visión ética, ya que estamos continuamente y permanentemente vigilados. Con el panóptico se genera que el individuo se sienta en un estado permanente de vigilancia, sin saber por quién. Hay un funcionamiento automático del poder, ¿estamos viviendo actualmente un panoptismo digital?. Los algoritmos y al machine learning, estas plataformas son capaces de ofrecernos contenidos personalizados que se adaptan a nuestros gustos y preferencias concretas. Las grandes empresas de tecnología como Google, Amazon, Facebook, Apple, y Microsoft (grupo GAFAM) son las propietarias de más del 70% de los datos de todo el mundo. El progresivo desarrollo de sistemas de inteligencia artificial propaga al capitalismo y hace que se maximicen las ganancias de las grandes corporaciones. A su vez, produce la sumisión del individuo/usuario en una nueva forma de dominación. La inteligencia artificial complementa a la inteligencia biológica, debemos adaptarnos y formarnos…depende de nosotros!!!.
Bibliografía:
- Artículos:
- Corvalán, Juan G.; “Inteligencia artificial y derechos humanos”; Editorial Astrea; año 2018.
- Díaz Cisneros, Adriano P.; “Big Data e inteligencia artificial. La llegada de los super-consumidores”; elDial DC2D10; Publicado el: 04/12/2020.
- Santarelli, Fulvio G.; “La madeja de la inteligencia artificial. En busca de la punta del hilo”; LA LEY 16/09/2022; AR/DOC/2711/2022.
- Sueiro, Carlos Christian; “Inteligencia artificial y vigilancia electrónica”; elDial; DC2B31, publicado el: 23/06/2020.
- Weingarten, Celia; “Cuando el futuro es presente – impactos de las nuevas tecnologías y de la inteligencia artificial”; Rubinzal-Culzoni; RC D 203/2022.
- Libros:
- Álvarez Larrondo, F., Bes, E. D., Carrasco, D.M., Garate, L., Montenegro, G.,….Palacios L.P; “INTELIGENCIA ARTIFICIAL Y DERECHO”; Ed. Hammurabi; 1ª Edición; Buenos Aires; 2020.
- Dir. Granero, Horacio; “INTELIGENCIA ARTIFICIAL Y DERECHO, UN RETO SOCIAL”; Dir. Académico Dr. Horacio R. Granero; Ed. Albremática S.A.; Buenos Aires; 2020.
- Foucault, Michel; “Vigilar y Castigar. Nacimiento de la prisión”; Ed. Siglo veintiuno editores Argentina; Buenos Aires; 2014.
- Han, Byung-Chul; “NO-COSAS”; Ed.Taurus; Buenos Aires; 2022.
- Periódicos:
- “El Cronista” de fecha 14.06.2021.
- Revistas:
- Corvalán, Juan G., en Revista Profesional 360º de Ed. La Ley; Volumen I –julio 2022.
- Seminarios:
- Chartzman Birenbaum, Alberto; Seminario sobre Inteligencia Artificial, dictado en fecha 09.09.2022.