María Elena López
Hace algunos años, el Dr. Carlos Aldao Zapiola en un trabajo presentado en el año 2011 en este mismo ámbito trazó una proyección en relación a la línea de tiempo de la evolución del conocimiento de la humanidad, afirmando que el conocimiento avanza cada vez más rápido, por múltiples y variadas razones, de modo tal que si antes hacían falta 5 años para duplicar el conocimiento, a la fecha de su presentación es decir en el año 2011 la línea de tiempo ya era menor, e incluso su proyección para los años venideros permitía estimar que para el año 2050 el conocimiento crecería entre 8 y 10 veces, mientras que para el año 2100 el crecimiento giraría entre 18 y 22 veces.
Comparado esto con la línea de evolución biológica del ser humano, se estimó en ese momento, es decir hace casi 10 años, que si una persona pretendía permanecer activo en su puesto de trabajo hasta los 75 años, debía estudiar y formarse hasta los 65 o 70 años.
Pasaron casi 10 años desde esa magnífica disertación y hoy me encuentro trabajando, investigando sobre los avances de la Inteligencia Artificial, cuyo aceleramiento en los últimos años ha sido exponencial superando creo la previsión citada y que ha dado lugar a desarrollos que en ese momento ni siquiera hubiésemos imaginado y que contribuyeron de manera masiva a aumentar y acumular conocimiento como así también a su divulgación.
Puede observarse también que mientras todo lo relativo a implementación de sistemas de Inteligencia Artificial en diferentes ámbitos de nuestra vida avanza a gran velocidad, los contextos jurídicos, sociales y éticos en los que debería enmarcarse la misma, evolucionan a paso lento.
La Inteligencia artificial (IA) no ha nacido recientemente sino que existe desde hace casi 60 años. Sin embargo hoy se ha vuelto tan popular que todos tenemos alguna idea de que se trata y como nos afecta en diferentes órdenes de nuestra vida.
Ha llegado a nuestras vidas y lo ha hecho para quedarse, e influír en ellas cada día con mayor persistencia. Es asi que podemos observar a diario desde sistemas que seleccionan música de nuestro interés, nos ofrecen posibles parejas y de quien enamorarnos, candidatos políticos y sus propuestas., etc.
También nos indican como conducir o nos muestran cual es el camino más rápido, menos peligroso, con o sin peajes. Existen vehículos que cada vez poseen mayor autonomía de su conductor e incluso algunos ya ni siquiera necesitan que los conduzca un ser humano. Existen sistemas que ayudan a cuidar nuestra salud previniendo enfermedades, mejorando nuestra calidad de vida, simplificando procesos y actividades.
Ese es el lado luminoso de la Inteligencia Artificial, que también posee su lado oscuro. Ello pues a través de las redes sociales citadas divulgamos “libre y voluntariamente” nuestros datos personales sin saber quien habrá de usarlos ni con que finalidad. Sobre todo porque esta acumulación de datos que proporcionamos se transmite luego a sistemas de Inteligencia Artificial que se encuentra en manos de sectores privados sin injerencia y control estatal. Ello posibilitaría que, detectadas nuestras preferencias, el sistema cree hábitos de comportamiento, nos mande mensajes de contenido político, nos venda determinados productos o almacene información de cuestiones médicas de nuestra pertenencia y privacidad, etc.
Se suele afirmar que la inteligencia artificial es una disciplina científica que se basó en la suposición de que todas las funciones cognitivas, en especial el aprendizaje, el razonamiento, el cálculo, la percepción, la memorización e incluso el descubrimiento científico o la creatividad artística pueden describirse con una precisión tal que sería posible programar un ordenador para reproducirlas. En todo este tiempo desde su origen, no ha habido nada que permita desmentir o demostrar de manera irrefutable esta especulación, que sigue siendo válida y fecunda.
La robótica y la inteligencia artificial han creado máquinas capaces de retroalimentarse y aprender a trabajar, a decidir entre diversas opciones a través de los famosos algoritmos.
La inteligencia artificial, entendida como la capacidad de procesar información para resolver problemas en función de alcanzar objetivos se sustenta en algoritmos: algoritmos inteligentes o algoritmos de aprendizaje utilizados para identificar tendencias económicas, predecir delitos, diagnosticar enfermedades, predecir nuestros comportamientos digitales, etc.
¿Qué es un algoritmo?
Consiste en un conjunto de operaciones organizadas de manera lógica y ordenada que permite solucionar un problema. Si bien es un término asociado con las matemáticas, no necesariamente implican la presencia de números. Los algoritmos se aplican en todos los ámbitos, desde las consultas a través de los dispositivos de búsqueda y la selección de información sugerida a los internautas, hasta los mercados financieros. En la actualidad y asociado a la I.A. se designa a una serie de instrucciones que deben ser ejecutadas en forma automática por un ordenador. El algoritmo es la fórmula que se emplea para hacer el cálculo.
Ahora bien, cuando el algoritmo destinado a ser ejecutado por una computadora, tiene por objeto reproducir las conexiones neuronales del cerebro, nos encontramos frente a una red neuronal formal, que es muchísimo mas limitada que la inteligencia humana, pero que puede estimar por ejemplo la velocidad de un vehículo en función de los movimientos del pedal del acelerador y de la pendiente de una carretera, la dureza de un material en función de su composición química y de su temperatura de elaboración, la solvencia de una empresa en función de su volumen de negocio, el estado anímico de una persona, etc.
En la actualidad y gracias a la gran potencia que han adquirido las máquinas, se ha podido aprovechar la cuantiosa información existente ( macro datos, big data) con diversas técnicas de aprendizaje que se basan en el uso de estas redes neuronales formales que se utilizan en prácticamente todas las áreas de actividades, y sobre todo en la industria, la banca, los seguros, la salud, la defensa, la seguridad y también en la administración de justicia.
Podemos observar que desde hace varios años la inteligencia artificial permite que una máquina reconozca las palabras y las oraciones y las transcriba, reemplazando de este modo la actividad de un ser humano que antes escribía frente al dictado de su jefe, o que identifique huellas digitales, o reconozca un rostro entre miles de rostros o miles de huellas.
También nos encontramos con procesos de producción industrial absolutamente automatizados. En el área de salud existen sistemas que pueden analizar una placa radiográfica en minutos, con un porcentaje mayor de exactitud en el diagnóstico que el que puede llegar a proporcionar una persona que dedicó años a su formación universitaria y académica.
En materia de generación de miembros artificiales, el avance ha sido exorbitante y permite que gracias a un dispositivo fotográfico que se ubica en la mano artificial fotografíe el objeto que se pretende asir, evalúe su tamaño y su forma para luego activar una serie de movimientos que permitan agarrarlo en segundos, reemplazando de este modo el sistema anterior consistente en que la persona portadora del miembro artificial debía hacer una serie de movimientos previos de estimulación que llevaban mucho tiempo. Sin embargo, ahora en cuestión de segundos la mano robótica con una sola mirada de su portador agarra un plato o un control remoto 10 veces más rápido que las que existían hasta ahora.
Hoy existen robots que limpian nuestras casas, nos divierten, nos hacen hacer gimnasia, juegan con nosotros, en definitiva, no dejan de sorprendernos. Podemos hablar con Siri (Ios) o con Alexa (Android) quienes nos escuchan de modo permanente. Existen máquinas que han vencido a campeones de ajedrez, pero todas en definitiva aprenden de la información que el ser humano le suministre. Por ese motivo, el manejo en masa de grandes almacenamientos de información ha logrado la evolución de los procesos donde participa la Inteligencia Artificial.
Pero también debemos estar alertas porque la IA es a la vez utilizada para captar nuestros gustos, nuestras apetencias, a retroalimentarse con la información que les proporcionamos y mostrarnos a veces tendenciosamente solo aquello que nos gusta. Ello en virtud de la capacidad de almacenamiento de datos, suministrados por nosotros mismos.
La acumulación de estos datos a gran escala (big data) y la mayor capacidad de procesamiento de los mismos facilitan su desarrollo. Empresas como Facebook, You Tube, Amazon, etc., tienden a crecer, a vender más, a enriquecerse más y en ese proceso también acumularan mayor información sobre nosotros. Cada uno de nuestros comportamientos es analizado en forma de datos. A su vez, quienes utilizamos esos servicios proveemos de manera sistemática de nuevos datos que retroalimentan el sistema. Esos datos poseen un valor incalculable y una concentración de poder que puede impactar de diversos modos en la economía e incluso en la actividad política y los sistemas democráticos. Recordemos sin más el escándalo producido con motivo de la actividad de la consultora Cambridge Analytica al que aludieron recientemente las declaraciones de la ex candidata presidencial Hillary Clinton han condenado las acciones de Facebook en las elecciones de 2016.
En una reciente visita en Washington DC a American University, Universidad creada en el año 1893 tuve la oportunidad de escuchar la disertación del Dr. Emilio Viano, especialista internacional, para caer en la cuenta que también la actividad profesional de los especialistas en derecho resulta significativamente atravesada por la Inteligencia Artificial.
Este experto hizo una síntesis de diversos sistemas donde la IA se ha dedicado a esta actividad profesional, entre ellos el sistema Case Cruncher Alpha (Desarrollado en Cambridge), cuyos algoritmos han logrado obtener mejores resultados que algunos de los bufetes más prestigiosos de la capital británica a la hora de predecir los resultados de cientos casos de incumplimientos de pagos. El experimento reunió por un lado a más de 100 abogados de la ciudad para luchar contra ‘la máquina’. Éstos tenían que estudiar cientos de casos reales y determinar cuáles de ellos tendrían éxito a la hora de reclamar ante la autoridad británica reguladora en estas materias, las Financial Ombudsman. Se trataba de casos que habían sido resueltos anteriormente, por lo que no había problema en demostrar qué predicciones habían tenido éxito y cuáles no. De las 775 predicciones, los abogados humanos acertaron en el 66,3% de los casos, mientras que el programa Case Cruncher Alpha predijo correctamente el 86,6%, una diferencia notable de casi 20 puntos porcentuales. Prepol es un sistema de vigilancia predictiva creado para prever en que puntos de la ciudad es posible tengan lugar los crímenes para que la policía pueda estar preparada y responder con rapidez, sin embargo alguna investigaciones realizadas por Human Rights Data Analysis Gropu realizó una prueba sobre el software en delitos contra las drogas en una ciudad de California detectando que el sistema enviaba mayoritariamente patrullas a barrios habitados por minorías raciales, independientemente de las tasas de criminalidad detectadas en los mismos.
En Francia, se utilizan mecanismos algorítmicos para la resolución de conflictos, muy utilizados en los procesos de mediación.
Uno de los robots que se ha hecho más famoso en los últimos meses es el que han construido unos estudiantes de la Universidad de Toronto, Ross Intelligence. Gracias a sus algoritmos, quien lo utilice podrá realizarle preguntas sobre distintos temas legales y obtener una respuesta. No hace falta ningún código para ello, ya que Ross está programado para entender el lenguaje humano y responder con las leyes y los códigos correspondientes. Además, el sistema Watson le permite retroalimentarse con su actividad e ir adquiriendo más conocimientos y más capacidad de respuesta a medida que va ejerciendo su actividad.
Existen sistemas que revisan rápidamente cláusulas contractuales y sistemas de búsquedas de resolución de casos similares en un tiempo record, que si estuviese a cargo de un ser humano le levaría horas y horas de trabajo.
Considero entonces que la ciberjusticia debe avanzar no para quitar trabajo sino para simplificar tareas mecnicas que permitan a los profesionales dedicarse a otras de mayor envergadura.
En nuestro país, el sistema de búsqueda doctrinaria y jurisprudencial la posee en algunos proveedores el sistema de búsqueda a través de lenguaje natural, que es un sistema que puede comprender el contexto de la búsqueda. Es decir que posee capacidad para procesar el lenguaje natural.
Ya existen los smarts contracts o contratos inteligentes, se trata de un programa informático que facilita, asegura, hace cumplir y ejecuta acuerdos registrados entre dos o mas partes (personas físicas o jurídicas), son algoritmos que operan en un ambiente con la característica principal de no poder ser controlados por ninguna de las partes y que ejecuta un contrato de manera automática.
En materia de gestión judicial, el sistema Prometea, implementado en la Fiscalía General Adjunta Público Fiscal de la Ciudad Autónoma de Buenos Aires, consiste en ser un sistema de inteligencia artificial predictivo que trabaja con asistente de voz con el objeto de poder realizar dictámenes jurídicos. El procedimiento es descripto por Juan Gustavo Corvalan: ”El procedimiento es conducido íntegramente por la IA de la siguiente manera: llega un expediente a dictaminar, que no ha sido analizado por ninguna persona. Se carga entonces el número de expediente a la inteligencia artificial Prometea, y en pocos segundos después pasa todo lo que se detalla a continuación. El sistema de IA busca la carátula en la página del Tribunal Superior de Justicia de la Ciudad de Buenos Aires, lo asocia con otro número (vinculado a las actuaciones principales) y luego va a la página del Poder Judicial de la Ciudad Autónoma de Buenos Aires (Juscaba). Busca y lee las sentencias de primera y segunda instancia, luego analiza mas de 1400 dictámenes emitidos en los últimos años para finalmente emitir una predicción. En concreto nos dice que detecta un modelo determinado para resolver el expediente y nos ofrece la posibilidad de completar algunos datos para imprimir o enviar a revisar el dictamen con base en ese modelo (esto mismo se podría hacer si se tratara de una sentencia). Todo el proceso se desarrolla mediante comando de voz, se concreta sin tocar el teclado o el mouse. Cuando prendemos la computadora y activamos Prometea, nos pide que le digamos el número de expediente, y luego toma la carátula de la página oficial del Tribunal Superior de Justicia de la Ciudad de Buenos Aires, y nos ofrece un modelo de la fiscalía con la carátula completa y la temática según le expresemos. Por ejemplo, modelo citación, modelo vivienda, modelo autosuficiencia. Tambien nos avisa si el modelo de dictamen no es aplicable, porque están vencidos los plazos o falta algún requisito formal.”
El desarrollo de este sistema que aplica la Fiscalia en lo Contencioso Administrativo y Tributario ante el Tribunal Superior de la Ciudad y según lo afirman sus creadores, permite acelerar la resolución de procesos simples o semi simples para que los funcionarios puedan abocarse a los mas complejos. Es un reconocedor de patrones que va a una velocidad que nunca va a alcanzar el cerebro humano.
Es decir que la IA bien aplicada, puede considerarse en cuanto a lo que a gestión judicial se refiere, en su aspecto positivo, como una herramienta que permita brindar un mejor servicio de justicia, simplificar procesos internos de un modo mas ordenado, cualificar tareas, agilizar los procedimientos simples de modo tal que permita resolver rápidamente y gracias al almacenamiento de datos, cuestiones que antes requerían de múltiples pasos y diferentes etapas.
¿CUALES SON LOS RIESGOS DE LA INTELIGENCIA ARTIFICIAL SIN UN MARCO REGULATORIO?
Fundamentalmente deben tenerse presentes las cuestiones ética que la IA pudiera afectar, pues si bien el avance de las ciencias implica una mejora para la salud de los seres humanos y puede llegar a ser una herramienta muy valiosa para superar problemas que a la humanidad le afectan hoy en día, también puede contribuir a aumentar las desigualdades, a crear nuevos desequilibrios y nuevas desigualdades, generar precariedad, reducir los mercados de trabajo y aumentar la diferencias entre quienes tienen acceso a la misma y quienes no lo tienen.
Tambien debe evitarse que la misma sea puesta al servicio de conductas discriminatorias, raciales u hostiles, conductas que impliquen violación de la vida privada, publicidad personalizada, que limiten la libertad de expresión, que conlleven monopolios de cualquier tipo, pero en primer lugar en aquellos que impliquen monopolio de la información.
Existes sistemas predictivos que contienen sesgos discriminatorios, tal es el caso del sistema COMPAS, que se utiliza en las salas de audiencia de EEUU para determinar si un acusado puede ser excarcelado o si por el contrario debe permanecer en la cárcel hasta el momento de la sentencia. El juez proporciona al sistema datos: género, edad, raza, arrestos o condenas anteriores y el sistema le dice el riesgo de reincidencia de la persona a la cual se está juzgando. Se demostró que el sistema sobrestimaba el riesgo de reincidencia en el caso de personas afroamericanas y, por el contrario, asignaba un riesgo menor del real a las personas blancas.
Podemos afirmar entonces que los algoritmos en si mismos no son discriminatorios, son fórmulas que si están desarrolladas de manera correcta proporcionarán óptimos resultados, pero si por el contrario, contienen errores en la confección de la fórmula, que se produce cuando se trasladan los prejuicios y los sesgos de la persona que los diseña. Entonces, cada vez que el algoritmo se aplica reproduce esos prejuicios y sesgos.
Tambien en los sistemas de reconocimiento facial existen riesgos o peligros cuando por ejemplo presentan problemas para reconocer caras de personas de determinado color de piel, y esto tiene que ver con la incorporación previa de datos con los que se dotó al sistema. Cuando se habla de lo exitosos que son estos sistemas porque poseen un 70% de efectividad, nadie piensa que de manera absolutamente ilegal se ha procedido injustamente afectando la libertad de ese 30% de personas respecto de las cuales el reconocimiento falló.
En lo que nos interesa, en relación a la inteligencia artificial y el efecto que la misma pueda tener sobre el empleo, la mayoría de las predicciones estiman que esto implicará no en la desaparición del trabajo sino en su transformación y exigirá por tanto de nuevas formas de prestación y de la adquisición de diferentes habilidades. Seguramente algunos empleos desaparecerán y se crearán otros. Cambiarán seguramente los modos de prestación de trabajo. Será necesario formarnos y adaptarnos a los nuevos modos que vendrán de manera indefectible.
Deberemos controlar y garantizar igualdad en cuanto a los sistemas de acceso al empleo. Seguramente se automatizarán los procesos de selección de candidatos de manera masiva y deberemos estar atentos a ellos de modo tal que se permita auditar los procesos y la forma en que se alimentan los mismos de modo de evitar todo tipo de conductas discriminatorias al momento de ser evaluado para ocupar un puesto de trabajo. Ello pues, sabido es que un programa informático de selección de candidatos a un puesto de trabajo consiste en la recepción de la información de cada uno de los candidatos y en función de su programación realiza la evaluación. El problema estará dado en que los algoritmos que procesen esa información no posean prejuicios o sesgos que repliquen los del ser humano que los cargó, pues ello podría causar mucho daño a mucha gente, y lo peor será que si esto no se audita, esa gente no podrá conocer cuales fueron los criterios y los sesgos bajo los cuales fueron evaluados, porque el funcionamiento de los algoritmos es muy complejo y solo lo conocen quienes lo diseñan.
¿QUE DEBE GARANTIZAR UN FUTURO MARCO REGULATORIO?
Un su informe sobre la ética de la robótica, publicado en noviembre de 2017, la Comisión Mundial de Ética del Conocimiento Científico y de la Tecnología de la UNESCO (COMEST) propuso un marco ético sustentado en la tecnología, con el fin de reformular recomendaciones sobre la ética de la robótica basadas en la distinción entre robots deterministas y robots cognitivos. El informe resalta también valores y principios éticos que pueden contribuir a establecer una reglamentación a todos los niveles y de forma coherente, que va desde códigos de conducta para ingenieros hasta legislaciones nacionales y convenios internacionales. Los valores y principios éticos puestos de relieve son la dignidad humana, la autonomía, el respeto de la vida privada, la seguridad, la responsabilidad, la beneficencia y la justicia. El principio de la responsabilidad humana es el hilo conductor que conecta los diferentes valores examinados en el informe. La COMEST formula asimismo una serie de recomendaciones específicas relacionadas con la aplicación de tecnologías robóticas, que van desde la elaboración de códigos de ética para especialistas en robótica hasta advertencias contra el desarrollo y el uso de armas autónomas.
En ese sentido entonces consideramos que debe establecerse un sistema de normas que tutele que los sistemas sean confiables, que permita que se pueda confiar en los mismos.
La automatización de procesos en cuanto se refiere a relaciones humanas debe perseguir como finalidad la objetividad de las evaluaciones, eliminando los prejuicios de los propios humanos y para ello debe evitarse que esos prejuicios y sesgos se trasladen a los procesos, para evitar daños mayores.
Deberá además garantizar sistemas equitativos de acceso para todos los seres humanos por igual, que se adapten a las necesidades y a los valores de la sociedad a la que pretenden servir y también deberán permanecer al alcance de todos. En nuestro país existe la ley 27078 de Argentina Digital que en sus dos primeros artículos declara de interés público el desarrollo de las tecnologías de información y de la comunicación (TIC), menciona la necesidad de garantizar el derecho humano a las comunicaciones, telecomunicaciones y, también, el acceso a los servicios de TIC.
Toda implementación de sistemas de seguridad, deberán garantizar las libertades individuales y la vida privada de los usuarios, deben ser justos y equitativos.
Los algoritmos deben ser transparentes y debe garantizarse el acceso a los mismos. Deben ser objetivos y sin sesgos que importen conductas raciales o discriminatorias. En modo alguno podrá permitirse que reproduzcan los prejuicios existentes en el ser humano.
Los sistemas de inteligencia artificial y el big data deben auditarse para identificar y prevenir los posibles errores que conllevan en cuanto a la cantidad de datos recopilados, el grado de objetividad de los mismos, si son relevantes, si contienen sesgos y también sobre sus objetivos.
Debe protegerse a través de un sistema de normas la propiedad de los datos, indicando de manera clara cuando pueden ser utilizados y cuando no, de acuerdo a la importancia que los mismos revistan en la intimidad de las personas. Tambien debe protegerse la confidencialidad de los datos.
Deben modificarse los sistemas educativos y definir cual será el rol de la inteligencia artificial en las aulas, sobre todo si se piensa que los niños que se incorporan desde ahora al sistema verán cada vez mas la incorporación de métodos de enseñanza basados en la IA que no debe ser sesgada. Es necesario plantearse cual va a ser el lugar que la inteligencia artificial va a ocupar en las aulas teniendo en cuenta que debe estimularse la creatividad y el pensamiento crítico.
¿CUAL ES NUESTRO ROL COMO MIEMBROS ACTIVOS DE UNA SOCIEDAD?
Debemos pensar que la Inteligencia Artificial avanza e incide cada vez con mas fuerza en las decisiones de nuestra vida. Esto significa pensar que determinadas fórmulas matemáticas van a incidir en nuestras decisiones y que pese a ello, no conocemos cuales son los datos que las alimentan ni como fueron diseñadas.
En estos tiempos, la investigación en materia de Inteligencia Artificial avanza a gran velocidad, y mientras tanto, los contextos jurídicos, sociales y éticos en los que debería enmarcarse evolucionan a paso de tortuga.
Debemos enfrentar este desafío, sobre todo desde nuestro ámbito, para garantizar derechos humanos fundamentales de nuestra sociedad. No existen en la actualidad normas que regulen el uso de la IA. ¿Es eso casual?
¿Vamos a dejar que transcurra de este modo o vamos a involucrarnos enfrentando el desafío que la tecnología nos plantea, respondiendo a la misma con seguridad en relación a la intromisión que la misma intente hacer sobre nuestra vida privada.
Considero que como sociedad debemos tomar decisiones correctas al momento de implementar la Inteligencia Artificial que mida su impacto social, que arbitre su utilización y que legisle en coherencia con esos principios.
Debemos involucrarnos para que finalmente, todo sistema implementado mediante la utilización de Inteligencia Artificial se encuentre siempre a nuestro servicio y no a nuestra costa, porque recordemos siempre que las máquinas no poseen autonomía moral, eso aun queda en nuestras manos.