Justicia Predictiva

Este elemento es una profundización de los cursos y guías de Lawi. Ofrece hechos, comentarios y análisis sobre este tema. [aioseo_breadcrumbs] Las aplicaciones algorítmicas y de análisis de grandes datos ya están apareciendo en los tribunales tradicionales de muchos países, tras la integración y ampliación de los sistemas de tecnología de la información (TI) ya existentes. Una de las principales aplicaciones de TI se encuentra en la gestión de archivos, donde puede reducir los costes (o costos, como se emplea mayoritariamente en América) y la velocidad de procesamiento de los casos.

Puntualización

Sin embargo, hoy en día, la tecnología parece conducir a un tipo de cambio (véase más en el diccionario y más detalles, en esta plataforma, sobre este término) mucho más disruptivo y revolucionario.

En Francia, la posibilidad de utilizar mecanismos algorítmicos de solución de controversias para asuntos judiciales relativamente menores se ha incluido en el programa de reforma de la justicia presentado por la Ministra de Justicia, Nicole Belloubet. Aproximadamente 2,7 millones de casos podrían verse afectados.

Sin embargo, la ampliación del procedimiento de mediación en línea a los casos que tradicionalmente han sido tratados y juzgados por jueces de primera instancia, en particular las demandas de escasa cuantía y las faltas, requiere la atención de académicos y profesionales, así como de ciudadanos y otras partes interesadas.

Nos enfrentamos a una revolución que plantea serios interrogantes. Esta revolución consiste en un nuevo método para tratar tanto el proceso de construcción de normas como la construcción de la realidad, tal como lo han descrito Peter Berger y Thomas Luckmann. La transformación digital de la forma en que se hace justicia a los demandantes y litigantes afecta a nuestra forma de escribir la realidad, los hechos y los argumentos jurídicos que tradicionalmente se delegan a los jueces. ¿Y cuál es el nivel mínimo de conocimiento y conciencia que las instituciones deben asegurar que los titulares de derechos tengan para que puedan decidir si presentar una reclamación o no, o presentar un caso o no?

Del procesamiento a la predicción

Hace varios años, el Departamento de Policía de los Ángeles adoptó un sistema de policía predictivo llamado PredPol. Aunque superficialmente similar a la práctica tradicional del mapeo de puntos calientes, utiliza conjuntos de datos masivos de comportamientos individuales y vecindarios, y promete dirigir mejor los esfuerzos policiales para reducir la delincuencia. Una plataforma similar, llamada Sistema de Anticipación del Crimen (CAS), está siendo desarrollada en Ámsterdam.

Sin embargo, estos enfoques plantean muchas preguntas. El trabajo de la policía puede reducir las actividades delictivas en un lugar, solo para que ocurran en otro lugar. O los criminales potenciales podrían esperar hasta que los oficiales se vayan antes de tomar acción. (Tal vez sea de interés más investigación sobre el concepto). Un enfoque relacionado es el mapeo del terreno de riesgo, en el que la historia de la delincuencia de una región en particular se funde con los comportamientos locales para definir las zonas propensas a la delincuencia.

Otra aplicación que va más allá de la simple gestión de casos es la resolución de conflictos en línea, que se ha adoptado en el Reino Unido y en los Países Bajos. Muchos juristas y profesionales del derecho sostienen que esos mecanismos tienen un potencial significativo y en gran medida poco explorado.

Si bien los cambios impulsados por las TI pueden ser desafiantes, en Holando se ha argumentado que tienen potencial para apoyar los procesos de toma de decisiones legales y judiciales, así como los acuerdos de litigio.

Pormenores

Hay varios ejemplos: así, el Tribunal de Resolución Civil es un tribunal digital creado para resolver disputas sobre estratos y viviendas subvencionadas en Columbia Británica, Canadá. Proporciona asistencia en la búsqueda de soluciones a un problema, en la producción de documentos y, si es necesario, en el acceso a una audiencia ante el tribunal. Y la “Rechtwijzer uit elkaar”[guía legal sobre la separación] ayuda a las parejas que desean separarse o divorciarse a hacer un plan para la separación, y con la separación en sí misma. A finales de junio de 2016, según la información disponible en el sitio, más de 1.000 parejas habían comenzado a elaborar un plan de separación. (Tal vez sea de interés más investigación sobre el concepto). La herramienta incluye formularios en línea, funcionalidad de chat, herramientas de cálculo y la posibilidad de obtener ayuda de un experto.

Datos masivos para detectar comportamientos

La llegada de esta tecnología también puede tener otros impactos. Por ejemplo, una vez que los documentos relacionados con los procedimientos de litigación civil se escanean sistemáticamente y se ponen a disposición en formato digital, el análisis a gran escala puede ser posible como un caso de análisis de datos.

El conocimiento que se puede obtener a partir de conjuntos de datos masivos de litigios civiles o comerciales – y tal vez de causas penales en última instancia – también podría proporcionar información sobre las correlaciones entre las situaciones, los comportamientos y las decisiones judiciales. Por ejemplo, los patrones de comportamiento de los litigantes, abogados y jueces pueden ser detectados y puestos a disposición del público en general.

Detalles

Los algoritmos también podrían decirnos la probabilidad de que una decisión legal o un fallo judicial de un caso pueda ser fijado en un punto particular, ya sean costos, honorarios, sentencias, sanciones monetarias, etcétera.

Pero, ¿es esto todo lo que necesitamos saber, y la historia que queremos contar a las generaciones que vienen después de nosotros?

Un caso de eficiencia y estrategia de reducción de costes

Después de una larga serie de reformas orientadas hacia la independencia judicial, organismos internacionales como las Naciones Unidas, el Consejo Europeo y la OCDE han promovido un enfoque que se centra en la eficiencia y no exclusivamente en la imparcialidad.

En este sentido, los sistemas basados en TI son elogiados por su potencial percibido para reducir costes.

Otros Elementos

Además, la posibilidad de acceder a las instituciones de justicia a través de herramientas en línea -el portal público a través del cual las personas pueden presentar un caso o hacer un seguimiento del caso en el que son litigantes o condenados- puede ser una ventaja para los sistemas de justicia que están demasiado dispersos y en los que los ciudadanos pueden tener dificultades para desplazarse a los juzgados centrales.

El ejemplo francés: El sistema SAUJ de Francia

La tecnología de la información también puede aumentar la igualdad de acceso a la información. (Tal vez sea de interés más investigación sobre el concepto). Esto es lo que se proporciona a través del sistema SAUJ de Francia – Service d’accueil unique du justiciable (“servicio único para los litigantes”).

SAUJ es una recepción virtual establecida a nivel de los tribunales de primera instancia donde los ciudadanos pueden recibir información gratuita, obtener direcciones y acceder a los casos en los que están involucrados, ya sea como litigantes, víctimas, testigos o acusados. Su atractivo es que simplifica el acceso al sistema de justicia.

Introducido en Francia con carácter experimental en 2014 y seguido en una muestra de tribunales piloto de 2014 y 2016 -Bobigny, Brest, Dunkerque, Privas y Vesoul en Francia, y Saint-Denis en La Reunión-, desde entonces se ha extendido al sistema judicial nacional. El uso del SAUJ tiene por objeto aumentar la responsabilidad pública de los tribunales, incluida la gestión de los recursos, la productividad y la organización. (Tal vez sea de interés más investigación sobre el concepto). Un estudio llevado a cabo en la empresa Phillips mostró que las diferencias en la percepción de la usabilidad de los sistemas de TI actuales, así como las funciones de RRHH preferidas: socio estratégico (alta preferencia) y defensor del empleado (baja preferencia), estaban relacionadas con una actitud positiva hacia los sistemas de E-HRM.Entre las Líneas En el caso de los administradores, el apoyo a los usuarios también resultó ser un indicador de una actitud positiva hacia la gestión electrónica de los recursos humanos.

Sin embargo, SAUJ no cuenta toda la historia sobre el impacto perturbador de las TI en el sistema legal, tanto en el sentido positivo como en el negativo.

Italia

El poder judicial italiano ha estado bajo los focos durante más de dos décadas. La principal crítica que se le ha dirigido ha sido la falta de capacidad organizativa, que se refleja en el calendario de los juicios. Después de 2000, las instituciones europeas pusieron en marcha una nueva y amplia corriente política, centrada en las capacidades administrativas y organizativas de los tribunales y las fiscalías. El instrumento político fundamental está representado por las normas y el derecho indicativo (“soft law” en inglés) en general. A partir de cuatro estudios de caso, analizados en profundidad sobre la base de un enfoque cualitativo, este trabajo realiza una valoración crítica de las políticas judiciales inspiradas en la Nueva Gestión Pública y de la forma en que se han aplicado en el sector judicial en Italia.

En un artículo (Reforming the judiciary through standards: agency empowerment and centre (re)building in Italy, 2001–2015, de Daniela Piana) se hace referencia a las condiciones estructurales e institucionales que resultan ser factores fundamentales para garantizar una gobernanza eficaz y eficiente desde el punto de vista de los estándares.Entre las Líneas En otros términos, el argumento aquí expuesto se refiere a la función de un organismo regulador, que podría tener la forma y el formato de una unidad ministerial, donde la uniformidad y la igualdad de los servicios prestados por una institución pública o una red de instituciones públicas son el resultado de la aplicación de normas jurídicamente vinculantes y no vinculantes. Este es un punto clave, entonces, para los funcionarios públicos que sirven no solo en el sector judicial.

Cambios transformadores para los jueces

Además, la tecnología de la información podría proporcionar herramientas completamente desmaterializadas para facilitar las decisiones de los jueces o para orientar mejor las opciones de los ciudadanos y de los representantes legales. Por ejemplo, un juez que debe pronunciarse sobre un caso complejo e innovador puede querer estar al tanto de la jurisprudencia pertinente. La analítica de datos puede proporcionar información, analizar casos ya juzgados y sacar a la superficie los que son similares.

Las tendencias en las tasas de apelación y revisión también pueden detectarse fácilmente, y se podrían revelar los patrones de fallos anteriores en situaciones similares. Usando tales algoritmos, los litigantes que buscan daños podrían aprender el éxito de casos similares y, si es necesario, ajustar sus estrategias o incluso decidir no seguir adelante.

¿Es la tecnología una garantía de calidad e igualdad?

Si bien más tecnología puede significar más conocimiento, ¿nos proporcionará no solo una decisión de mayor calidad, sino también más igualitaria?

Hay varias preguntas que deben ser contestadas. ¿Cómo se diseñarán, construirán y supervisarán estas herramientas informáticas? ¿Cuál es el fundamento que inspira la creación de tales algoritmos? ¿Y hasta qué punto pueden los ciudadanos ser más conscientes de esta lógica que de los siglos de tradición que tienen los métodos actuales de adjudicación?

Lo que marca la diferencia entre el código legal y un algoritmo en términos de calidad de la justicia es la posibilidad de que los ciudadanos comprendan y sean responsables en el universo en el que se encuentran. Los titulares de derechos son a veces litigantes, a veces víctimas, a veces empresarios, pero siempre ciudadanos.

Por ello, desde el punto de vista de los ciudadanos, los que están separados de los propios algoritmos, debe observarse una revolución digital en el mundo jurídico. Durante años, la cuestión de la opacidad y la inteligibilidad del aparato judicial ha ganado la prioridad en la lista de dimensiones que un sistema de calidad de la justicia debe tener en cuenta.Entre las Líneas En la misma línea, si queremos garantizar que las leyes y los casos legales sean inteligibles para los ciudadanos y los expertos no legales, ¿deberíamos también pedir más transparencia y capacidad de respuesta en el proceso de creación de algoritmos (en la creación de normas basadas en las TI)?

Una cuestión diferente pero igualmente convincente es comprender mejor el punto de vista de los jueces y abogados sobre la justificación y el uso de las herramientas de TI en las que se basarían sus actividades cotidianas. Esto ayudará a garantizar que sigamos rigiéndonos por la ley en lugar de caer en la trampa de hacer que el Estado de Derecho sea igual al Estado del código.

Autor: Black

Mitigación del sesgo algorítmico en la justicia predictiva: principios de diseño para la imparcialidad de la inteligencia artificial (IA)

El coste (o costo, como se emplea mayoritariamente en América) de los errores aumenta drásticamente cuando la inteligencia artificial se implementa en entornos de alto riesgo, como la justicia penal para ayudar a los jueces a evaluar la probabilidad de que un sospechoso vuelva a delinquir. De hecho, uno de los usos más controvertidos de la IA en los últimos años ha sido el de la policía predictiva.

Para el público en general, los métodos predictivos de la policía son probablemente más conocidos de la película de ciencia ficción de 2002 Minority Report protagonizada por Tom Cruise (examine más sobre estas cuestiones en la presente plataforma online de ciencias sociales y humanidades). Basada en un cuento de Philip K. Dick, la película presenta una visión del futuro en la que se pueden predecir y prevenir los crímenes. Esto puede sonar como un escenario utópico (idealista, irreal; el término procede del libro “Utopía” de Sir Thomas More, que imagina una sociedad perfecta pero inalcanzable) descabellado.

Puntualización

Sin embargo, la justicia predictiva ya existe hoy en día. Construido sobre sistemas avanzados de aprendizaje automático, hay una ola de nuevas empresas que proporcionan servicios de predicción a los tribunales; por ejemplo, en forma de algoritmos de evaluación de riesgos que estiman la probabilidad de reincidencia de los delincuentes para ayudar a los jueces en su toma de decisiones.

¿Pueden las máquinas identificar a los futuros delincuentes?

Las penas de prisión en los Estados Unidos se basan cada vez más en predicciones sesgadas sobre la IA. Por ejemplo, después de su arresto en 2013, Eric Loomis fue sentenciado a seis años de prisión basado en parte en una predicción algorítmica opaca de que cometería más crímenes. Equivant (anteriormente Northpointe), la empresa que está detrás del software propietario utilizado en el caso de Eric Loomis, afirma haber proporcionado una visión de 360 grados del acusado (persona contra la que se dirige un procedimiento penal; véase más sobre su significado en el diccionario y compárese con el acusador, público o privado) a fin de proporcionar asistencia algorítmica detallada en la toma de decisiones judiciales.

Esta compañía es uno de los muchos actores en el campo de la justicia predictiva en los Estados Unidos. Un informe reciente del Centro de Información sobre Privacidad Electrónica encuentra que los algoritmos se utilizan cada vez más en los tribunales para “fijar la fianza, determinar las sentencias e incluso contribuir a la determinación de la culpabilidad o inocencia”. Este cambio hacia una mayor inteligencia artificial en los tribunales, que permitiría a la inteligencia artificial aumentar el juicio humano, podría ser extremadamente beneficioso para el sistema judicial en su conjunto.

Sin embargo, un informe de investigación de ProPublica encontró que estos algoritmos tienden a reforzar el sesgo racial en los datos de las fuerzas de seguridad.

Detalles

Las evaluaciones algorítmicas tienden a marcar falsamente a los acusados negros como futuros criminales a casi el doble de velocidad que los acusados blancos. Es más, los jueces que se basaron en estas evaluaciones de riesgo por lo general no entendieron cómo se calculaban las puntuaciones.

Esto es problemático, porque los modelos de aprendizaje automático son tan confiables como los datos en los que han sido entrenados. Si los datos subyacentes están sesgados en cualquier forma, existe el riesgo de que las desigualdades estructurales y los sesgos injustos no solo se reproduzcan, sino que también se amplifiquen.Entre las Líneas En este sentido, los ingenieros de IA deben ser especialmente cautelosos con sus puntos personas con discapacidad visual y suposiciones implícitas; lo que importa no es solo la elección de las técnicas de aprendizaje automático, sino también todas las pequeñas decisiones sobre la búsqueda, organización y etiquetado de los datos de formación para los modelos de IA.

Basado en la experiencia de varios autores, mis opiniones, perspectivas y recomendaciones se expresarán a continuación (o en otros lugares de esta plataforma, respecto a las características en 2026 o antes, y el futuro de esta cuestión):

Los datos sesgados alimentan algoritmos sesgados

Incluso pequeñas irregularidades y sesgos pueden producir una diferencia mensurable en la evaluación final del riesgo. La cuestión crítica es que problemas como el prejuicio racial y la discriminación estructural están arraigados en el mundo que nos rodea.

Por ejemplo, hay evidencia de que, a pesar de las tasas similares de uso de drogas, los estadounidenses de raza negra son arrestados a un ritmo cuatro veces mayor que los estadounidenses de raza blanca por cargos relacionados con las drogas. Incluso si los ingenieros recolectaran fielmente estos datos y entrenaran un modelo de aprendizaje de máquina con él, la IA seguiría recogiendo el sesgo incrustado como parte del modelo.

Los patrones sistemáticos de desigualdad están en todas partes. Si nos fijamos en las películas más taquilleras de 2014/2015, podemos ver que los personajes femeninos están muy poco representados, tanto en términos de tiempo frente a la pantalla como de tiempo de uso de la palabra. Los nuevos modelos de aprendizaje de máquinas pueden cuantificar estas desigualdades, pero hay muchas preguntas abiertas sobre cómo los ingenieros pueden mitigarlas de forma proactiva.

El reciente experimento de Google “Quick, Draw! El experimento invitó a los usuarios de Internet de todo el mundo a participar en un divertido juego de dibujo.Entre las Líneas En cada ronda del juego, los usuarios fueron desafiados a dibujar un objeto en menos de 20 segundos. El sistema de IA trataría entonces de adivinar qué representa su dibujo. Más de 20 millones de personas de 100 naciones participaron en el juego, resultando en más de 2 billones de dibujos diversos de todo tipo de objetos, incluyendo gatos, sillas, postales, mariposas, líneas del horizonte, etc.

Pero cuando los investigadores examinaron los dibujos de los zapatos en el conjunto de datos, se dieron cuenta de que se trataba de un fuerte sesgo cultural. Un gran número de los primeros usuarios dibujaron zapatos que parecían zapatillas Converse. Esto llevó al modelo a recoger los atributos visuales típicos de las zapatillas como ejemplo prototípico de cómo debe ser un “zapato”.Entre las Líneas En consecuencia, los zapatos que no parecían zapatillas de deporte, como los tacones altos, las bailarinas o los zuecos, no eran reconocidos como zapatos.

Además, estudios recientes muestran que, si no se controlan, los modelos de aprendizaje automático aprenderán estereotipos de género obsoletos, como que los “médicos” son hombres y las “recepcionistas” mujeres. De manera similar, se ha demostrado que los modelos de IA entrenados con imágenes de ex presidentes de Estados Unidos predicen que los candidatos exclusivamente masculinos serán los probables ganadores de la carrera presidencial.

Los sistemas de aprendizaje automático solo pueden utilizar datos históricos para hacer predicciones sobre el futuro. Esta es la razón por la que las redes neuronales entrenadas en imágenes de presidentes anteriores de Estados Unidos predijeron que Donald Trump ganaría las próximas elecciones en Estados Unidos, después de haber sido entrenado con imágenes de presidentes anteriores (hombres). Debido a que no había presidentas en el conjunto de datos, la IA no pudo deducir que el género no fuera una característica relevante para el modelo.Entre las Líneas En la práctica, si esta AI en particular eligiera al próximo presidente, votaría por Trump.

Estas inferencias resultan en sistemas de recomendación cada vez más deterministas, que tienden a reforzar las creencias y prácticas existentes similares a las cámaras de eco en nuestros feeds de medios sociales. Cuanto más dependemos de algoritmos personalizados en la vida diaria, más influirán en lo que vemos, lo que leemos, con quién hablamos y cómo vivimos. Al enfocarnos implacablemente en el status quo, las nuevas recomendaciones sobre libros para leer, películas para ver y gente para conocer nos darán más de las mismas cosas que nos han deleitado anteriormente.

Cuando su pasado dicta inequívocamente su futuro, el desarrollo personal a través de la espontaneidad, la apertura mental y la experimentación se vuelve más difícil. De esta manera, la noción de determinismo algorítmico se hace eco de lo que Winston Churchill dijo una vez sobre los edificios: Nosotros damos forma a nuestros algoritmos; después, ellos nos dan forma a nosotros.

Diseñar para la equidad en la IA

En octubre de 2018, la Conferencia Internacional de Comisarios de Protección de Datos y Privacidad publicó la Declaración sobre Ética y Protección en Inteligencia Artificial, uno de los primeros pasos hacia un conjunto de principios de gobernanza internacional sobre IA. La declaración afirma que “los sesgos o discriminaciones ilegales que puedan resultar del uso de datos en la inteligencia artificial deben reducirse y mitigarse”.

Inherente a esta noción está la afirmación de que el sexo anal debe ser evaluado sobre la base de un conjunto más amplio de criterios éticos y legales; no solo basados en la exactitud de la clasificación y en matrices de confusión. (Tal vez sea de interés más investigación sobre el concepto).

Autor: Black

▷ Esperamos que haya sido de utilidad. Si conoces a alguien que pueda estar interesado en este tema, por favor comparte con él/ella este contenido. Es la mejor forma de ayudar al Proyecto Lawi.