Impacto Disparejo, Dispar o Desigual

Este elemento es una ampliación de los cursos y guías de Lawi. Ofrece hechos, comentarios y análisis sobre este tema. [aioseo_breadcrumbs] En inglés: Disparate impact.

En las últimas décadas, una herramienta importante para evaluar y abordar la discriminación ha sido la teoría del “impacto dispar”.

Detalles

Los abogados han utilizado esta idea para impugnar con éxito las políticas que tienen un efecto discriminatorio sobre ciertos grupos de personas, independientemente de que la entidad que elaboró la política estuviera o no motivada por la intención de discriminar. Se ha utilizado en demandas que involucran decisiones de empleo, vivienda y crédito.Entre las Líneas En el futuro, la cuestión es si la teoría puede aplicarse al sesgo que resulta de las nuevas tecnologías que utilizan algoritmos.

El término “impacto dispar” se utilizó por primera vez en Estados Unidos, en el caso Griggs v. Duke Power Company del Tribunal Supremo de 1971. El Tribunal dictaminó que, bajo el Título VII de la Ley de Derechos Civiles, era ilegal que la compañía utilizara los resultados de las pruebas de inteligencia y los diplomas de las escuelas secundarias -factores que demostraron favorecer desproporcionadamente a los solicitantes blancos y descalificar sustancialmente a las personas de color- para tomar decisiones de contratación o ascenso, independientemente de que la compañía tuviera la intención de que las pruebas fueran discriminatorias o no. Un aspecto clave de la decisión de Griggs fue que la compañía eléctrica no pudo probar que sus pruebas de inteligencia o requisitos de diploma eran realmente relevantes para los trabajos para los que estaban contratando.

En los años siguientes, varios casos de impacto desigual han llegado a la Corte Suprema y a los tribunales inferiores, la mayoría de ellos relacionados con la discriminación en el empleo.Entre las Líneas En junio de 2015, la decisión de la Corte Suprema en el caso Texas Dept. of Housing and Community Affairs v. Inclusive Communities Project, Inc. afirmó el uso de la teoría del impacto dispar para combatir la discriminación en la vivienda. El Proyecto “Comunidades Inclusivas” había utilizado un análisis estadístico de los patrones de vivienda para mostrar que un programa de crédito fiscal efectivamente segregaba a los tejanos por raza. La decisión de la Corte tuvo enorme importancia, tanto a favor de los derechos civiles como a favor de las estadísticas.

Cuando la discriminación se convierte en algoritmos

A medida que más compañías y servicios utilizan los datos para dirigirse a los individuos, esos análisis podrían amplificar inadvertidamente el sesgo. Entonces, ¿cómo abordarán los tribunales el sesgo algorítmico? Desde el comercio minorista hasta el sector inmobiliario, desde el empleo hasta la justicia penal, el uso de la minería de datos, el software de scoring y los programas de análisis predictivo están proliferando a un ritmo exponencial. El software que toma decisiones basadas en datos como el código postal de una persona puede reflejar, o incluso amplificar, los resultados de la discriminación histórica o institucional.

Los algoritmos hereden los prejuicios de los anteriores datos

Un algoritmo es tan bueno como los datos con los que trabaja, sostienen Solon Barocas y Andrew Selbst en su artículo “Big Data’s Disparate Impact” (El Impacto Disparado de los Grandes Datos), que se publicó en la revista “California Law Review”. Incluso en situaciones en las que los mineros de datos son extremadamente cuidadosos, observan, pueden afectar los resultados discriminatorios con modelos que, sin querer, seleccionan variables proxy para clases protegidas.

Los defensores de las técnicas algorítmicas como la minería de datos sostienen que estas técnicas eliminan los sesgos humanos del proceso de toma de decisiones.Si, Pero: Pero un algoritmo es tan bueno -cabe repetir- como los datos con los que trabaja. Con frecuencia, los datos son imperfectos de manera que permiten que estos algoritmos hereden los prejuicios de los anteriores responsables de la toma de decisiones.Entre las Líneas En otros casos, los datos pueden simplemente reflejar los sesgos generalizados que persisten en la sociedad en general.Entre las Líneas En otros, la minería de datos puede descubrir regularidades sorprendentemente útiles que en realidad no son más que patrones preexistentes de exclusión y desigualdad. La dependencia irreflexiva de la minería de datos puede negar a los grupos históricamente desfavorecidos y vulnerables la plena participación en la sociedad. Peor aún, debido a que la discriminación resultante es casi siempre una propiedad emergente no intencional del uso del algoritmo en lugar de una elección consciente por parte de sus programadores, puede ser inusualmente difícil identificar la fuente del problema o explicarlo a un tribunal.

El ensayo publicado en la “California Law Review” examina estas preocupaciones a través del lente de la ley antidiscriminatoria americana – más particularmente, a través de la prohibición de la discriminación en el empleo en el Título VII.Entre las Líneas En ausencia de una intención demostrable de discriminar, la mejor esperanza doctrinal para las víctimas de la minería de datos parece residir en una doctrina de impacto desigual.

Puntualización

Sin embargo, la jurisprudencia y las Directrices Uniformes de la Comisión de Igualdad de Oportunidades en el Empleo sostienen que una práctica puede justificarse como una necesidad empresarial cuando sus resultados son predictivos de los resultados futuros en materia de empleo, y la minería de datos está específicamente diseñada para encontrar tales correlaciones estadísticas. A menos que exista una forma razonablemente práctica de demostrar que estos descubrimientos son espurios, el Título VII parecería bendecir su uso, aunque las correlaciones que descubre a menudo reflejarán patrones históricos de prejuicio, la discriminación de otros contra miembros de grupos protegidos, o fallas en los datos subyacentes.

Abordar las fuentes de esta discriminación involuntaria y remediar las deficiencias correspondientes de la ley será difícil desde el punto de vista técnico, jurídico y político. Hay una serie de límites prácticos a lo que se puede hacer computacionalmente. Por ejemplo, cuando se produce una discriminación debido a que los datos que se extraen son en sí mismos el resultado de una discriminación intencionada en el pasado, con frecuencia no existe un método obvio para ajustar los datos históricos a fin de eliminar esta mancha. Las medidas correctivas que alteran los resultados de la extracción de datos una vez finalizada, se aplicarían en terrenos disputados legal y políticamente. Estos desafíos para la reforma ponen de relieve la tensión entre las dos principales teorías que subyacen en la legislación contra la discriminación: la anticlasificación y la antisubordinación. (Tal vez sea de interés más investigación sobre el concepto). Encontrar una solución al impacto desigual de la big data (los grandes datos) requerirá más que los mejores esfuerzos para erradicar los prejuicios y los prejuicios; requerirá un reexamen general de los significados de “discriminación” y “justicia”.

Discriminación automática en Internet

Ya es bastante preocupante cuando el etiquetado automático de fotos en línea de Flickr etiqueta las fotos de hombres negros como “animales” o “simios” (Flickr se enfrentó a una revuelta de usuarios en 2015 por el etiquetado automático “ofensivo” de las fotos, porque el sistema de etiquetado automático coloca etiquetas de “animales” y “simios” en las imágenes de personas negras y etiqueta los campos de concentración con “gimnasio en la selva” y “deporte”; el sistema clasificaba automáticamente las fotos en varios grupos amplios, y los usuarios se quejaron de que las etiquetas son demasiado amplias o inexactas para ser útiles). O cuando los investigadores determinan que es más probable que los resultados de búsqueda de Google para los nombres que suenan negros vayan acompañados de anuncios sobre actividades delictivas que los resultados de búsqueda para los nombres que suenan en blanco. (Las búsquedas de Google que involucran nombres que suenan negros son más propensas a publicar anuncios que sugieren antecedentes penales que los nombres que suenan blancos, dice una profesora de Harvard. Si los algoritmos detrás de Adsense pueden razonar sobre la maximización de los ingresos, añade que deberían ser capaces de razonar sobre las consecuencias legales y sociales de ciertos patrones de clics.)

Pero, ¿qué sucede cuando se utilizan grandes datos (el big data) para determinar la puntuación de crédito de una persona, su capacidad para ser contratada, o incluso la duración de una sentencia en prisión?

Debido a que la teoría del impacto dispar está orientada a los resultados, parecería ser una buena manera de desafiar el sesgo algorítmico en los tribunales. Un demandante solo necesitaría demostrar sesgo en los resultados, sin tener que probar que un programa fue concebido con sesgo como su objetivo.Si, Pero: Pero hay pocos precedentes legales (examine más sobre todos estos aspectos en la presente plataforma online de ciencias sociales y humanidades). Barocas y Selbst argumentan en su artículo que expandir la teoría del impacto dispar para desafiar la minería de datos discriminatoria en los tribunales “será difícil técnicamente, difícil legalmente y difícil políticamente”.

Algunos investigadores sostienen que tiene más sentido diseñar sistemas desde el principio de una manera más considerada y consciente de la discriminación. (Tal vez sea de interés más investigación sobre el concepto) (examine más sobre todos estos aspectos en la presente plataforma online de ciencias sociales y humanidades). Barocas y Moritz Hardt establecieron un taller itinerante llamado “Fairness, Accountability and Transparency in Machine Learning” (Equidad, Responsabilidad y Transparencia en el Aprendizaje Automático) para animar a otros informáticos a hacer precisamente eso. Algunos de sus compañeros organizadores también están desarrollando herramientas que esperan que las compañías y las agencias gubernamentales puedan usar para probar si sus algoritmos producen resultados discriminatorios y para corregirlos cuando sea necesario. Algunos juristas (incluyendo a Danielle Keats Citron de la Universidad de Maryland) argumentan a favor de la creación de nuevas regulaciones o incluso de organismos reguladores que gobiernen los algoritmos que toman decisiones cada vez más importantes en nuestras vidas.

Todavía existe una gran diferencia legal entre la existencia de discriminación legal explícita y la discriminación implícita. Parece que, debido a que se están tomando más decisiones por algoritmos, estas distinciones se están desdibujando.

La doctrina bajo la Ley de Vivienda Justa

El Impacto Disparado es una doctrina legal bajo la Ley de Vivienda Justa, lo que significa que una política o práctica puede ser considerada discriminatoria si tiene un “impacto adverso” desproporcionado contra cualquier grupo basado en raza, origen nacional, color, religión, sexo, estado familiar o discapacidad.

La teoría del impacto desigual protege el derecho a un lugar justo para todos. El lugar donde usted vive determina dónde trabaja y cómo llega, su acceso a la atención médica y la escuela a la que asiste su hijo. Desafortunadamente, todavía existen políticas y prácticas que – intencionalmente o no – mantienen a algunas personas fuera de la vivienda que pueden pagar simplemente por ser quienes son.

La teoría del impacto dispar tiene aplicación también en el contexto de la vivienda bajo el Título VIII de la Ley de Derechos Civiles de 1968, también conocida como Ley de Vivienda Justa. Las diez cortes federales de apelaciones que se han ocupado del asunto han determinado que se puede establecer una violación de la Ley de Equidad de Vivienda a través de la teoría del impacto dispar de la responsabilidad. La Oficina de Vivienda Justa e Igualdad de Oportunidades del Departamento de Vivienda y Desarrollo Urbano de los Estados Unidos, el gobierno federal que administra la Ley de Vivienda Justa, emitió un reglamento propuesto el 16 de noviembre de 2011 que establece cómo el HUD aplica un impacto dispar en los casos de la Ley de Vivienda Justa. El 8 de febrero de 2013, el HUD emitió su Regla Final.

Basado en la experiencia de varios autores, mis opiniones, perspectivas y recomendaciones se expresarán a continuación (o en otros lugares de esta plataforma, respecto a las características en 2026 o antes, y el futuro de esta cuestión):

Hasta 2015, la Corte Suprema de los Estados Unidos aún no había determinado si la Ley de Equidad de Vivienda permitía las reclamaciones de impacto desigual. Esta pregunta llegó a la Corte Suprema dos veces desde 2012, primero en Magner v. Gallagher y luego en Township of Mount Holly v. Mount Holly Gardens Citizens. Parece probable que el Tribunal Supremo dictamine que la ley no contiene una disposición de impacto dispar, pero ambos casos se resolvieron antes de que el Tribunal pudiera emitir una decisión. (Tal vez sea de interés más investigación sobre el concepto). El gobierno federal pareció presionar el acuerdo en uno o ambos casos en un esfuerzo por preservar la teoría del impacto dispar.

El 25 de junio de 2015, mediante una decisión 5-4 en el caso Texas Department of Housing and Community Affairs v. Inclusive Communities Project, la Corte Suprema sostuvo que las reclamaciones de impacto dispar son reconocibles bajo la Ley de Vivienda Justa.Entre las Líneas En una opinión del Juez Kennedy, “El reconocimiento de reclamos de impacto dispar también es consistente con el propósito central de la FHA, que, como el Título VII y la ADEA, fue promulgada para erradicar las prácticas discriminatorias dentro de un sector de la economía de la Nación. (Tal vez sea de interés más investigación sobre el concepto). Las demandas contra las leyes de zonificación ilegales y otras restricciones de vivienda que injustamente excluyen a las minorías de ciertos vecindarios sin suficiente justificación se encuentran en el corazón de la responsabilidad por impactos dispares….El reconocimiento de la responsabilidad por impactos dispares bajo la FHA juega un papel importante en el descubrimiento de la intención discriminatoria: permite a los demandantes contrarrestar los prejuicios inconscientes y el ánimos disfrazado que escapan a la fácil clasificación de tratamiento dispar…” (examine más sobre todos estos aspectos en la presente plataforma online de ciencias sociales y humanidades). Bajo el fallo (la sentencia o la decisión judicial) de la Corte en Comunidades Inclusivas, para probar un caso de discriminación de vivienda de impacto dispar, debe ocurrir lo siguiente:

• En primer lugar, un demandante debe presentar un caso prima facie, estableciendo una conexión explícita y causal entre una política o práctica y el impacto dispar o disparidad estadística. Como escribió el Juez Kennedy, “Una demanda de impacto dispar basado en una disparidad estadística debe fracasar si el demandante no puede señalar la política o las políticas del demandado que causan esa disparidad”. El juez Kennedy también señaló que “las políticas no son contrarias al requisito de impacto dispar a menos que sean barreras artificiales, arbitrarias e innecesarias”.
• Segundo, el acusado (persona contra la que se dirige un procedimiento penal; véase más sobre su significado en el diccionario y compárese con el acusador, público o privado) debe tener la oportunidad de probar que la póliza es necesaria para lograr un interés válido. Si el demandado no puede probar eso, entonces el reclamo de un demandante de impacto dispar debe prevalecer.
  Finalmente, si el demandado ha demostrado que la política es necesaria para lograr un interés válido, el demandante debe entonces demostrar que existe “una alternativa disponible…. una práctica que tiene un impacto menos dispar y sirve a las necesidades legítimas[de la entidad]”. Si un demandante no puede hacerlo, entonces su demanda de impacto dispar debe fracasar.

Autor: Henry

Véase También

Inferencia causal
Discriminación en la vivienda
Discriminación indirecta (un impacto suficientemente dispar es equivalente)
Jurimétrica
Oficina de Vivienda Equitativa e Igualdad de Oportunidades
Análisis de regresión
Big data, minería de datos, algoritmos, discriminación, discriminación en el empleo, derechos civiles, tratamiento dispar, justicia procesal, justicia sustantiva, desigualdad

▷ Esperamos que haya sido de utilidad. Si conoces a alguien que pueda estar interesado en este tema, por favor comparte con él/ella este contenido. Es la mejor forma de ayudar al Proyecto Lawi.