Discriminación en Mercados Digitales

Este elemento es una profundización de los cursos y guías de Lawi. Ofrece hechos, comentarios y análisis sobre este tema. [aioseo_breadcrumbs] Los empresarios estan experimentando con ventas de todo, incluyendo automóviles, a través de la web. Algunos economistas analizaron una nueva forma de vender automóviles y encontraron que eliminaba la discriminación racial y de género que, según ellos, persiste en las ventas de automóviles fuera de línea.

De hecho, la primera generación de mercados en línea, incluyendo eBay, Amazon y Priceline, dificultaba la discriminación de los vendedores. Las transacciones se realizaron con relativo anonimato. Un usuario podía negociar una compra sin proporcionar ninguna información de identificación hasta que el vendedor hubiera aceptado el trato. Como dice una caricatura neoyorquina: “En Internet, nadie sabe que eres un perro”.

Excepto que las plataformas -y ahora sus usuarios- saben si eres blanco o negro, hombre o mujer, humano o canino. Y recientemente se ha revelado que Internet es una fuente de discriminación, no el fin de la misma: Con sus identidades descubiertas, los grupos desfavorecidos se enfrentan a muchos de los mismos retos a los que se han enfrentado durante mucho tiempo en el mundo fuera de línea, a veces agravados por la falta de regulación, la importancia que las fotos dan a la raza y al género, y el hecho de que los posibles discriminadores pueden actuar sin tener que enfrentarse nunca personalmente a sus víctimas.

¿Qué pasó y qué podemos hacer al respecto?

El surgimiento de la discriminación digital

En los primeros días del comercio electrónico, comprar en línea a menudo requería un salto de fe. Un vendedor de eBay en Florida podría publicar, por ejemplo, una tarjeta de béisbol Topps para la temporada de 1974 de Nolan Ryan con los California Angels, junto con una descripción de su estado. Un coleccionista de Massachusetts podría pujar por la tarjeta sin ser visto, sobre la base de esa descripción. (Tal vez sea de interés más investigación sobre el concepto). Una tarjeta en perfecto estado puede estar valorada en 60 dólares, pero una de orejas de perro valdría solo una fracción de eso. ¿Qué era lo que evitaba que el vendedor hiciera pasar una tarjeta bien usada por prístina? Muy poco: Un estudio de los economistas Ginger Jin y Andrew Kato encontró que a principios de la década de 2000, los comerciantes de eBay a menudo tergiversaban la calidad de las tarjetas de comercio deportivo.

El problema con el comercio electrónico temprano era que un lado del mercado tendía a saber cosas que el otro lado no sabía, como la condición de una tarjeta de béisbol, la fiabilidad y el cuidado con que se empacaban los productos, y así sucesivamente. Estos retos se plantean en todos los mercados, pero fueron especialmente graves en el caso de las plataformas en línea, por dos razones principales.Entre las Líneas En primer lugar, es más difícil superar las asimetrías de información cuando no se puede sostener un producto en la mano.Entre las Líneas En segundo lugar, los vendedores en línea eran, casi por definición, nuevos en el negocio, ya que el negocio en sí mismo había existido durante solo unos pocos años. No había marcas establecidas, como Sotheby’s y Sears, para asegurar a los compradores que no serían engañados.

Con el tiempo, las revisiones de los compradores y otros comentarios han permitido que los vendedores de comercio electrónico adquieran una buena reputación. (Tal vez sea de interés más investigación sobre el concepto). Pero, ¿por qué detenerse a recolectar retroalimentación cuando tanta información potencialmente útil podría ser extraída de las identidades de compradores y vendedores? Por ejemplo, en un estudio realizado en 2012 sobre préstamos entre pares por Jefferson Duarte, Stephan Siegel y Lance Young, los sujetos calificaron la confiabilidad de los prestatarios potenciales después de ver fotografías de ellos. Resultó que las personas que “parecen dignas de confianza” eran más propensas a que se les concedieran sus solicitudes de préstamo. Y lo que es más sorprendente, también eran más propensos a pagar los préstamos. Esto implicaba que si este tipo de información de grano fino podía ayudar a los participantes en el mercado a evaluar las perspectivas de una transacción, tenía sentido proporcionarla.

En los sitios web de servicios que van desde el freelance hasta el paseo compartido y el paseo de perros, muchos vendedores tienen ahora la discreción sobre con quién hacen negocios en base a su apariencia o incluso a su nombre. La disponibilidad de dicha información es específica para cada plataforma, ya que algunos sitios conservan bastante anonimato, mientras que otros se remiten a prácticas prohibidas desde hace mucho tiempo en los mercados fuera de línea. Del mismo modo, en muchos sitios, incluyendo Etsy y CustomMade, los compradores potenciales no solo ven los productos, sino también los nombres y las fotos de los vendedores. Aunque tener detalles sobre posibles socios de transacción puede hacer que las personas se sientan más cómodas, cada vez hay más pruebas de que facilita la discriminación.

El mercado de alquiler a corto plazo (véase más detalles en esta plataforma general) Airbnb es un buen ejemplo de la aparición de la discriminación en los mercados en línea y de la forma en que las opciones de diseño influyen en su alcance. Cuando un aspirante a inquilino busca listados, ve descripciones y fotos tanto de la propiedad como del anfitrión. (Tal vez sea de interés más investigación sobre el concepto). Y los anfitriones pueden ver los nombres -y en muchos casos las fotos- de los posibles inquilinos antes de aceptarlos o rechazarlos.

Los investigadores han documentado la discriminación racial en una variedad de áreas en línea, desde el mercado laboral hasta las solicitudes de crédito y la vivienda. Es posible gracias a dos características: los marcadores de raza, las fotografías más obvias, pero también los indicadores más sutiles, como los nombres, y la discreción por parte de los participantes del mercado con los que realizan transacciones. Como veremos en la siguiente sección, ambas son opciones tomadas por los diseñadores de plataformas.

Otra característica del comercio en línea ha fomentado a veces, también de forma contradictoria, en lugar de suprimir la discriminación: el uso de algoritmos y de grandes datos. Los resultados de búsqueda que Google ofrece, los libros que sugiere Amazon y las películas que Netflix recomienda son todos ejemplos de máquinas que reemplazan el juicio humano imperfecto sobre lo que los clientes quieren. Es tentador asumir que eliminar el juicio humano también eliminaría el sesgo humano.Si, Pero: Pero ese no es el caso.

De hecho, la discriminación generada por algoritmos ocurre de maneras que los humanos probablemente evitarían.Entre las Líneas En un estudio revelador, la profesora de ciencias de la computación Latanya Sweeney trató de entender el papel de la raza en los anuncios de Google (examine más sobre estas cuestiones en la presente plataforma online de ciencias sociales y humanidades). Buscó nombres afroamericanos comunes -como Deshawn y, bueno, Latanya- y grabó los anuncios que aparecieron con los resultados. Luego buscó nombres, como Geoffrey, que son más comunes entre los blancos. Las búsquedas de nombres con sonido negro fueron más propensas a generar anuncios que ofrecieran investigar posibles registros de arrestos.

Por supuesto, Google no se propuso mostrar anuncios de registros de arrestos a personas que buscaban nombres afroestadounidenses. Esto se debe a que un algoritmo “decidió”, sobre la base de búsquedas anteriores, que es más probable que alguien que busca a “Deshawn” que alguien que busca a “Geoffrey” haga clic en un anuncio relacionado con un arresto (y, por lo tanto, genere ingresos para Google). Es decir, la elección fue hecha, aunque sin saberlo, por los diseñadores de algoritmos de Google.

Hacia un diseño de mercado más inteligente

Las plataformas, incluso cuando están en la misma industria, a menudo difieren en sus características de diseño, lo que puede llevar a diferentes niveles de vulnerabilidad a la discriminación. (Tal vez sea de interés más investigación sobre el concepto). Tome la decisión de si publicar o no imágenes de usuario y cuándo hacerlo. Uber no proporciona a los conductores fotos de pasajeros potenciales, pero su competidor Lyft sí. Esto hace que Uber sea menos vulnerable que Lyft a la discriminación por parte de los conductores. Del mismo modo, la página principal de resultados de búsqueda del mercado de alquileres de vacaciones HomeAway muestra solo fotos de la propiedad en alquiler y retiene las fotos del host hasta una página posterior (si es que las muestra), mientras que Airbnb exige que los hosts incluyan fotos de sí mismos en su página principal de resultados de búsqueda.

Las empresas también tienen diferentes enfoques para investigar la posible discriminación y tomar medidas correctivas. Por ejemplo, eBay trabajó con un equipo de psicólogos sociales para explorar si los vendedores masculinos obtienen precios más altos que las vendedoras femeninas por artículos similares (lo hacen).

Puntualización

Sin embargo, lo más común es que las empresas eviten el problema. Aunque muchos ejecutivos reconocen que la discriminación ocurre y expresan interés en reducirla, hemos visto pocos esfuerzos serios como el de eBay para medir su alcance.

Una Conclusión

Por lo tanto, los investigadores que deseen estudiar la discriminación en línea deben llevar a cabo sus propios experimentos o raspar datos decididamente imperfectos de los sitios web. (Y sabemos de casos en los que los abogados de la compañía han ido tras tales esfuerzos en un intento de bloquear la investigación relacionada con la raza.)

El sesgo generado por algoritmos ocurre de maneras que los humanos probablemente evitarían.

Incluso las empresas con las mejores intenciones pueden no elegir el mejor enfoque para luchar contra la discriminación, porque, hasta donde sabemos, no existe ningún sistema para pensar en las opciones de diseño disponibles y sus implicaciones. Nuestro objetivo en lo que sigue es ofrecer un marco para las empresas que desean diseñar y gestionar un mercado próspero, minimizando al mismo tiempo el riesgo de discriminación.

No esperamos que todos los diseñadores de mercado tomen las mismas decisiones. Así como los competidores hacen diferentes elecciones de diseño sobre otras situaciones (por ejemplo, Lyft permite a los pilotos dar propina a través de su aplicación, pero Uber no lo hace), ellos harán diferentes elecciones sobre cómo enfrentar la discriminación; entre otras razones, ponen diferentes primas para evitar la discriminación (aunque creemos que las plataformas deberían mantener un alto nivel en este sentido). Nuestro objetivo es ayudar a los diseñadores a considerar plenamente las implicaciones y las ventajas y desventajas de sus opciones de diseño.

No ignore el potencial de discriminación

Las plataformas deben comenzar con un seguimiento más cuidadoso. Actualmente, la mayoría desconoce la composición racial y de género de los participantes en sus transacciones. Un informe regular (y una auditoría ocasional) sobre la raza y el género de los usuarios, junto con medidas del éxito de cada grupo en la plataforma, es un paso necesario (aunque no suficiente) para revelar y confrontar cualquier problema. Puede arrojar luz sobre los ámbitos en los que la discriminación es un problema y revelar los progresos realizados a lo largo del tiempo. También puede ser un primer paso de buena fe para reducir la discriminación. (Tal vez sea de interés más investigación sobre el concepto). Por ejemplo, Airbnb debería informar regularmente de las tasas de aceptación de los huéspedes desglosadas por factores como la raza y el sexo. Hacer pública esta información ayudaría a concienciar a los usuarios y a los reguladores y a mantener la presión sobre las empresas para que se ocupen seriamente de los problemas de discriminación que surgen a medida que evolucionan sus plataformas. (La divulgación pública de datos relacionados con la discriminación es una dimensión en la que las políticas anunciadas por Airbnb son muy insuficientes, pero es necesario garantizar que los objetivos amplios y loables de la empresa se traduzcan en resultados concretos).

Mantener una mentalidad experimental

Las plataformas deben hacer lo que mejor saben hacer: experimentar. Compañías como Facebook, Yelp y eBay han fomentado el pensamiento experimental en el desarrollo de nuevos productos y funciones. Para probar las opciones de diseño que pueden, junto con otras intervenciones, influir en el alcance de la discriminación, las empresas deben realizar ensayos controlados aleatorios. Airbnb debería ser aplaudido por un reciente experimento de retener fotos de los huéspedes de su página principal de resultados de búsqueda para explorar los efectos sobre los resultados de las reservas (aunque no ha hecho públicos los resultados).

¿Está proporcionando demasiada información?

En muchos casos, el cambio más simple y efectivo que una plataforma puede hacer es retener información potencialmente sensible del usuario, como la raza y el género, hasta después de que se haya acordado una transacción. (Tal vez sea de interés más investigación sobre el concepto). Algunas plataformas, como Amazon y eBay, ya lo hacen. Para muchos otros, sin embargo, significaría apartarse de la forma en que hacen negocios. Un ejecutivo de una plataforma con una valoración de mil millones de dólares nos dijo que su empresa nunca consideraría eliminar fotos o nombres.

Además de elegir qué información revelar, las plataformas eligen qué tan destacada es. Y una gran cantidad de pruebas ha demostrado que la importancia de la importancia.Entre las Líneas En algunas plataformas, por ejemplo, los gastos de envío son independientes del precio base y menos importantes que éste.Entre las Líneas En un experimento influyente, algunos economistas demostraron que en esta situación, un precio base más bajo aumenta la probabilidad de que un artículo se venda, incluso cuando se compensa con un cargo de envío más alto.Entre las Líneas En otras palabras, un cliente está influenciado no solo por la información que ve sino también por la información que es más prominente.

Para ver cómo se puede aplicar esta idea, recuerde la comparación de Airbnb, que muestra las fotos del host en su página principal de resultados de búsqueda, y HomeAway, que no. (En septiembre, Airbnb declaró que probará formas alternativas de presentar fotos y otra información relevante para la raza, aunque no se comprometió con los detalles). Al reducir la importancia de la raza, las plataformas podrían reducir la discriminación.

¿Podría automatizar aún más el proceso de transacción?

Cuando utilice Uber, toque la pantalla para pedir un viaje; solo después de confirmarlo sabrá quién lo recogerá.Entre las Líneas En teoría, puede cancelar si no le gusta la calificación o el aspecto del conductor.Si, Pero: Pero eso requiere esfuerzo, y este pequeño “costo de transacción” es probablemente suficiente para disuadir a la mayoría de las cancelaciones basadas en la apariencia. Uber podría fácilmente haber permitido a los pilotos ver al conductor antes de tocar confirmar o cancelar, pero decidió no hacerlo.

Basado en la experiencia de varios autores, mis opiniones, perspectivas y recomendaciones se expresarán a continuación (o en otros lugares de esta plataforma, respecto a las características en 2026 o antes, y el futuro de esta cuestión):

El hecho de que las transacciones ocurran antes de que se revelen la raza y el género hace que sea más difícil para las personas discriminar. Considere la función Airbnb conocida como “libro instantáneo”, diseñada para hacer la reservación más simple y conveniente. Un anfitrión que lo usa permite a los inquilinos reservar su propiedad sin que ella lo haya aprobado primero. El libro instantáneo es una función de inclusión voluntaria: Los propietarios deben inscribirse.

Más Información

Las investigaciones han demostrado que el sesgo de incumplimiento es fuerte: La mayoría de los hosts usarán cualquier opción que esté configurada como predeterminada. Si Airbnb cambiara su predeterminado a libro instantáneo, lo que requeriría que los anfitriones optaran activamente por no participar, lo más probable es que se redujera la discriminación. (Tal vez sea de interés más investigación sobre el concepto). La compañía podría incluso considerar hacer que los anfitriones paguen por el privilegio de seleccionar a los clientes; por ejemplo, podría cobrar una prima por optar por no participar en el libro instantáneo. (En septiembre la compañía anunció que aceleraría el uso del libro instantáneo, aunque no especificó cómo lo lograría).

Creemos que una mayor automatización e incentivos económicos estándar, cuidadosamente implementados, podrían reducir la discriminación y, al eliminar algunos de los vaivenes necesarios para completar una transacción, aumentar las ganancias en una variedad de plataformas.

¿Podría hacer que las políticas de discriminación sean más directas?

En un estudio de 2012, el equipo de investigación se propuso probar si algo tan simple como la ubicación de una firma en un formulario podría afectar la honestidad. Observaron que a menudo se pide a las personas que rellenen la información y luego firmen al final para atestiguar su veracidad. Se preguntaban si sería menos probable que la gente hiciera trampas si firmaban al principio del formulario, antes de rellenarlo. De hecho, firmar en la cima condujo a menos trampas tanto en un experimento de laboratorio como en un experimento del mundo real con una compañía de seguros de automóviles. También funcionó en el contexto de las declaraciones de impuestos.

Aquí hay una lección para los mercados: Si usted quiere que la gente haga algo, piense cuidadosamente en cuándo pedirle que lo haga. La mayoría de las plataformas tienen políticas que prohíben la discriminación, pero están enterradas en letra pequeña. Por ejemplo, los anfitriones de Airbnb deben comprometerse a no discriminar, pero lo hacen cuando se inscriben por primera vez para ser propietarios.Entre las Líneas En el momento en que un anfitrión está decidiendo si acepta o no a una posible inquilina, probablemente ha olvidado ese acuerdo. Los mercados podrían presentar políticas antidiscriminatorias en un momento más relevante y contar con el acuerdo del anfitrión de no discriminar durante el proceso de transacción real. Algunas personas seguirían violando las políticas, por supuesto, pero eso requeriría una elección mucho más consciente.

¿Deben sus algoritmos ser conscientes de la discriminación?

Las opciones de diseño también determinan hasta qué punto un algoritmo conduce a la discriminación. (Tal vez sea de interés más investigación sobre el concepto). Hasta ahora, muchos diseñadores de algoritmos han ignorado factores como la raza y el género y han esperado lo mejor.Si, Pero: Pero en muchos casos la probabilidad de que un algoritmo logre la igualdad sin querer es esencialmente nula; recuerde cómo los algoritmos de Google manejaban los anuncios para los registros de arrestos.

Si un diseñador de algoritmos se preocupa por la imparcialidad, necesita hacer un seguimiento de cómo afecta la raza o el género a la experiencia del usuario y establecer objetivos explícitos. ¿Quiere asegurarse de que los clientes negros no sean rechazados con tarifas más altas que los blancos? ¿Que a las mujeres se les ofrecen los mismos precios que a los hombres?

Google modificó su algoritmo en respuesta al estudio del registro de detenciones, pero las empresas pueden supervisar y responder de forma proactiva a estos problemas. Esto podría suponer una compensación por la discriminación de algunos usuarios. Por ejemplo, supongamos que Uber se dio cuenta de que algunos pasajeros constantemente daban bajas calificaciones a los conductores negros que recibían cinco estrellas de la mayoría de sus otros pasajeros. La compañía podría subponderar las calificaciones de los pasajeros -que se han revelado discriminatorios- al calcular las puntuaciones generales.

Autor: Black

▷ Esperamos que haya sido de utilidad. Si conoces a alguien que pueda estar interesado en este tema, por favor comparte con él/ella este contenido. Es la mejor forma de ayudar al Proyecto Lawi.