Asegurarse de que sus productos no se utilizan para discriminar

Las crisis suelen llevar a la gente a buscar a "alguien" a quien culpar, y la culpa suele recaer en grupos étnicos o religiosos marginados. Sucesos trágicos condujeron a los campos de internamiento de japoneses durante la Segunda Guerra Mundial y al sentimiento antimusulmán tras el 11-S, En el contexto del Covid-19, nuestra investigación en curso ha descubierto que el chivo expiatorio racial y el sentimiento antiasiático durante la fase inicial de la pandemia causaron daños tanto emocionales como económicos. Observando cientos de miles de reservas en Airbnb, descubrimos que hubo un pico de discriminación contra los usuarios asiático-americanos de Airbnb al principio de la pandemia. Los líderes empresariales deben ser conscientes de estos riesgos. También necesitan herramientas para identificar, medir y mitigar los prejuicios, así como un enfoque proactivo que anticipe e identifique la discriminación. En este artículo, ofrecemos una visión general de nuestra investigación, centrándonos en Airbnb como estudio de caso. A continuación, proporcionamos un marco para que los líderes ayuden a crear entornos que sean menos susceptibles al sesgo. Aumento de la discriminación contra los estadounidenses de origen asiático Analizamos los datos de Inside AirBnB, un proyecto que proporciona datos y defensa sobre el impacto de Airbnb en las comunidades residenciales. Estudiamos más de 300.000 estancias en Airbnb de 17.000 anfitriones. Utilizamos algoritmos estadísticos para inferir la raza de los anfitriones basándonos en sus nombres, un enfoque que hemos propuesto como parte de un conjunto de herramientas para medir la discriminación en las plataformas y que ahora utilizan empresas como Uber. Combinamos esto con datos granulares sobre las características de los anuncios, los precios y la información de las reservas. Los resultados fueron sorprendentes: Identificamos un pico grande y rápido de discriminación contra los anfitriones asiático-americanos a lo largo de 2020. Aunque todos los anfitriones se vieron afectados por la pandemia, el impacto en los anfitriones asiático-americanos fue mucho mayor en relación con los anfitriones blancos, los anfitriones hispanos y los anfitriones negros. Nuestros resultados sugieren que el pico de discriminación hizo que los anfitriones asiático-americanos perdieran alrededor del 12% de sus huéspedes durante la pandemia. Una explicación de este descenso podría ser que los anfitriones asiático-americanos fueron más selectivos por miedo al riesgo de contraer el virus. Sin embargo, nuestros resultados fueron coherentes incluso entre los anfitriones de "reserva instantánea", que aceptan automáticamente todas las solicitudes de reserva, lo que sugiere que cualquier descenso en las reservas -respecto a otras propiedades de reserva instantánea- puede atribuirse a las decisiones de los huéspedes. Descubrimos que la discriminación era generalizada, afectaba tanto a los anfitriones más nuevos como a los más experimentados y, provocaba un descenso del negocio incluso en los anfitriones asiático-americanos de con una sólida reputación en la plataforma. Por el contrario, los anfitriones negros o hispanoamericanos no experimentaron ningún descenso significativo del negocio durante la pandemia, en relación con los anfitriones blancos. La reducción del número de huéspedes sólo es evidente en el caso de los anfitriones asiático-americanos, el principal grupo chivo expiatorio durante la pandemia de Covid-19. Mucho antes de la pandemia de Covid-19, existían pruebas de discriminación en Airbnb. Una investigación realizada por uno de nosotros (Mike, junto con los colaboradores Ben Edelman y Dan Svirsky) documentó la discriminación contra anfitriones y huéspedes afroamericanos. Esta investigación comenzó hace más de ocho años, y dio el pistoletazo de salida a un nuevo cuerpo de literatura que documenta, y proporciona herramientas para combatir, la discriminación en los mercados en línea. Los comportamientos discriminatorios se ven facilitados, en parte, por la presencia de información que revela la raza, normalmente nombres o fotos. Airbnb se ha enfrentado recientemente a demandas de usuarios que han sufrido discriminación basada en su nombre, una posibilidad que se ha planteado en nuestra investigación anterior. En términos más generales, en contextos que van desde los mercados en línea a los procesos de contratación, la eliminación de tales marcadores cuando se produce discriminación ha sido un enfoque para mitigar el sesgo. Airbnb ha dado pasos importantes en la dirección correcta. Después de 2015, Airbnb empezó a eliminar las fotos de los anfitriones de las principales páginas de resultados de búsqueda, y en 2018 eliminó la posibilidad de que los anfitriones vieran las fotos de los huéspedes hasta después de que se tomaran las decisiones de reserva. Sin embargo, las fotos y los nombres de los anfitriones siguen apareciendo en las páginas de anuncios, que es lo que creemos que provocó el repunte de la discriminación que documentamos en nuestra investigación. Construir un ecosistema empresarial más inclusivo Los líderes empresariales deben tomar medidas para garantizar que sus decisiones empresariales y de producto no faciliten la discriminación. Afortunadamente, existe un conjunto de herramientas cada vez mayor para los líderes que desean crear una empresa -y una sociedad- más inclusiva. Aquí exponemos cuatro pasos que todo líder debería dar para trabajar en pos de este objetivo. 1. No niegue que ha habido discriminación (si es que la ha habido). Los líderes deben reconocer que los prejuicios siguen siendo omnipresentes en la sociedad moderna, y que pueden desempeñar un papel para ayudar a comprenderlos y reducirlos. Esto empieza por pensar en cómo podría manifestarse dentro de su organización. ¿Cómo podrían afectar los prejuicios a sus clientes, a sus empleados y a sus operaciones? ¿Cómo van a exacerbar o mitigar la discriminación sus decisiones? También es importante comprender que los prejuicios evolucionan. En tiempos de crisis, es especialmente importante pensar en los tipos de prejuicios que también podrían aumentar. A Airbnb le sorprendieron nuestros resultados más recientes y se ha comprometido a seguir estudiando la cuestión. Después de este proyecto, Mike recibió una llamada de un alto consultor de la empresa preguntándole qué pensábamos que debían hacer. Puede resultar difícil anticiparse a la evolución del panorama de la discriminación. Y hay ejecutivos en Airbnb que parecen realmente interesados en reducir la discriminación en la plataforma. Pero podrían haber identificado este problema antes si hubieran reconocido el aumento del sentimiento antiasiático y cómo esto podría afectar a su plataforma. 2. Mida la discriminación cuando sea posible. Puede resultar doloroso para las empresas mirarse en el espejo y pensar en la discriminación que se está produciendo en sus organizaciones, ya sea en sus contrataciones o en sus plataformas. Sin embargo, se trata de un paso importante para abordar la discriminación. En nuestro análisis de Airbnb, medimos la discriminación en la plataforma fijándonos en los nombres de los anfitriones. Otros enfoques incluyen la codificación de fotos, algo que Mike hizo en un estudio de 2014 realizado con Benjamin Edelman (y de nuevo en un proyecto posterior), y encuestar a los usuarios para conocer su origen étnico. Las empresas también pueden fijarse en las quejas que reciben. Por ejemplo, tras una investigación anterior, Mike recibió un correo electrónico de un usuario de Airbnb que describía haber sido discriminado en Airbnb. Su queja fue desestimada por el servicio de atención al cliente de Airbnb. En lugar de eso, deberían haberlo reconocido y haber analizado sistemáticamente si había patrones más amplios de discriminación en las quejas. 3. Haga que su empresa sea lo más a prueba de discriminación posible. En los últimos años se ha desarrollado un conjunto cada vez mayor de herramientas destinadas a reducir los prejuicios en diferentes contextos. En algunos casos, esto puede implicar aumentar el anonimato (por ejemplo, en el contexto de Airbnb, esto implicaría mostrar la identidad de los huéspedes y anfitriones sólo después de que se haya tomado una decisión de reserva), una solución que hemos propuesto y estudiado a lo largo de los años. Esto también puede implicar un uso cuidadoso de la automatización y de las ayudas algorítmicas para la toma de decisiones (esto debe hacerse con cuidado, ya que los algoritmos también tienen el potencial de reforzar o exacerbar los sesgos ). Y, las empresas pueden pensar en el diseño de sus ecosistemas de forma más amplia, centrándose en el diseño de procesos inclusivos para todo, desde la contratación y los ascensos hasta su experiencia en la plataforma y el diseño del producto 4. Experimente y perfeccione sus procesos. Resulta tentador pensar en la discriminación como un problema que hay que resolver una sola vez. Pero, abordar estas cuestiones complejas es un proceso continuo, no un problema que pueda solucionarse de una vez. En este caso, la experimentación puede ayudar a los líderes a desarrollar marcos para reducir la discriminación a lo largo del tiempo y responder a los retos continuos. Las empresas deben incluir la posibilidad de discriminación en sus análisis experimentales. Cuando se introducen cambios en los productos, deben pensar de forma rutinaria en el efecto no sólo en las métricas de productividad a corto plazo (que suelen ser objeto de seguimiento y evaluación), sino también en las métricas de inclusividad, y en si el cambio aumentó el sesgo. Los líderes pueden pensar en esto como en poner guardarraíles. Además de esto, también deberían utilizar experimentos para probar diferentes ideas, para ver cuáles son las más eficaces a la hora de reducir la discriminación. En este caso, señalaríamos el experimento que Airbnb está llevando a cabo en Oregón. Cuando los huéspedes residentes en el estado solicitan reservar una propiedad, el anfitrión sólo ve las iniciales del posible huésped, en lugar de su nombre completo. Por ejemplo, una solicitud de reserva de Jamal Smith y una solicitud de reserva de James Smith se mostrarían ambas como una solicitud de reserva de JS. Este experimento se realizó en respuesta a una demanda, en la que tres usuarios acusaban a la plataforma de discriminación. Aunque el diseño del experimento tiene sus limitaciones, va en la buena dirección de probar y aplicar sistemáticamente estrategias para reducir los prejuicios. Los líderes empresariales no pueden quedarse al margen cuando se trata de abordar cuestiones sociales. Las cuestiones sociales son cuestiones empresariales. Tanto si se centran en el diseño de una plataforma como en la gestión de los empleados, los líderes deben crear un ecosistema sólido que anticipe el potencial de discriminación. Si una organización es susceptible a la discriminación antes de una crisis, será más difícil contener la propagación de la discriminación cuando las crisis y las tensiones raciales se produzcan inevitablemente en el mundo. Y, cuando las crisis golpean, los líderes necesitan entrar en acción y responder rápidamente.

Asegurarse de que sus productos no se utilizan para discriminar

Resumen.

Partner Center