Garantindo que seus produtos não sejam usados para discriminação

As crises geralmente levam as pessoas a procurar "alguém" para culpar, e a culpa geralmente recai sobre grupos étnicos ou religiosos marginalizados. Eventos trágicos levaram a campos de internamento de japoneses durante a Segunda Guerra Mundial e ao sentimento antimuçulmano após o 11/9, No contexto da Covid-19, nossa pesquisa em andamento descobriu que o bode expiatório racial e o sentimento anti-asiático durante o estágio inicial da pandemia causaram danos emocionais e econômicos. Analisando centenas de milhares de reservas no Airbnb, descobrimos que houve um pico de discriminação contra usuários asiático-americanos do Airbnb no início da pandemia. Os líderes empresariais precisam estar cientes desses riscos. Eles também precisam de ferramentas para identificar, medir e mitigar o preconceito, além de uma abordagem proativa que antecipe e identifique a discriminação. Neste artigo, apresentamos uma visão geral de nossa pesquisa, com foco no Airbnb como um estudo de caso. Em seguida, apresentamos uma estrutura para que os líderes ajudem a criar ambientes menos suscetíveis a preconceitos. Aumento da discriminação contra asiático-americanos Analisamos os dados do Inside AirBnB, um projeto que fornece dados e defesa de direitos sobre o impacto do Airbnb em comunidades residenciais. Estudamos mais de 300.000 estadias no Airbnb em 17.000 anfitriões. Usamos algoritmos estatísticos para inferir a raça dos anfitriões com base em seus nomes - uma abordagem que propusemos como parte de um kit de ferramentas para medir a discriminação em plataformas e que agora é usada por empresas como a Uber. Combinamos isso com dados granulares sobre características de anúncios, preços e informações de reserva. Os resultados foram impressionantes: Identificamos um grande e rápido pico de discriminação contra anfitriões asiático-americanos ao longo de 2020. Embora todos os anfitriões tenham sido afetados pela pandemia, o impacto sobre os anfitriões asiático-americanos foi muito maior em relação aos anfitriões brancos, hispânicos e negros. Nossos resultados sugerem que o pico de discriminação fez com que os anfitriões asiático-americanos perdessem cerca de 12% de seus hóspedes durante a pandemia. Uma explicação para esse declínio poderia ser o fato de os anfitriões asiático-americanos terem sido mais seletivos por medo do risco de contrair o vírus. No entanto, nossos resultados foram consistentes até mesmo entre os anfitriões "instantaneamente reserváveis", que aceitam automaticamente todas as solicitações de reserva, sugerindo que qualquer queda nas reservas - em relação a outras propriedades de reserva instantânea - pode ser atribuída a decisões dos hóspedes. Descobrimos que a discriminação era generalizada, afetando tanto os anfitriões mais novos quanto os mais experientes, e levou a uma queda nos negócios até mesmo para os anfitriões asiático-americanos do com forte reputação na plataforma. Em contrapartida, os anfitriões negros ou hispano-americanos não sofreram nenhuma queda significativa nos negócios durante a pandemia, em relação aos anfitriões brancos. A redução no número de hóspedes é evidente apenas para os anfitriões asiático-americanos, o principal grupo bode expiatório durante a pandemia de Covid-19. Muito antes da pandemia de Covid-19, já havia evidências de discriminação no Airbnb. Uma pesquisa realizada por um de nós (Mike, juntamente com os colaboradores Ben Edelman e Dan Svirsky) documentou a discriminação contra anfitriões e hóspedes afro-americanos. Essa pesquisa começou há mais de oito anos e deu início a um novo corpo de literatura que documenta e fornece ferramentas para combater a discriminação nos mercados on-line. Os comportamentos discriminatórios são facilitados, em parte, pela presença de informações que revelam a raça, geralmente nomes ou fotos. Recentemente, o Airbnb enfrentou processos judiciais de usuários que sofreram discriminação com base em seus nomes - uma possibilidade que foi levantada em nossa pesquisa anterior. De forma mais ampla, em contextos que variam de mercados on-line a processos de contratação, a remoção desses marcadores quando ocorre discriminação tem sido uma abordagem para atenuar o preconceito. O Airbnb deu passos importantes na direção certa. Depois de 2015, o Airbnb começou a remover as fotos dos anfitriões das principais páginas de resultados de pesquisa e, em 2018, removeu a possibilidade de os anfitriões visualizarem as fotos dos hóspedes até que as decisões de reserva fossem tomadas. No entanto, as fotos e os nomes dos anfitriões ainda são exibidos nas páginas de anúncios, o que acreditamos ter levado ao aumento da discriminação que documentamos em nossa pesquisa. Construindo um ecossistema de negócios mais inclusivo Os líderes empresariais devem tomar medidas para garantir que suas decisões de negócios e produtos não facilitem a discriminação. Felizmente, há um kit de ferramentas cada vez maior para os líderes que desejam criar uma empresa - e uma sociedade - mais inclusiva. Aqui, apresentamos quatro etapas que todo líder deve seguir para atingir esse objetivo. 1. Não negue que houve discriminação (se houver). Os líderes devem reconhecer que o preconceito ainda é generalizado na sociedade moderna e que eles podem desempenhar um papel importante para ajudar a entender e reduzir o preconceito. Isso começa com a reflexão sobre como isso pode se manifestar em sua organização. Como o preconceito pode afetar seus clientes, seus funcionários e suas operações? Como suas decisões vão exacerbar ou atenuar a discriminação? Também é importante entender que o preconceito evolui. Em tempos de crise, é especialmente importante pensar sobre os tipos de preconceito que também podem estar aumentando. O Airbnb ficou surpreso com nossos resultados mais recentes e se comprometeu a explorar mais a questão. Depois desse projeto, Mike recebeu uma ligação de um consultor sênior da empresa perguntando o que achávamos que eles deveriam fazer. Pode ser difícil prever o cenário de discriminação em evolução. E há executivos no Airbnb que parecem genuinamente interessados em reduzir a discriminação na plataforma. Mas eles poderiam ter identificado esse problema mais cedo se tivessem reconhecido o aumento do sentimento anti-asiático e como isso poderia afetar sua plataforma. 2. Avalie a discriminação sempre que possível. Pode ser doloroso para as empresas se olharem no espelho e pensarem sobre a discriminação que está ocorrendo em suas organizações, seja em suas contratações ou em suas plataformas. No entanto, essa é uma etapa importante para lidar com a discriminação. Em nossa análise do Airbnb, medimos a discriminação na plataforma observando os nomes dos anfitriões. Outras abordagens incluem a codificação de fotos, o que Mike fez em um estudo de 2014 conduzido com Benjamin Edelman (e novamente em um projeto posterior), e o levantamento de usuários para entender sua etnia. As empresas também podem analisar as reclamações que recebem. Por exemplo, após uma pesquisa anterior, Mike recebeu um e-mail de um usuário do Airbnb que descreveu ter sido discriminado no Airbnb. Sua reclamação foi descartada pelo departamento de atendimento ao cliente do Airbnb. Em vez disso, eles deveriam ter reconhecido a reclamação e analisado sistematicamente se havia padrões mais amplos de discriminação nas reclamações. 3. Torne sua empresa o mais à prova de discriminação possível. Um conjunto crescente de ferramentas foi desenvolvido nos últimos anos com o objetivo de reduzir o preconceito em diferentes contextos. Em alguns casos, isso pode envolver o aumento do anonimato (por exemplo, no contexto do Airbnb - isso envolveria mostrar a identidade dos hóspedes e anfitriões somente depois que uma decisão de reserva fosse tomada) - uma solução que propusemos e estudamos ao longo dos anos. Isso também pode envolver o uso cuidadoso da automação e de auxílios algorítmicos à decisão (isso deve ser feito com cuidado, pois os algoritmos também têm o potencial de reforçar ou exacerbar preconceitos ). Além disso, as empresas podem pensar no design de seus ecossistemas de forma mais ampla, concentrando-se na criação de processos inclusivos para tudo, desde contratações e promoções até a experiência na plataforma e o design do produto 4. Faça experiências e refine seus processos. É tentador pensar na discriminação como um problema a ser resolvido uma única vez. No entanto, abordar essas questões complexas é um processo contínuo, não um problema que possa ser resolvido de uma só vez. Nesse caso, a experimentação pode ajudar os líderes a desenvolver estruturas para reduzir a discriminação ao longo do tempo e responder aos desafios contínuos. As empresas precisam incluir a possibilidade de discriminação em suas análises experimentais. Quando são feitas mudanças no produto, elas devem, naturalmente, pensar no efeito não apenas sobre as métricas de produtividade de curto prazo (que são comumente rastreadas e avaliadas), mas também sobre as métricas de inclusão - e se a mudança aumentou o preconceito. Os líderes podem pensar nisso como se estivessem colocando grades de proteção. Além disso, eles também devem usar experimentos para testar diferentes ideias, para ver quais são as mais eficazes na redução da discriminação. Nesse caso, gostaríamos de indicar o experimento em andamento do Airbnb no Oregon. Quando hóspedes residentes no estado solicitam a reserva de um imóvel, o anfitrião vê apenas as iniciais do possível hóspede, em vez do nome completo. Por exemplo, uma solicitação de reserva de Jamal Smith e uma solicitação de reserva de James Smith seriam exibidas como uma solicitação de reserva de JS. Esse experimento foi realizado em resposta a uma ação judicial, na qual três usuários acusaram a plataforma de discriminação. Embora existam limitações no design do experimento, ele avança na direção certa de testar e implementar sistematicamente estratégias para reduzir o preconceito. Os líderes empresariais não podem simplesmente ficar à margem quando se trata de abordar questões sociais. As questões sociais são questões de negócios. Seja com foco no design de uma plataforma ou na gestão de funcionários, os líderes precisam criar um ecossistema robusto que preveja o potencial de discriminação. Se uma organização for suscetível à discriminação antes de uma crise, será mais difícil conter a disseminação da discriminação quando crises e tensões raciais inevitavelmente ocorrerem no mundo. E, quando as crises acontecem, os líderes precisam entrar em ação e responder rapidamente.

Garantindo que seus produtos não sejam usados para discriminação

Resumo.

Partner Center