Como as empresas podem mitigar os danos da desigualdade provocada pela IA

Depois de mais de dois anos de desenvolvimento e agitação, as manchetes ainda prometem que a IA está introduzindo mudanças sociais de proporções revolucionárias. Enquanto isso, há uma inquietação persistente sobre a fragilidade socioeconômica que a tecnologia pode causar. Os ganhadores do Prêmio Nobel, como Daron Acemoglu, do MIT, estão preocupados com sua capacidade de piorar as desigualdades de renda, e os trabalhadores americanos comuns estão ansiosos com o impacto da IA nos empregos. Na verdade, a confiança na TI vem diminuindo, apesar das melhorias em seu desempenho. Uma das principais fontes do desconforto com a IA é um fenômeno sistêmico que chamo de "desigualdade artificial", no qual o avanço da IA torna ainda piores as desigualdades existentes nas sociedades. A TI faz isso concentrando as oportunidades e os resultados socioeconômicos em segmentos estreitos da sociedade e privando outros. Infelizmente, a desigualdade artificial é complexa e pode ser difícil de corrigir. Em minha pesquisa sobre o impacto da IA em uma série de questões sociais - empregos que são vulneráveis a gerar disrupção, impacto climático da IA e regiões que podem se beneficiar mais com o desenvolvimento da IA -descobri seis "divisões" distintas que contribuem para a desigualdade artificial: dados, renda, uso, geografia, setor e energia. Essas divisões geralmente se reforçam mutuamente. Por exemplo, alguém com maior probabilidade de ser prejudicado por vieses nos dados também pode ter menor probabilidade de se beneficiar das ferramentas de produtividade de IA e ser desproporcionalmente afetado por custos mais altos de energia. Neste momento, a solução mais natural - regulamentação e intervenção política - provavelmente será despriorizada. Nos EUA, o líder mundial em IA, espera-se que o governo Trump desregulamente e deixe de lado as barreiras de proteção para a IA. Até mesmo a UE, que possui uma sólida estrutura regulatória, está enviando sinais de que prioriza a "ação" e a "oportunidade" em detrimento da proteção dos usuários. A notícia positiva é que os líderes das empresas podem agir para mitigar os riscos da desigualdade artificial entre as seis divisões. A desigualdade artificial pode ser prejudicial tanto para os produtores quanto para os adotantes de IA, e as empresas precisam agir onde puderem. Há três alavancas que os líderes empresariais podem acionar: Tecnologias: Embora as novas ferramentas possam criar novos problemas, elas também podem ajudar a resolvê-los. As empresas precisam saber como sua tecnologia funciona e onde ela pode falhar, e quais novas ferramentas podem ajudá-las a atingir seus objetivos de forma responsável. Instituições: As empresas não precisam fazer esse trabalho sozinhas. Elas devem procurar organizações terceirizadas que possam atuar como parceiras e práticas e estruturas externas que possam ajudá-las a aprender e se adaptar. Mercados: Embora a maioria das empresas não possa criar ou mudar mercados, elas podem ler sinais sobre a demanda dos usuários. Saber o que procurar nesse paradigma emergente pode ajudar a encontrar as soluções e os modelos de negócios certos. Com várias divisões contribuindo para a desigualdade artificial, as empresas podem ter habilidades limitadas para lidar com todo o problema. Mas, ao considerar cada divisão individualmente, elas podem ver lugares específicos onde têm mais poder de intervenção. Vamos analisar cada uma delas. A IA combina matemática com conjuntos de dados. Embora a matemática possa não discriminar, os conjuntos de dados o fazem - eles geralmente incluem vieses na forma de informações incompletas e até mesmo falsidades. A divisão de dados pode ter consequências devastadoras. Por exemplo, classificadores de raios X de tórax auxiliados por algoritmos subdiagnosticam sistematicamente pacientes negros e pacientes do sexo feminino. E quando os algoritmos foram usados para avaliar pedidos de hipoteca, os credores em Chicago tinham 150% mais chances de rejeitar candidatos negros em relação a candidatos brancos semelhantes. Em Waco, Texas, esse número foi ainda maior, de 200% para candidatos latinos. No atual clima político dos EUA, é improvável que as proteções contra o viés da IA sejam uma prioridade regulatória. Veja como os líderes da empresa podem agir e proceder de forma responsável: Tecnologias Uma das principais preocupações dos desenvolvedores de IA e das empresas aqui são os desequilíbrios nos dados que podem causar danos. Os desenvolvedores devem considerar: 1) buscar conjuntos de dados que sejam representativos das populações que pretendem atender, 2) verificar a distribuição de possíveis fontes de viés e atributos demográficos alternativos nos dados de treinamento e 3) usar métricas como impacto díspar para medir a disparidade de resultados entre grupos ou probabilidades equalizadas para garantir que as previsões de um modelo sejam igualmente precisas em diferentes grupos protegidos. As empresas também podem recorrer a ferramentas disponíveis, como o AI Fairness 360 Toolkit da IBM, ou a ferramentas de código aberto, como a Fairlearn, ao buscarem essas práticas. Instituições As empresas precisam criar novas práticas e rotinas sobre como os funcionários trabalham com IA, com ênfase extra na detecção de vieses que contribuem para a divisão de dados. Isso pode incluir a formação de equipes vermelhas e a análise de cenários; a realização de auditorias regulares; e o desenvolvimento de "declarações de impacto de viés", em que as equipes se autorregulam e investigam os vieses em suas decisões algorítmicas. Várias organizações independentes, como a Partnership on AI e a Algorithmic Justice League - comferramentas de treinamento e defesa da conscientização - podem atuar como facilitadores para tornar essas práticas comuns. Mercados Neste momento, há uma intensa pressão sobre as empresas para que elas coloquem no mercado produtos com IA e com tecnologia de IA. As empresas geralmente se concentram em como os testes ou as práticas de desvinculação podem retardar esse processo, mas precisam considerar o risco de perder participação de mercado à medida que a conscientização e a demanda dos clientes por esses produtos se tornam a norma. Um estudo com 350 empresas revelou que 36% delas já sofreram perdas comerciais devido ao viés da IA. Enquanto isso, outras estão diferenciando seus produtos como sendo menos tendenciosos, como a SAP, que declarou que a parcialidade é um "mau negócio". Prevê-se que a adoção da IA aumente a produtividade de certos trabalhadores e, ao mesmo tempo, torne redundante o trabalho de outros - uma mudança que pode acelerar as desigualdades de renda. Metade dos americanos está preocupada com o fato de que a TI levará a uma maior desigualdade de renda, e é fácil ver por quê: O FMI projeta que quase 40% dos empregos em todo o mundo serão afetados por essa tecnologia. De forma mais conservadora, Acemoglu, do MIT, prevê que 5% de todas as tarefas serão realizadas de forma lucrativa pela IA na próxima década. As pessoas em ocupações expostas à IA com funções que são altamente substituíveis sofrerão deslocamento e perda de renda, enquanto as ocupações e funções complementares à IA podem esperar ganhos de produtividade e aumentos de renda. Os líderes das empresas devem considerar várias opções para mitigar os efeitos sociais dessa divisão: Tecnologias As empresas podem trabalhar para resolver essa lacuna de habilidades investindo nas habilidades de seus funcionários - especialmenteos trabalhadores menos experientes ou com menos treinamento. Tornar as ferramentas e o treinamento em IA amplamente acessíveis poderia aumentar o potencial de ganhos, especialmente para aqueles que têm desempenho inferior e ganham menos do que seus colegas. Além disso, muitas empresas menores podem investir em ferramentas para si mesmas, como ferramentas de análise de negócios, que podem ajudá-las a reduzir custos e competir melhor com concorrentes maiores. Instituições As parcerias podem ajudar a eliminar a lacuna de habilidades. Por exemplo, a AI4ALL oferece experiência prática em ferramentas de IA para uma ampla gama de usuários, a Charity Excellence fornece ferramentas de IA gratuitas para organizações sem fins lucrativos e a AI Skills Coalition da ITU tem objetivos semelhantes. Os grandes produtores de IA também têm iniciativas, como o AI Opportunity Fund do Google, as habilidades de IA da Microsoft para organizações sem fins lucrativos, os esforços de "democratização" da IA da IBM e as competições e prêmios da Mastercard destacam o uso da IA para acelerar a inclusão e destacar como as ferramentas de IA podem reduzir as lacunas de habilidades. Mercados À medida que as ferramentas de IA que reduzem as lacunas de renda forem adotadas mais amplamente, as empresas terão acesso a um grupo mais amplo de trabalhadores qualificados. E à medida que as empresas menores se tornarem mais econômicas, o mercado se expandirá devido à maior competitividade na força de trabalho e entre as empresas. Em vista disso, as empresas terão o incentivo para aplicar essas ferramentas - e devem fazê-lo de forma mais consistente - para estabelecer e sustentar modelos de negócios que possam enfrentar a concorrência. A adoção da IA tem sido desigual. Nos EUA, por exemplo, as pessoas com mais educação e renda mais alta têm maior probabilidade de confiar e usar ferramentas de IA, e seu uso está concentrado geograficamente em algumas cidades "superstar" e centros emergentes. A crescente desconfiança em relação à IA sugere que essa divisão provavelmente aumentará. E, embora não esteja muito claro como o uso da TI mudará os empregos, é justo supor que as pessoas que a utilizam estarão mais bem posicionadas para navegar pelas mudanças que estão por vir A desconfiança é motivada principalmente por preocupações com a autenticidade, a confiabilidade das informações geradas pela IA, os impactos sociais e ambientais e muito mais. Os líderes da empresa que desejam fechar a lacuna de uso da IA podem considerar várias alavancas para criar confiança: Tecnologias As empresas podem investir em tecnologias que melhorem a confiabilidade da IA. Por exemplo, existem ferramentas que podem melhorar o volume e a variedade de dados de treinamento (por exemplo, técnicas de aumento de dados usando TensorFlow e Keras), criar loops de feedback (por exemplo, o aplicativo Reliability da C3AI) e monitorar e testar arquiteturas avançadas de IA. Outras ferramentas, como uma ferramenta de diagnóstico usada na geração de energia nuclear, podem ajudar a incorporar sistemas especializados em aprendizado de máquina e redes neurais. As organizações também podem considerar a combinação de outras tecnologias com a IA para melhorar sua qualidade: Os sensores de IoT, por exemplo, podem realizar o monitoramento em tempo real dos sistemas e gerar dados para ajudar os algoritmos a aprender e se adaptar. Instituições Várias organizações estão trabalhando para instilar a construção de confiança na IA e podem oferecer orientação sobre como fazer isso. Entre elas estão instituições acadêmicas, como o Institute for Ethics in AI em Oxford; organizações sem fins lucrativos, como a Partnership on AI; e iniciativas financiadas por várias filantropias, juntamente com scorecards, como as pontuações de transparência do Stanford Center for Research on Foundation Models. Estudosde "interpretabilidade de IA" na área da saúde e treinamento dos desenvolvedores de IA ou de órgãos intergovernamentais também são fundamentais para garantir a confiabilidade da IA. Os empregadores também podem treinar os funcionários para detectar informações não confiáveis geradas por IA. Mercados As empresas que investem em ferramentas de construção de confiança descobrirão que a confiança aumenta a demanda. Um estudo sobre assistentes de voz com IA constatou que a confiança tem um efeito positivo na adoção, e a confiança também foi fundamental para a disposição dos usuários em persistir com os chatbots para serviços de saúde. Os clientes têm duas vezes mais probabilidade de se envolver com IA confiável, e os trabalhadores têm duas vezes e meia mais probabilidade de utilizar as ferramentas de IA dos empregadores no trabalho se confiarem neles. Muitas empresas já estão se diferenciando em relação à confiabilidade da IA: A Microsoft enfatiza a segurança, a proteção e a privacidade, enquanto a Salesforce promete "humanos no comando" para gerar confiança. Por outro lado, a falta de confiabilidade tem um custo: por exemplo, a Zillow experimentou comprar casas com base em seu modelo de avaliação de IA, mas encerrou o projeto com uma baixa de US$ 300 milhões oito meses depois - um fracasso que levou a empresa a demitir 25% de sua equipe e minou a confiança em suas estimativas de preços de IA. De acordo com a pesquisa do FMI, os benefícios de produtividade e renda da IA provavelmente serão distorcidos em favor das nações de alta renda. Sessenta por cento dos empregos podem estar expostos à IA nesses países, em comparação com 40% e 26%, respectivamente, nas economias de mercados emergentes e nos países de baixa renda. Como se prevê que a adoção da TI aumentará o crescimento do PIB e a produtividade em geral, espera-se que o faça proporcionalmente à exposição em um determinado país; como prevê o FMI, isso aumenta "o risco de que, com o tempo, a tecnologia possa piorar a desigualdade entre as nações". As políticas dos EUA que limitam o acesso a chips avançados para muitas partes do mundo, se continuarem, provavelmente exacerbarão essas divisões. Essa fragmentação dos mercados em todo o mundo limita o potencial da tecnologia, aumentando as barreiras de entrada e os custos. Os líderes da empresa podem considerar várias ações de atenuação: Tecnologias As empresas - especialmente as de fora dos EUA - podem se proteger contra restrições e ficarem presas a um único ecossistema adotando iniciativas de IA de código aberto e amplamente acessíveis, inclusive as de "peso aberto", em que os parâmetros treinados estão disponíveis publicamente, mas o código de treinamento e os conjuntos de dados não. O laboratório chinês DeepSeek demonstrou que esses modelos de IA de código aberto podem ter um desempenho quase tão bom quanto os melhores modelos de IA proprietários, e o fazem com uma fração dos custos e recursos. As empresas, especialmente as do mundo em desenvolvimento, também podem usar a expansão do acesso às ferramentas de IA para desenvolver inovações de "pequena IA" voltadas para setores específicos e aprimorá-las com pequenas injeções de informações relevantes. Por exemplo, o aplicativo Plantix ajuda pequenos agricultores a identificar pragas que destroem as plantações e a tratá-las. Instituições As práticas de código aberto são fundamentais para expandir o acesso global às ferramentas de IA, e há muitas organizações que podem ajudar as empresas a utilizá-las. Considere a International Computation and AI Network, que promove o acesso à IA em todo o mundo, e a AI for Good, que se concentra na solução de desafios globais. Mercados As ferramentas e os aplicativos de código aberto criam mais oportunidades para as empresas de todo o mundo aproveitarem a IA. Os benefícios comerciais podem ser significativos, pois a democratização da tecnologia pode não apenas resolver problemas locais, mas também gerar demanda em vários mercados. Considere os exemplos de identificação de doenças auxiliada por IA em plantas da África, serviços de telessaúde para gestantes da Índia, assistência médica auxiliada por IA para diabéticos desenvolvida no México e sistemas de monitoramento florestal do Brasil - todos com potencial de receita global mais amplo. Até o momento, a cadeia de valor da IA tem sido dominada por um punhado de empresas. Além disso, essas empresas gastam dinheiro umas com as outras por meio da exclusividade de produtos ou canais, reforçando a concentração e bloqueando efetivamente a entrada de novos participantes. Por exemplo, a Meta compra serviços de nuvem da Amazon para impulsionar suas ambições de TI e os principais desenvolvedores de IA usam os chips de mais alto desempenho da Nvidia para ficar à frente na corrida. Essas práticas direcionam os investimentos para aqueles que são mais atraentes comercialmente para algumas empresas dominantes - e fazem com que as empresas que compram serviços de IA se sintam presas a um punhado de gigantes da tecnologia que podem ditar preços e termos. Como as empresas estão interessadas em experimentar ferramentas de IA, mas ainda não estão dispostas a pagar os preços comandados pelos líderes comerciais, elas podem considerar alternativas mais baratas que ofereçam opções adicionais sem comprometer o desempenho para a maioria dos usos. Tecnologias De forma semelhante à proteção contra a fragmentação dos ecossistemas globais de IA, as empresas podem considerar a IA de código aberto, como a DeepSeek e outras empresas de IA da China, ou participantes não chineses, como a Meta (EUA), a Cohere (Canadá) ou a Mistral (França). Além disso, elas também podem obter benefícios de pequenos modelos de linguagem treinados em conjuntos de dados mais restritos para aplicativos personalizados ou ferramentas de "IA de borda" que executam tarefas em dispositivos interconectados com dados armazenados perto dos dispositivos, com processamento feito na borda da rede para contornar os pontos de concentração do setor. Instituições As empresas também podem obter produtos de organizações que criam modelos de IA de "bens públicos digitais" - trilhos acessíveis ao público nos quais os aplicativos são criados. Por exemplo, a Digital Public Goods Alliance, uma iniciativa de várias partes interessadas, promove software de código aberto, dados abertos, modelos de IA abertos e coleções de conteúdo aberto que aderem aos padrões de privacidade. Para acomodar considerações comerciais, ela também promove um modelo de "abertura em camadas", que permite níveis variados de acesso a diferentes componentes de TI. Mercados As empresas podem se beneficiar do fato de o setor de IA se tornar mais competitivo e do crescimento de aplicativos especializados de IA adaptados a diferentes necessidades. Isso poderia incluir "pequenas" empresas e modelos de IA que visam intervenções muito necessárias em setores de baixa produtividade no mundo em desenvolvimento, como agricultura ou educação, e desbloqueiam uma quantidade desproporcional de valor ao resolver uma necessidade não atendida. No entanto, esses desenvolvimentos também devem abordar o problema de confiança da IA. Embora a IA de código aberto facilite a competitividade, ela também pode introduzir novas vulnerabilidades de segurança. Os investimentos na construção de confiança que também mantêm a IA de alto desempenho acessível serão os principais diferenciadores do mercado; as empresas podem considerar ferramentas como Dependabot, Renovate ou Snyk para verificar modelos de código aberto quanto a vulnerabilidades de segurança conhecidas. A IA tem grandes demandas de energia e água: até 2026, espera-se que o consumo de energia do data center cresça de 35% a 128%. Mesmo com os investimentos previstos em novas infraestruturas de energia, a demanda continuará à frente do aumento da oferta. Embora a TI possa ser usada para fazer um uso mais inteligente da energia, é mais provável que contribua para a pobreza energética, já que os sistemas inteligentes de energia estão concentrados em áreas mais ricas e mais de um bilhão de pessoas vivem sem acesso a energia acessível. Além disso, muitas empresas correm o risco de não atingir suas próprias metas de zero líquido, pois os investimentos em IA as desviaram do curso. Para lidar com essas questões, os líderes das empresas - especialmente nas empresas de IA ou naquelas com grandes necessidades de IA - podem considerar várias opções de mitigação: Tecnologias Há uma série de inovações que podem tornar o uso da IA mais eficiente. Se o senhor administra seus próprios data centers, o DeepMind AI do Google pode reduzir as despesas com refrigeração em até 40%. Além disso, a Nvidia está desenvolvendo GPUs mais eficientes que podem oferecer até 30 vezes mais desempenho e usar 25 vezes menos energia. O senhor também pode explorar novas abordagens de design de hardware, como a localização da memória dentro dos núcleos de computação, o que pode reduzir a dissipação de energia ao diminuir as distâncias de deslocamento dos dados. Ou implementar dispositivos que imitam as funções cerebrais, que demonstraram usar 1.000 vezes menos energia do que os padrões atuais. Outros modelos experimentaram a execução em microcontroladores de baixa potência. Novos componentes, como aceleradores fotônicos, chips 3D e novas técnicas de resfriamento de chips, podem fornecer potência de computação com menor consumo de energia. Também há eficiências a serem encontradas no design do modelo. A DeepSeek, por exemplo, demonstrou como poderia economizar em recursos de computação e energia ao implantar uma técnica de "mistura de especialistas" que divide as redes neurais da TI em diferentes categorias. A empresa também utilizou outras abordagens criativas, como a eliminação de casas decimais em números usados em cálculos sem perdas perceptíveis no desempenho. Instituições Dada a importância das demandas de energia da IA, muitas organizações estão trabalhando nesse problema e oferecem programas de treinamento para desenvolver conhecimentos especializados em IA e conservação de energia. Por exemplo, a Iniciativa Cornell AI for Sustainability está liderando a pesquisa, a inovação e a educação sobre como gerenciar o uso de energia da IA, bem como sobre como a IA pode nos ajudar a usar a energia de forma mais eficiente. Mercados As empresas se beneficiam do fato de que a eficiência energética contribui para a eficiência geral de custos e recursos e aumenta sua competitividade. Os produtores de IA estão tomando decisões sobre a localização do data center levando em conta o impacto ambiental juntamente com outros critérios, como custo, questões técnicas e proximidade com os usuários. As inovações no preço da energia, usando análise preditiva ou sistemas de pagamento conforme o uso, estão tornando o acesso à energia mais acessível e podem ajudar a aumentar a demanda. Embora os benefícios de eficiência energética dos modelos de código aberto ainda sejam discutíveis, de acordo com uma análise, o DeepSeek requer 11 vezes menos recursos de computação do que um modelo semelhante da Meta. De acordo com a empresa, isso corresponde a 10 a 40 vezes menos energia do que modelos similares dos EUA e, portanto, é mais barato de operar. Essas mudanças no campo competitivo e as tecnologias de economia de energia disponíveis pressionam todas as empresas de IA a aumentar sua eficiência energética. - - - Compensar essas seis divisões é um imperativo comercial, especialmente em um momento em que os governos e os órgãos reguladores têm menos probabilidade de intervir. Isso significa que os líderes das empresas - tanto os produtores quanto os adotantes de IA - devem atender às necessidades críticas não atendidas dos usuários, acionando alavancas alternativas. Felizmente, as empresas têm opções para combater a desigualdade artificial, desde que se concentrem em tecnologias, instituições e mercados. A aceleração da IA não precisa se traduzir em um mundo mais frágil e dividido. Alcançar o equilíbrio certo pode facilitar a adoção mais ampla da TI e ajudar a concretizar suas muitas promessas revolucionárias.

Como as empresas podem mitigar os danos da desigualdade provocada pela IA

Resumo.

Partner Center