A regulamentação da IA está chegando

Ideia em resumo O desafio À medida que as empresas incorporam cada vez mais a inteligência artificial em seus produtos, processos e tomada de decisões, o foco das discussões sobre o risco digital está mudando para o que o software faz com os dados. Por que isso é um problema? A TI mal aplicada e não regulamentada pode levar a resultados injustos, principalmente porque pode ampliar os vieses nos dados. E os algoritmos geralmente desafiam uma explicação fácil, o que é complicado pelo fato de que eles mudam e se adaptam à medida que mais dados chegam. Como corrigir a TI Os líderes empresariais precisam examinar explicitamente uma série de fatores. Para garantir decisões equitativas, eles precisam avaliar o impacto de resultados injustos, o escopo das decisões tomadas, a complexidade operacional e os recursos de governança de suas organizações. Ao estabelecer padrões de transparência, eles devem analisar o nível de explicação exigido e os trade-offs envolvidos. Ao controlar a capacidade de evolução da IA, eles precisam considerar os riscos, a complexidade e a interação entre a IA e os seres humanos. Durante a maior parte da última década, as preocupações do público com a tecnologia digital se concentraram no possível abuso de dados pessoais. As pessoas não se sentiam à vontade com a maneira como as empresas podiam rastrear seus movimentos on-line, muitas vezes coletando números de cartão de crédito, endereços e outras informações importantes. Elas achavam assustador ser seguidas na Web por anúncios que tinham sido claramente acionados por suas pesquisas ociosas, e se preocupavam com o roubo de identidade e a fraude. Essas preocupações levaram à aprovação de medidas nos Estados Unidos e na Europa que garantem aos usuários da Internet algum nível de controle sobre seus dados e imagens pessoais, principalmente o Regulamento Geral de Proteção de Dados (GDPR) da União Europeia de 2018. Obviamente, essas medidas não encerraram o debate sobre o uso de dados pessoais pelas empresas. Alguns argumentam que restringir esse uso prejudicará o desempenho econômico da Europa e dos Estados Unidos em relação a países menos restritivos, principalmente a China, cujos gigantes digitais prosperaram com a ajuda do acesso pronto e pouco regulamentado a informações pessoais de todos os tipos. (Recentemente, entretanto, o governo chinês começou a limitar a liberdade das empresas digitais - comodemonstrado pelas grandes multas impostas ao Alibaba). Outros apontam que há muitas evidências de que uma regulamentação mais rígida colocou as empresas europeias menores em uma desvantagem considerável em relação às rivais americanas com bolsos mais fundos, como Google e Amazon. Mas o debate está entrando em uma nova fase. À medida que as empresas incorporam cada vez mais a inteligência artificial em seus produtos, serviços, processos e tomada de decisões, a atenção está mudando para a forma como os dados são usados pelo software - especialmente por algoritmos complexos e em evolução que podem diagnosticar um câncer, dirigir um carro ou aprovar um empréstimo. A UE, que está novamente liderando o caminho (em seu white paper de 2020 "On Artificial Intelligence - A European Approach to Excellence and Trust" e sua proposta de 2021 para uma estrutura legal de TI), considera a regulamentação essencial para o desenvolvimento de ferramentas de IA nas quais os consumidores possam confiar. O que tudo isso significa para as empresas? Temos pesquisado como regulamentar os algoritmos de IA e como implementar sistemas de IA baseados nos princípios fundamentais subjacentes às estruturas regulatórias propostas, e temos ajudado empresas de todos os setores a lançar e ampliar iniciativas orientadas por IA. Nas páginas a seguir, nos baseamos nesse trabalho e no de outros pesquisadores para explorar os três principais desafios que os líderes empresariais enfrentam ao integrar a TI em seus processos e tomadas de decisão e, ao mesmo tempo, tentar garantir que ela seja segura e confiável para os clientes. Também apresentamos uma estrutura para orientar os executivos nessas tarefas, com base, em parte, em conceitos aplicados ao gerenciamento de riscos estratégicos. Resultados injustos: Os riscos do uso da IA Os sistemas de IA que produzem resultados tendenciosos têm sido manchetes. Um exemplo bem conhecido é o algoritmo de cartão de crédito da Apple, que foi acusado de discriminar as mulheres, desencadeando uma investigação do Departamento de Serviços Financeiros de Nova York. Mas o problema aparece em muitas outras formas: por exemplo, em algoritmos de anúncios on-line onipresentes, que podem direcionar os espectadores por raça, religião ou gênero, e no rastreador de currículos automatizado da Amazon, que filtrou candidatos do sexo feminino. Um estudo recente publicado na Science mostrou que as ferramentas de previsão de risco usadas na área da saúde, que afetam milhões de pessoas nos Estados Unidos todos os anos, apresentam um viés racial significativo. Outro estudo, publicado no Journal of General Internal Medicine, descobriu que o software usado pelos principais hospitais para priorizar os receptores de transplantes renais discriminava os pacientes negros. A IA aumenta a escala potencial de preconceito: Qualquer falha pode afetar milhões de pessoas, expondo as empresas a ações judiciais coletivas. Na maioria dos casos, o problema decorre dos dados usados para treinar a IA. Se esses dados forem tendenciosos, a IA os adquirirá e poderá até amplificá-los. Quando a Microsoft usou tweets para treinar um chatbot para interagir com os usuários do Twitter, por exemplo, ela teve que retirar o bot do ar no dia seguinte à sua entrada em operação por causa de suas mensagens inflamatórias e racistas. Mas não é suficiente simplesmente eliminar informações demográficas, como raça ou gênero, dos dados de treinamento, pois em algumas situações esses dados são necessários para corrigir vieses. Em teoria, talvez seja possível codificar algum conceito de justiça no software, exigindo que todos os resultados atendam a determinadas condições. A Amazon está experimentando uma métrica de justiça chamada disparidade demográfica condicional, e outras empresas estão desenvolvendo métricas semelhantes. Mas um obstáculo é que não há uma definição consensual de justiça, nem é possível ser categórico sobre as condições gerais que determinam resultados equitativos. Além disso, as partes interessadas em uma determinada situação podem ter noções muito diferentes do que constitui justiça. Como resultado, todas as tentativas de projetá-la no software serão complicadas. Ao lidar com resultados tendenciosos, os órgãos reguladores têm recorrido principalmente à legislação padrão antidiscriminação. Isso é viável, desde que haja pessoas que possam ser responsabilizadas por decisões problemáticas. Porém, com a IA cada vez mais presente, a responsabilidade individual é prejudicada. Pior ainda, a IA aumenta a escala potencial de preconceito: Qualquer falha pode afetar milhões de pessoas, expondo as empresas a ações judiciais coletivas de proporções históricas e colocando sua reputação em risco. O que os executivos podem fazer para evitar esses problemas? Como primeiro passo, antes de tomar qualquer decisão, eles devem aprofundar sua compreensão dos riscos, explorando quatro fatores: O impacto dos resultados. Alguns algoritmos tomam ou afetam decisões com consequências diretas e importantes na vida das pessoas. Eles diagnosticam condições médicas, por exemplo, selecionam candidatos a empregos, aprovam empréstimos imobiliários ou recomendam sentenças de prisão. Nessas circunstâncias, talvez seja prudente evitar o uso da TI ou, pelo menos, subordiná-la ao julgamento humano. No entanto, a última abordagem ainda requer uma reflexão cuidadosa. Suponhamos que um juiz conceda liberdade antecipada a um infrator contra uma recomendação da IA e que essa pessoa cometa um crime violento. O juiz estaria sob pressão para explicar por que ignorou a IA. O uso da IA poderia, portanto, aumentar a responsabilidade dos tomadores de decisão humanos, o que poderia fazer com que as pessoas se submetessem aos algoritmos com mais frequência do que deveriam. Isso não quer dizer que a TI não tenha seus usos em contextos de alto impacto. As organizações que dependem de tomadores de decisão humanos ainda precisarão controlar o viés inconsciente dessas pessoas, que a IA pode ajudar a revelar. Por fim, a Amazon decidiu não utilizar a TI como ferramenta de recrutamento, mas sim para detectar falhas em sua abordagem atual de recrutamento. A conclusão é que a imparcialidade dos algoritmos em relação à tomada de decisão humana precisa ser considerada ao decidir usar ou não a IA. A natureza e o escopo das decisões. A pesquisa sugere que o grau de confiança na TI varia de acordo com o tipo de decisões para as quais ela é usada. Quando uma tarefa é considerada relativamente mecânica e limitada - como otimizar um cronograma ou analisar imagens - o software é considerado, no mínimo, tão confiável quanto os seres humanos. Mas quando as decisões são consideradas subjetivas ou as variáveis mudam (como em sentenças judiciais, em que as circunstâncias atenuantes dos infratores podem ser diferentes), o julgamento humano é mais confiável, em parte devido à capacidade de empatia das pessoas. Isso sugere que as empresas precisam se comunicar com muito cuidado sobre a natureza e o escopo específicos das decisões às quais estão aplicando a TI e por que ela é preferível ao julgamento humano nessas situações. Esse é um exercício bastante simples em muitos contextos, mesmo naqueles com consequências graves. Por exemplo, em diagnósticos automáticos de exames médicos, as pessoas podem aceitar facilmente a vantagem que o software treinado em bilhões de pontos de dados bem definidos tem sobre os humanos, que podem processar apenas alguns milhares. Li Sun vê as "criaturas" em suas fotografias como a personificação da contradição entre a sensação de liberdade que ele sentia quando criança, crescendo no campo, e as câmeras de vigilância que ele sente observando-o em cada esquina nas cidades modernas. Li Sun Por outro lado, aplicar a IA para fazer um diagnóstico sobre saúde mental, em que os fatores podem ser comportamentais, difíceis de definir e específicos de cada caso, provavelmente seria inadequado. É difícil para as pessoas aceitarem que as máquinas possam processar situações altamente contextuais. E mesmo quando as variáveis críticas foram identificadas com precisão, a maneira como elas diferem entre as populações geralmente não é totalmente compreendida - o que nos leva ao próximo fator. Complexidade operacional e limites de escala. Um algoritmo pode não ser justo em todas as regiões e mercados. Por exemplo, um algoritmo que seleciona consumidores para obter descontos pode parecer equitativo em toda a população dos EUA, mas ainda assim mostrar preconceito quando aplicado, por exemplo, aos residentes de Manhattan, se o comportamento e as atitudes do consumidor em Manhattan não corresponderem às médias nacionais e não forem refletidos no treinamento do algoritmo. As estatísticas médias podem mascarar a discriminação entre regiões ou subpopulações, e para evitá-la pode ser necessário personalizar os algoritmos para cada subconjunto. Isso explica por que quaisquer regulamentações que visem a diminuir os vieses locais ou de pequenos grupos provavelmente reduzirão o potencial de vantagens de escala da TI, que geralmente é a motivação para usá-la em primeiro lugar. Ajustar as variações entre os mercados adiciona camadas aos algoritmos, aumentando os custos de desenvolvimento. A personalização de produtos e serviços para mercados específicos também aumenta significativamente os custos de produção e monitoramento. Todas essas variáveis aumentam a complexidade organizacional e as despesas gerais. Se os custos se tornarem muito altos, as empresas podem até abandonar alguns mercados. Por causa do GDPR, por exemplo, alguns desenvolvedores, como a Gravity Interactive (fabricante dos jogos Ragnarok e Dragon Saga), optaram por parar de vender seus produtos na UE por algum tempo. Embora a maioria já tenha encontrado uma maneira de cumprir a regulamentação (o Dragon Saga foi relançado em maio passado na Europa), os custos incorridos e as oportunidades perdidas são importantes. Recursos de conformidade e governança. Para seguir as regulamentações de IA mais rigorosas que estão no horizonte (pelo menos na Europa e nos Estados Unidos), as empresas precisarão de novos processos e ferramentas: auditorias de sistema, documentação e protocolos de dados (para rastreabilidade), monitoramento de IA e treinamento de conscientização sobre diversidade. Várias empresas já testam cada novo algoritmo de TI em uma variedade de partes interessadas para avaliar se seu resultado está alinhado com os valores da empresa e se é improvável que levante preocupações regulatórias. O Google, a Microsoft, a BMW e a Deutsche Telekom estão desenvolvendo políticas formais de IA com compromissos de segurança, justiça, diversidade e privacidade. Algumas empresas, como a Federal Home Loan Mortgage Corporation(Freddie Mac), chegaram a nomear diretores de ética para supervisionar a introdução e a aplicação de tais políticas, em muitos casos apoiando-os com conselhos de governança ética. Transparência: Explicação do que deu errado Assim como o julgamento humano, a IA não é infalível. Os algoritmos inevitavelmente tomarão algumas decisões injustas - ou até mesmo inseguras. Quando as pessoas cometem um erro, geralmente há uma investigação e uma atribuição de responsabilidade, que pode impor penalidades legais ao tomador de decisões. Isso ajuda a organização ou a comunidade a entender e corrigir decisões injustas e a criar confiança com suas partes interessadas. Então, será que devemos exigir - e podemos até esperar - que a TI também explique suas decisões? Os órgãos reguladores certamente estão se movendo nessa direção. O GDPR já descreve "o direito... de obter uma explicação da decisão tomada" pelos algoritmos, e a UE identificou a explicabilidade como um fator essencial para aumentar a confiança na TI em seu white paper e na proposta de regulamentação da IA. Mas o que significa obter uma explicação para decisões automatizadas, para as quais nosso conhecimento de causa e efeito geralmente é incompleto? Foi Aristóteles quem apontou que, quando essa é a situação, a capacidade de explicar como se chega aos resultados pode ser menos importante do que a capacidade de reproduzir os resultados e verificar empiricamente sua precisão - algo que as empresas podem fazer comparando as previsões da IA com os resultados. Os líderes empresariais que estão considerando aplicações de IA também precisam refletir sobre dois fatores: O nível de explicação necessário. Com os algoritmos de IA, as explicações podem ser classificadas em dois grupos, adequados a diferentes circunstâncias. As explicaçõesglobais são explicações completas para todos os resultados de um determinado processo e descrevem as regras ou fórmulas que especificam as relações entre as variáveis de entrada. Normalmente, elas são necessárias quando a justiça processual é importante - por exemplo, com decisões sobre a alocação de recursos, porque as partes interessadas precisam saber antecipadamente como elas serão tomadas. Será que devemos exigir - e podemos até esperar - que a TI explique suas decisões? Os órgãos reguladores certamente estão se movendo nessa direção. Fornecer uma explicação global para um algoritmo pode parecer simples: Tudo o que o senhor precisa fazer é compartilhar sua fórmula. Entretanto, a maioria das pessoas não tem as habilidades avançadas em matemática ou ciência da computação necessárias para entender essa fórmula, muito menos para determinar se as relações especificadas nela são apropriadas. E no caso do aprendizado de máquina - em que o software de IA cria algoritmos para descrever relações aparentes entre variáveis nos dados de treinamento - falhas ou vieses nesses dados, e não no algoritmo, podem ser a causa final de qualquer problema. Além disso, as empresas podem nem mesmo ter um insight direto sobre o funcionamento de seus algoritmos, e responder às restrições regulatórias para obter explicações pode exigir que elas procurem além de seus departamentos de dados e TI e, talvez, recorram a especialistas externos. Considere que as ofertas de grandes fornecedores de software como serviço, como Oracle, SAP e Salesforce, geralmente combinam vários componentes de IA de fornecedores terceirizados. E seus clientes às vezes escolhem e combinam soluções habilitadas para IA. Mas todos os componentes de um produto final e como eles se combinam e se interconectam precisam ser explicáveis. As explicações locais oferecem a lógica por trás de um resultado específico - por exemplo, por que um candidato (ou classe de candidatos) teve um empréstimo negado e outro foi concedido. Em geral, são fornecidas pelos chamados algoritmos de TI explicáveis, que têm a capacidade de informar ao destinatário de um resultado os motivos para ele. Eles podem ser usados quando os indivíduos precisam saber apenas por que uma determinada decisão foi tomada em relação a eles e não têm, ou não podem ter, acesso às decisões sobre os outros. Li Sun As explicações locais podem assumir a forma de declarações que respondem à pergunta: Quais são as principais características do cliente que, se fossem diferentes, teriam alterado o resultado ou a decisão da IA? Por exemplo, se a única diferença entre dois candidatos é que um tem 24 anos e o outro tem 25, a explicação seria que o primeiro candidato teria recebido um empréstimo se tivesse mais de 24 anos. O problema aqui é que as características identificadas podem esconder vieses. Por exemplo, pode acontecer que o CEP do solicitante seja o que faz a diferença, com a penalização de solicitantes sólidos de bairros negros. Os trade-offs envolvidos. Os algoritmos mais poderosos são inerentemente opacos. Veja o Ant Group do Alibaba na China, cuja unidade MYbank usa IA para aprovar empréstimos para pequenas empresas em menos de três minutos sem intervenção humana. Para isso, ela combina dados de todo o ecossistema do Alibaba, inclusive informações sobre as vendas de suas plataformas de comércio eletrônico, com aprendizado de máquina para prever riscos de inadimplência e manter classificações de crédito em tempo real. Como o software da Ant utiliza mais de 3.000 entradas de dados, é praticamente impossível articular claramente como ele chega a avaliações específicas (e muito menos fornecer uma explicação global). Muitos dos aplicativos de IA mais interessantes exigem entradas algorítmicas em uma escala semelhante. Termos de pagamento personalizados em mercados B2B, subscrição de seguros e carros autônomos são apenas algumas das áreas em que requisitos rigorosos de explicabilidade de IA podem prejudicar a capacidade de inovação ou crescimento das empresas. As empresas enfrentarão desafios ao introduzir um serviço como o da Ant em mercados em que os consumidores e os órgãos reguladores valorizam muito os direitos individuais - notadamente, a União Europeia e os Estados Unidos. Para implementar essa IA, as empresas precisarão ser capazes de explicar como um algoritmo define as semelhanças entre os clientes, por que certas diferenças entre dois clientes em potencial podem justificar tratamentos diferentes e por que clientes semelhantes podem receber explicações diferentes sobre a IA. As expectativas de explicações também variam de acordo com a região geográfica, o que apresenta desafios para as operadoras globais. Elas poderiam simplesmente adotar os requisitos mais rigorosos de explicabilidade em todo o mundo, mas isso poderia claramente colocá-las em desvantagem em relação aos participantes locais em alguns mercados. Os bancos que seguem as regras da UE teriam dificuldades para produzir algoritmos tão precisos quanto os da Ant para prever a probabilidade de inadimplência dos tomadores de empréstimos e, como consequência, poderiam ter que ser mais rigorosos com relação aos requisitos de crédito. Por outro lado, a aplicação de vários padrões de explicabilidade provavelmente será mais complexa e dispendiosa - porque uma empresa estaria, em essência, criando algoritmos diferentes para mercados diferentes e provavelmente teria que adicionar mais IA para garantir a interoperabilidade. No entanto, há algumas oportunidades. Os requisitos de explicabilidade podem oferecer uma fonte de diferenciação: As empresas que conseguirem desenvolver algoritmos de IA com recursos explicativos mais fortes estarão em uma posição melhor para conquistar a confiança dos consumidores e dos órgãos reguladores. Isso pode ter consequências estratégicas. Se o Citibank, por exemplo, conseguisse produzir uma IA explicável para crédito a pequenas empresas tão poderosa quanto a da Ant, certamente dominaria os mercados da UE e dos EUA, e poderia até mesmo conquistar uma posição no território da própria Ant. A capacidade de comunicar a imparcialidade e a transparência das decisões das ofertas também é um diferencial em potencial para as empresas de tecnologia. A IBM desenvolveu um produto que ajuda as empresas a fazer isso: O Watson OpenScale, uma plataforma de análise de dados alimentada por IA para empresas. O resultado final é que, embora exigir que a TI forneça explicações para suas decisões possa parecer uma boa maneira de melhorar sua imparcialidade e aumentar a confiança das partes interessadas, isso tem um preço alto - que nem sempre vale a pena pagar. Nesse caso, a única opção é voltar a estabelecer um equilíbrio entre os riscos de obter alguns resultados injustos e os retornos de um resultado mais preciso em geral, ou abandonar o uso da IA. Aprendendo e evoluindo: Um terreno em constante mudança Uma das características distintivas da TI é sua capacidade de aprender; quanto mais fotos rotuladas de vacas e zebras um algoritmo de reconhecimento de imagens receber, maior será a probabilidade de reconhecer uma vaca ou uma zebra. Mas há desvantagens no aprendizado contínuo: Embora a precisão possa melhorar com o tempo, as mesmas entradas que geraram um resultado ontem podem registrar um resultado diferente amanhã porque o algoritmo foi alterado pelos dados que recebeu nesse intervalo. Para descobrir como gerenciar algoritmos que evoluem - e se devem permitir o aprendizado contínuo em primeiro lugar - os líderes empresariais devem se concentrar em três fatores: Riscos e recompensas. As atitudes dos clientes em relação à evolução da IA provavelmente serão determinadas por um cálculo pessoal de risco-retorno. Na precificação de seguros, por exemplo, os algoritmos de aprendizagem provavelmente fornecerão resultados mais adaptados às necessidades do cliente do que qualquer coisa que os seres humanos possam oferecer, portanto, os clientes provavelmente terão uma tolerância relativamente alta para esse tipo de IA. Em outros contextos, o aprendizado pode não ser uma preocupação. A IA que gera recomendações de filmes ou livros, por exemplo, poderia evoluir com bastante segurança à medida que mais dados sobre as compras e as escolhas de visualização de um cliente chegassem. Mas quando o risco e o impacto de um resultado injusto ou negativo são altos, as pessoas aceitam menos a evolução da IA. Certos tipos de produtos, como dispositivos médicos, poderiam ser prejudiciais aos seus usuários se fossem alterados sem nenhuma supervisão. É por isso que alguns órgãos reguladores, principalmente a U.S. Food and Drug Administration, autorizaram o uso apenas de algoritmos "bloqueados" - quenão aprendem toda vez que o produto é usado e, portanto, não mudam - neles. Para essas ofertas, uma empresa pode executar duas versões paralelas do mesmo algoritmo: uma usada somente em P&D que aprende continuamente e uma versão bloqueada para uso comercial que é aprovada pelos órgãos reguladores. A versão comercial poderia ser substituída com certa frequência por uma nova versão baseada na versão de melhoria contínua - após a aprovação dos órgãos reguladores. Os órgãos reguladores também temem que o aprendizado contínuo possa fazer com que os algoritmos discriminem ou se tornem inseguros de maneiras novas e difíceis de detectar. Em produtos e serviços com os quais a injustiça é uma grande preocupação, o senhor pode esperar um foco mais intenso na capacidade de evolução também. Complexidade e custo. A implementação da IA de aprendizado pode aumentar os custos operacionais. Primeiro, as empresas podem se deparar com a execução de vários algoritmos em diferentes regiões, mercados ou contextos, cada um deles respondendo a dados e ambientes locais. As organizações podem, então, precisar criar novas funções e processos de sentinela para garantir que todos esses algoritmos estejam operando adequadamente e dentro das faixas de risco autorizadas. Os Diretores financeiros podem ter que expandir seus mandatos para incluir o monitoramento de processos autônomos de IA e avaliar o nível de risco legal, financeiro, de reputação e físico que a empresa está disposta a assumir em relação à IA evolutiva. As empresas também precisam equilibrar a descentralização com as práticas padronizadas que aumentam a taxa de aprendizado da IA. Elas podem criar e manter um backbone de dados global para alimentar as soluções digitais e de IA da empresa? Até que ponto seus próprios sistemas estão prontos para armazenamento e processamento descentralizados? Até que ponto estão preparadas para responder às ameaças de segurança cibernética? A produção precisa se deslocar para mais perto dos clientes finais ou isso exporia as operações a novos riscos? As empresas podem atrair talentos experientes em IA em número suficiente para os cargos de liderança certos nos mercados locais? Todas essas perguntas devem ser respondidas cuidadosamente. Entrada humana. Novos dados ou mudanças ambientais também podem fazer com que as pessoas ajustem suas decisões ou até mesmo alterem seus modelos mentais. Um gerente de recrutamento, por exemplo, pode tomar decisões diferentes sobre o mesmo candidato a emprego em dois momentos diferentes se a qualidade dos candidatos concorrentes mudar - ou até mesmo por estar cansado na segunda vez. Como não há regulamentação para impedir que isso aconteça, pode-se argumentar que é permitido que a TI evolua como resultado de novos dados. No entanto, seria necessário algum convencimento para conquistar as pessoas para esse ponto de vista. Os órgãos reguladores temem que o aprendizado contínuo possa fazer com que os algoritmos discriminem ou se tornem inseguros de maneiras novas e difíceis de detectar. O que as pessoas podem aceitar mais facilmente é a IA complementada de forma inteligente pela tomada de decisão humana. Conforme descrito no artigo da HBR de 2020 "A Better Way to Onboard AI" (em coautoria com Theodoros Evgeniou), os sistemas de IA podem ser implementados como "coaches", fornecendo feedback e informações aos funcionários (por exemplo, operadores de títulos financeiros em uma empresa de gestão de ativos). Mas não se trata de uma via de mão única: Grande parte do valor da colaboração vem do feedback que os humanos dão aos algoritmos. O Facebook, de fato, adotou uma abordagem interessante para monitorar e acelerar o aprendizado de TI com sua plataforma Dynabench. A TI encarrega especialistas humanos de procurar maneiras de induzir a IA a produzir um resultado incorreto ou injusto usando algo chamado coleta dinâmica de dados adversários. Quando os humanos aprimoram ativamente a IA, eles podem liberar valor com bastante rapidez. Em um recente TED Talk, Sylvain Duranton, do BCG, descreveu como um varejista de roupas economizou mais de US$ 100 milhões em apenas um ano com um processo que permitiu que compradores humanos inserissem seus conhecimentos na IA que previa tendências de roupas. . . . Considerando que a crescente dependência da IA - especialmente do aprendizado de máquina - aumenta significativamente os riscos estratégicos que as empresas enfrentam, as empresas precisam assumir um papel ativo na elaboração de um manual de regras para algoritmos. À medida que a análise é aplicada a decisões como aprovações de empréstimos ou avaliações de reincidência criminal, as reservas sobre vieses ocultos continuam a aumentar. A opacidade inerente à programação complexa subjacente ao aprendizado de máquina também está causando consternação, e cresce a preocupação sobre se as ferramentas habilitadas para IA desenvolvidas para uma população podem tomar decisões com segurança sobre outras populações. A menos que todas as empresas - incluindo aquelas que não estão diretamente envolvidas no desenvolvimento da IA - se envolvam desde cedo com esses desafios, elas correm o risco de corroer a confiança nos produtos habilitados para IA e desencadear regulamentações desnecessariamente restritivas, o que prejudicaria não apenas os lucros das empresas, mas também o valor potencial que a IA poderia oferecer aos consumidores e à sociedade.

A regulamentação da IA está chegando

Resumo.

Partner Center