Como os profissionais desenvolvem bom senso na era da inteligência artificial?

Há alguns anos, quando comecei a experimentar a IA generativa como sócio de uma empresa de consultoria, percebi algo que me surpreendeu: ela estava me auxiliando muito mais do que aos meus colegas menos experientes. No meu próprio trabalho, a IA me permitiu avançar muito mais rapidamente em direção a resultados familiares baseados em conhecimentos especializados, como síntese e análise de pesquisas. A qualidade não era perfeita, mas estava no caminho certo e era fácil para mim orientar. Para os analistas mais novos, a experiência com a IA foi muito diferente. Eles produziram resultados rapidamente, mas não foram significativamente melhores do que antes de empregarem a IA. Mais impressionante ainda, eles frequentemente tiveram dificuldade em avaliar se os resultados eram bons, sem mencionar como redirecioná-los. Em alguns casos, eles nem sabiam por onde começar. Isso não era o que eu esperava. Como muitas pessoas em 2022, eu presumia que a IA generativa ajudaria os trabalhadores menos experientes a superar suas limitações, que atuaria como uma infusão repentina de capacidade. Em vez disso, observei o oposto acontecer: as ferramentas amplificaram o julgamento existente, em vez de compensar sua ausência. Percebo agora que o que eu estava observando em miniatura ajuda a explicar um mal-estar mais amplo que os gerentes de todos os setores estão experimentando atualmente quando recebem resultados de trabalho assistidos por IA: embora sejam produzidos rapidamente e pareçam refinados, é difícil avaliar sua qualidade e, portanto, se devem ser utilizados. Isso faz sentido quando se analisa mais de perto como as pessoas realmente obtêm bons resultados ao trabalhar com ferramentas de IA, o que requer uma avaliação constante do que elas estão oferecendo e uma iteração cuidadosa. Você promt à IA, obtém um resultado, avalia e, em seguida, promt novamente, fazendo pequenas correções ao longo do processo. Historicamente, esse tipo de julgamento não advém do uso da IA. Ele advém de ter realizado trabalhos semelhantes aos que agora utilizam IA e de aprender com a experiência, por vezes deficiente, lenta e imperfeita, da repetição, com responsabilidade real pelos resultados, aprimorando o seu foco. Isso leva a um paradoxo que as organizações estão enfrentando agora, quer percebam isso ou não: a IA aumenta simultaneamente a necessidade de julgamento e corrói as experiências que o produzem. Amy Edmondson, da Harvard Business School, e Tomas Chamorro-Premuzic, da Russell Reynolds, alertaram para os riscos de utilizar a IA para substituir totalmente as funções de nível básico. Este artigo centra-se no que acontece quando as funções juniores permanecem, mas o seu valor de desenvolvimento muda fundamentalmente. Primeiro, gostaria de explicar detalhadamente o que entendo por julgamento. O que é julgamento? O julgamento é uma das características que os líderes invocam constantemente, mas raramente definem. Frequentemente, é um fator determinante para a promoção; torna-se cada vez mais importante à medida que alguém sobe na carreira. Já estive dos dois lados dessa equação: precisando demonstrar julgamento para avançar e, posteriormente, procurando por ele ao avaliar outras pessoas. O julgamento pode ser definido como a capacidade de agir com sabedoria em situações em que as regras por si só são insuficientes —reconhecendo o que é mais importante em uma situação, ponderando prioridades e compromissos concorrentes, antecipando consequências e decidindo quando assumir pessoalmente uma escolha em meio à incerteza. Essa definição implica que, quando os líderes falam sobre julgamento, eles geralmente estão agrupando várias formas distintas dele. Na prática, ele se manifesta de pelo menos cinco maneiras: Julgamento avaliativo: reconhecer se algo é bom ou ruim, forte ou fraco, apropriado ou inadequado Julgamento contextual: Saber quando as regras gerais se aplicam e quando a situação é diferente o suficiente para exigir uma exceção Julgamento de compensação: ponderar objetivos concorrentes quando nenhuma opção é claramente correta Julgamento antecipatório: prever consequências de segunda ordem antes que elas se materializem Julgamento de responsabilidade: decidir quando assumir pessoalmente uma decisão e seus riscos, em vez de adiar ou escalar em caso de incerteza Como ilustração simples, considere a decisão de aprovar ou não o lançamento de um novo produto. Dois líderes podem analisar os mesmos dados, compreender os mesmos riscos e concordar com as vantagens prováveis. No entanto, um aprova o lançamento, enquanto o outro hesita. A diferença está no julgamento: o primeiro líder considera o risco da cadeia de suprimentos gerenciável e acredita que um atraso de seis meses cederia muito terreno aos concorrentes; o segundo se preocupa que um problema de qualidade no lançamento possa prejudicar a confiança na marca de maneiras que levariam anos para serem reparadas. Nenhum dos dois está errado, eles apenas estão avaliando as mesmas vantagens e desvantagens de maneira diferente, com base no reconhecimento de padrões construído ao longo de anos observando decisões semelhantes serem tomadas. Essas formas de julgamento não são normalmente ensinadas diretamente. Em vez disso, elas emergem da própria estrutura do trabalho. De onde vem tradicionalmente o julgamento Na maioria das organizações, o julgamento surge como um subproduto da forma como o próprio trabalho é estruturado. Por exemplo, em empresas de serviços profissionais, os consultores juniores são responsáveis por tarefas como realizar pesquisas, sintetizar insights a partir delas, construir modelos e preparar comunicações. Na minha experiência nessa função, as primeiras tentativas em todas essas tarefas foram falhas e incompletas. No entanto, recebi feedback e orientação dos meus gerentes, melhorei e, gradualmente, adquiri julgamento sobre como seriam resultados de alta qualidade. Esse padrão se repete em cada novo nível da hierarquia da empresa de consultoria, de analista a gerente e sócio. À medida que você sobe na empresa, a natureza de suas responsabilidades muda para liderar projetos, gerenciar e desenvolver pessoas, construir relacionamentos com clientes e construir a organização. No entanto, o julgamento se desenvolve de maneiras semelhantes: você recebe novas responsabilidades que o desafiam; você tenta, às vezes falha, recebe feedback e aprende com a experiência. O padrão não se limita aos serviços profissionais; é uma forma comum de desenvolver talentos em todos os tipos de organizações, em todas as funções. Para citar apenas dois exemplos (ambos em áreas onde a IA já está tendo um grande impacto): Gerenciamento de produtos Historicamente, os gerentes de produto juniores (PMs) aprendiam a tomar decisões escrevendo documentos preliminares com os requisitos do produto, explicitando as compensações, defendendo as decisões de priorização sobre os recursos a serem desenvolvidos e observando o que acontecia após o lançamento. Hoje, a IA pode gerar em minutos todas essas coisas: especificações do produto, histórias de usuários (descrições de um recurso do produto, escritas da perspectiva dos usuários finais para definir o que eles desejam alcançar e por quê), roteiros e muito mais. Os novos PMs agora muitas vezes apenas revisam esses resultados, em vez de criá-los. Marketing Grande parte do trabalho padrão das equipes de marketing (e das agências), como a geração de textos publicitários e recursos visuais, bem como a concepção de campanhas, pode agora ser gerada pela IA de forma muito rápida e em grande escala (o que significa que é possível gerar um conjunto essencialmente infinito de opções à escolha). Esse resultado melhora à medida que é treinado em campanhas anteriores da empresa, documentos de estratégia e atividades dos concorrentes. Isso significa que a geração atual de profissionais de marketing juniores não precisa necessariamente realizar todo o trabalho árduo de criar essas coisas por conta própria, perdendo assim o que é um ritual tradicional de desenvolvimento. Duas características cruciais desse sistema são a responsabilidade real pelas decisões e a repetição. Nada é mais eficaz do que ser responsável pelas consequências de uma decisão para aprimorar seu julgamento. A repetição também é importante, para que, quando for solicitado a avaliar o trabalho de outras pessoas, você já tenha se esforçado para produzi-lo muitas vezes. Nada disso é especialmente eficiente, mas funciona. No entanto, esse sistema se baseia na suposição de que os seres humanos continuariam a realizar as tarefas essenciais por meio das quais o julgamento é construído. Na era da IA, essa suposição não se sustenta mais. O paradoxo: julgamento sem experiência Isso leva ao paradoxo que as organizações estão enfrentando atualmente: para utilizar a IA de forma eficaz, as pessoas precisam ter discernimento sobre a tarefa em questão, mas, à medida que a IA assume mais funções, as experiências que antes geravam discernimento começam a desaparecer. Para os indivíduos, a mudança se manifesta na forma como eles vivenciam o trabalho e desenvolvem suas habilidades. Os resultados gerados pela IA chegam rapidamente e com um tom de confiança; revisar e refinar esses resultados pode parecer um envolvimento significativo por parte do ser humano que trabalha com eles. No entanto, como a pessoa agora está reagindo a uma resposta gerada em vez de criar algo a partir de uma página em branco, o trabalho cognitivo e as habilidades relacionadas desenvolvidas são bastante diferentes. Para as organizações como um todo, esse efeito se agrava. As funções de nível básico perdem as tarefas complexas e formativas que antes serviam como campo de treinamento, levando os gerentes de nível médio a serem solicitados a supervisionar trabalhos que eles próprios nunca aprenderam a realizar completamente. Os líderes seniores percebem que menos pessoas são capazes de assumir funções que exigem julgamento real em situações de incerteza. Uma consequência dessa dinâmica foi descrita em um artigo da HBR sobre o que seus autores chamaram de “workslop” gerado por IA: trabalho que parece polido, mas carece da substância ou do contexto necessário para levar adiante as decisões. O workslop prejudica a produtividade, causando confusão e retrabalho, pois poucas pessoas são capazes de reconhecer seus limites ou corrigi-lo. Por que “Human in the Loop” não é suficiente Diante das preocupações com o excesso de automação, muitas organizações convergiram para um princípio tranquilizador: manter os seres humanos no circuito. Isso assume várias formas, incluindo revisões formais para certos tipos de resultados ou decisões, e é um princípio importante que reduz o risco. No entanto, não resolve o problema mais profundo de criar condições nas quais o julgamento possa se desenvolver. Outras salvaguardas comuns de IA, embora valiosas, podem inadvertidamente agravar esse problema. Considere os protocolos de escalonamento, que são regras que exigem que os funcionários juniores encaminhem casos ambíguos ou de alto risco aos supervisores para que eles tomem decisões. Eles protegem a qualidade no curto prazo, mas também ensinam aos funcionários mais novos que a incerteza é algo a ser transferido, em vez de resolvido. Com o tempo, a organização se torna cada vez mais dependente de um grupo cada vez menor de tomadores de decisão experientes, enquanto o fluxo de pessoas que aprendem a lidar com ambiguidades diminui. A questão fundamental é que a maioria dos projetos “human in the loop” (humano no circuito) otimiza o controle e o gerenciamento de riscos conhecidos, em vez do desenvolvimento dos seres humanos que estão no circuito. Um exemplo concreto: julgamento editorial Para entender o que está em jogo, considere o trabalho de um editor de revista experiente. Quando um rascunho chega à mesa do editor, sua tarefa é avaliar sua qualidade em várias dimensões, como fluidez, argumentação, evidência, tom, adequação ao público, originalidade, valor prático e outras. Ele pode fazer todas essas avaliações simultaneamente, enquanto pondera se a qualidade geral é promissora o suficiente para merecer a eventual publicação. Se for, ele observará como, em cada uma dessas dimensões, o artigo precisa ser melhorado para que isso seja possível. Também sinalizará o que pode estar faltando no artigo e precisa ser adicionado. Esse julgamento foi construído ao longo de anos de trabalho com rascunhos confusos, fornecendo feedback, discutindo com aspirantes a autores sobre seus trabalhos, decidindo o que publicar e, principalmente, observando como os leitores respondiam. Os grandes editores são frequentemente escritores talentosos; ver o seu próprio trabalho passar pelo processo de edição também ajudou a formar o seu julgamento. Embora parte dessa experiência possa ser formulada em regras explícitas, em outros casos pode ser tácita ou ter-se tornado tão familiar que parece intuição quando aplicada. Agora imagine pedir a alguém sem esse conhecimento prévio para avaliar o mesmo rascunho. Embora a pessoa possa ser altamente inteligente, diligente e capaz de identificar problemas superficiais, ela terá dificuldade em avaliar o que realmente importa. Ela não saberá quais falhas no rascunho enviado são corrigíveis ou como o texto se encaixa na agenda editorial mais ampla. Seu feedback tenderá a ser cauteloso ou mal direcionado, simplesmente porque ela não tem a experiência necessária para fornecê-lo. Essa lacuna ilustra o problema que todas as organizações enfrentam atualmente com a IA. Como a IA é extremamente rápida na produção de resultados que parecem de alta qualidade em tantos domínios diversos, seus operadores humanos estão essencialmente na posição de um editor inexperiente: eles precisam revisar e avaliar os resultados sem a experiência necessária para formar um bom julgamento editorial. O risco organizacional que os líderes estão deixando passar Quando vista isoladamente, a erosão do julgamento pode parecer uma questão de habilidades ou uma dificuldade temporária de crescimento. Quando vista de forma sistêmica, ela representa um risco para a liderança e a sucessão. As organizações dependem de um reabastecimento constante de pessoas capazes de tomar decisões acertadas em situações de incerteza. Historicamente, esse reabastecimento ocorria à medida que as pessoas passavam por diferentes funções e acumulavam experiência com escolhas cada vez mais importantes. À medida que a IA automatiza o trabalho formativo, menos pessoas enfrentarão as situações que antes serviam como campo de treinamento para o julgamento, com o resultado de que isso se concentra em um grupo menor de líderes seniores cuja experiência é anterior à automação generalizada. Em última análise, os canais de sucessão se reduzirão, pois muitos na próxima geração de líderes não terão a capacidade crítica de tomar decisões em condições cada vez mais comuns de novidade ou ambiguidade. Há também um efeito cultural mais sutil. Quando as pessoas são afastadas do tipo de propriedade descrito aqui no início de suas carreiras, a ênfase de seu aprendizado muda naturalmente para como gerenciar para cima, em detrimento de aprender como decidir. Esses são riscos reais apresentados pela IA e são distintos de outros riscos comumente citados relacionados à IA. Introdução: reconstruindo as condições para o julgamento O desafio que as organizações enfrentam agora é como redesenhar o trabalho na era da IA para que o julgamento ainda possa se desenvolver. Um bom ponto de partida é fazer perguntas diagnósticas que destaquem onde, para uma determinada função, as decisões são tomadas e os conhecimentos e habilidades necessários para tomá-las. Essas perguntas incluem: Quem está realmente tomando decisões importantes e quem está apenas revisando o trabalho feito por outras pessoas ou por máquinas? Onde as pessoas experimentam os efeitos posteriores de suas escolhas, incluindo os fracassos? Quais funções perderam as tarefas repetitivas e de baixo risco que antes desenvolviam o julgamento ao longo do tempo? Onde as pessoas estão sendo protegidas da ambiguidade, em vez de serem solicitadas a lidar com ela? Essas perguntas fornecem insights sobre onde ainda existem condições para a formação do julgamento e onde a IA removeu as pessoas desses momentos. Para o último caso, outras maneiras de promover o desenvolvimento devem ser implementadas. Embora tais mecanismos sejam objeto de pesquisa ativa, é possível obter inspiração em áreas em que adquirir experiência no mundo real é muito caro ou perigoso, como a medicina e as forças armadas. Ambas as áreas há muito tempo desenvolvem o julgamento deliberadamente por meio de mecanismos como aprendizagem baseada em casos, simulação, aumento gradual das responsabilidades dos indivíduos à medida que comprovam seu julgamento em cada nível e reflexão estruturada pós-ação. O desafio determinante da era da IA é como continuar a formar pessoas capazes de exercer o julgamento.

Como os profissionais desenvolvem bom senso na era da inteligência artificial?

Resumo.

Partner Center