Duas estruturas para equilibrar a inovação e o risco da IA

Apenas 26% das empresas desenvolveram produtos de IA funcionais e apenas 4% obtiveram retornos significativos sobre seus investimentos, de acordo com o estudo 2024. Para preencher a lacuna entre aspiração e realização, é necessária uma abordagem sistemática para a transformação da TI, que prepare as organizações para pensar nas maiores questões que essa tecnologia levanta sem perder de vista seu impacto no dia a dia. Os riscos não poderiam ser maiores. As organizações que não se adaptarem se tornarão as Polaroids e as Blockbusters da era da IA. No entanto, uma implementação precipitada traz seus próprios perigos. Quando a Zillow anunciou, em fevereiro de 2021, que começaria a comprar propriedades avaliadas por um algoritmo de aprendizado de máquina, a medida foi amplamente saudada como um passo para o admirável mundo novo da inteligência artificial. Oito meses depois, a nova unidade de negócios foi fechada com perdas de cerca de US$ 300 milhões. As oportunidades e os riscos que a IA apresenta exigem uma reflexão cuidadosa e respostas estratégicas deliberadas. Soluções fragmentadas não serão suficientes. O ritmo do desenvolvimento da IA, combinado com a capacidade exclusiva da tecnologia de transformar as relações humanas e a cultura organizacional, exige estruturas que possam equilibrar tanto a incerteza sem precedentes quanto a necessidade de ação imediata. As organizações precisam de sistemas abrangentes de pensamento que possam guiá-las por meio da transformação contínua, sem perder de vista seus objetivos principais e as partes interessadas humanas. Passei três décadas orientando a transformação digital em organizações que vão desde empresas da Fortune 2000 até as maiores agências governamentais. Ao longo dessas experiências, sempre me deparei com duas atitudes comuns, mas contrastantes, que impedem as organizações de implementar novas tecnologias com sucesso: a resistência institucional à mudança e a adoção impulsiva de tecnologia sem propósito estratégico. Atualmente, vejo muitas organizações replicando os mesmos erros em sua abordagem à IA. A solução para esse problema de dois gumes está na adoção de estruturas complementares que se combinam para criar uma abordagem equilibrada para a adoção da IA. A estrutura OPEN (Outline, Partner, Experiment, Navigate) oferece um processo sistemático de quatro etapas para aproveitar o potencial da IA, orientando as organizações desde a avaliação inicial até a implementação sustentada. A estrutura CARE (Catastrophize, Assess, Regulate, Exit) oferece uma estrutura paralela para identificar e gerenciar riscos relacionados à IA, tanto em projetos de inovação quanto no ambiente corporativo mais amplo. Embora distintas em seus propósitos, ambas as estruturas foram projetadas para serem flexíveis o suficiente para evoluir junto com a IA. Essas estruturas incorporam e possibilitam duas mentalidades complementares: otimismo radical sobre o potencial da TI equilibrado com uma profunda cautela sobre seus riscos. Ao integrar um processo de gerenciamento de inovação com uma abordagem de gerenciamento financeiro e de portfólio (PfM), as organizações podem promover mudanças transformadoras e, ao mesmo tempo, manter proteções robustas. A estrutura OPEN Com base no propósito organizacional e na experiência humana com IA, a estrutura OPEN enfatiza que a adoção bem-sucedida depende não apenas da tecnologia, mas também da liderança e de uma cultura capaz de sustentar a transformação contínua. Cada etapa do processo contribui para o desenvolvimento de um portfólio de inovação, permitindo que as organizações gerenciem projetos de IA desde a concepção até a implementação, manutenção e eventual aposentadoria. 1. Esboço Muitas organizações começam sua jornada de IA perguntando "O que essa tecnologia pode fazer?" em vez de "O que essa tecnologia pode fazer para nos ajudar a cumprir nossa missão?" Essa abordagem leva a soluções orientadas por tecnologia em busca de problemas, em vez de novas maneiras de fornecer valor real. Ao reafirmar seu propósito logo no início do processo e, em seguida, alinhar todas as decisões com esse propósito como o critério único e mais básico de sucesso, as organizações podem evitar ser desviadas pelos recursos quase ilimitados da IA. A Coca-Cola oferece um estudo de caso convincente sobre a facilidade com que as empresas podem perder o foco em seu objetivo principal, movidas pela tentação de experimentar as últimas tendências tecnológicas. Em 2023, a Coca-Cola lançou uma nova bebida, a Y3000, que havia sido criada em conjunto com a IA. Talvez sem surpresa, a empresa recebeu muitas críticas pelo sabor desagradável da bebida. Em 2024, a Coca-Cola novamente adotou a IA como um artifício, minando seu longo histórico de campanhas publicitárias de Natal bem-sucedidas com um esforço movido a IA que não agradou a quase ninguém. Embora houvesse algum valor a ser encontrado em testar os recursos da IA generativa em escala, a associação de uma marca amada com imagens perturbadoras diretamente do vale misterioso foi um claro passo em falso. A Nike oferece um contraexemplo que mostra como as iniciativas de IA podem estar profundamente alinhadas com o propósito organizacional. A missão da Nike é "levar inspiração e inovação a todos os atletas" (enfatizando que "se você tem um corpo, você é um atleta"). Em vez de buscar a IA como um artifício de marketing individualizado, a Nike implementou soluções de IA que atendem diretamente a essa missão. Sua tecnologia Nike Fit usa visão computacional com tecnologia de IA para ajudar os clientes a encontrar o tamanho perfeito de calçados por meio de uma simples leitura do telefone. Sua estratégia Consumer Direct Acceleration emprega IA para detectar a demanda e otimizar o estoque, garantindo que os produtos certos cheguem aos consumidores certos no momento certo. Ao começar com seu objetivo principal de atender aos atletas, a Nike evitou a armadilha da tecnologia pela tecnologia e, em vez disso, desenvolveu casos de uso de IA que criam valor genuíno para seus clientes e fortalecem sua marca. Diretrizes práticas para a fase de esboço: Reafirme o propósito organizacional: antes de adotar a IA, reveja e reafirme a missão de sua organização para garantir clareza e adesão. Avalie o conhecimento atual: Avalie o conhecimento e a prontidão da organização em IA. Realize workshops para identificar as lacunas de conhecimento. Desenvolva programas para preencher as lacunas. Brainstorm de casos de uso: Designe equipes multifuncionais para se envolverem em reflexões sobre aplicativos de IA. Filtrar: Filtre os possíveis casos de uso, avaliando-os em relação aos parâmetros de propósito organizacional e prontidão para IA. 2. Parceria O desenvolvimento e a implementação de uma estratégia de inovação de IA é um problema interdisciplinar clássico. A tarefa não pode ser entregue ao departamento de TI, à equipe de P&D ou ao diretor de inovação. Essas funções, e outras mais, precisam ser engajadas e envolvidas para que as soluções de IA tenham a chance de criar valor real. Portanto, as parcerias dentro de uma organização são essenciais para o sucesso das iniciativas de IA. Mas elas raramente serão suficientes. Mesmo as organizações com fortes capacidades internas normalmente precisarão forjar parcerias externas para realizar suas ambições de IA. Embora as grandes empresas de tecnologia possam ser capazes de criar soluções personalizadas de IA desde o início, a maioria das organizações precisará trabalhar com parceiros especializados que possam ajudá-las a desenvolver e implementar as tecnologias específicas necessárias para atingir seus objetivos. Esses parceiros geralmente são prestadores de serviços terceirizados, mas também podem ser acadêmicos, consultores de ética independentes ou reguladores do setor. Mas talvez a parceria mais importante de todas seja aquela entre os seres humanos e os próprios sistemas de IA. Essa parceria reformulará fundamentalmente a cultura de cada organização que implantar soluções de IA, mudando as relações de trabalho, as estruturas de relatórios e as funções individuais. As organizações precisam pensar cuidadosamente sobre como suas implementações de IA transformarão não apenas os processos, mas toda a experiência humana em sua organização. Um sistema de IA aumentará as capacidades humanas ou as substituirá? Como ele afetará a dinâmica da equipe e as hierarquias organizacionais? Ele operará nos bastidores ou interagirá diretamente com os usuários? Essas perguntas sobre a parceria homem-IA precisam ser consideradas desde o início de qualquer iniciativa de IA, e não tratadas como uma reflexão tardia quando a solução técnica já estiver construída. Diretrizes práticas para a fase de parceria: Mapeie o conhecimento interno e as oportunidades de colaboração: Comece identificando os recursos internos existentes que podem ser aproveitados para iniciativas de IA. Mapeie a experiência entre departamentos, garantindo que as equipes certas (por exemplo, ciência de dados, TI, operações e marketing) possam trabalhar juntas sem problemas. Avalie e examine os parceiros externos: A seleção de colaboradores externos, como fornecedores de tecnologia, instituições acadêmicas ou start-ups de IA de nicho, é fundamental para preencher as lacunas de capacidade. Os líderes devem garantir que os possíveis parceiros estejam alinhados com suas metas organizacionais, valores e requisitos operacionais. Estabelecer estruturas de governança para parcerias: As parcerias de IA geralmente envolvem compartilhamento de dados, considerações sobre propriedade intelectual (PI) e inovação colaborativa. Estruturas de governança claras ajudam a gerenciar essas complexidades e a garantir a responsabilidade. Priorizar o design centrado no ser humano em projetos de IA: Certifique-se de que as implementações de IA, sejam elas internas ou voltadas para o cliente, mantenham a experiência humana no centro de seu projeto e implantação. Isso é vital para a adoção e os resultados positivos. 3. Experimente Passar do pensamento azul sobre as possibilidades da IA para a implementação prática requer uma abordagem experimental cuidadosamente estruturada. Muitas organizações cometem o erro de passar diretamente da ideação para a implementação em grande escala, o que leva a falhas dispendiosas e oportunidades perdidas. Outras ficam presas em um ciclo interminável de provas de conceito que nunca se traduzem em valor no mundo real. Ambas as abordagens desperdiçam recursos e, o que é mais importante, desperdiçam a oportunidade de aprender lições vitais sobre como a IA pode criar valor em um contexto organizacional específico. O segredo para uma experimentação de IA bem-sucedida é estruturar os experimentos como uma jornada de aprendizado e não como um exercício de validação. Cada experimento deve ser projetado não apenas para testar se uma determinada solução de TI funciona, mas para gerar insights sobre como ela pode criar valor, como pode ser dimensionada e como os seres humanos interagirão com ela. Isso significa ir além do teste de viabilidade técnica para explorar a viabilidade em nível empresarial e a conveniência humana. Significa testar não apenas o sistema de TI em si, mas também os recursos organizacionais necessários para apoiá-lo. E significa estar disposto a falhar rapidamente e aprender rapidamente. Diretrizes práticas para a fase de experimentos: Desenvolver protótipos conceituais: Use a modelagem conceitual para visualizar como a IA se integra à sua arquitetura empresarial atual. Faça um storyboard da jornada do cliente para prever os pontos de contato e os desafios. Comece pequeno: Implante pilotos de uso limitado para coletar dados sobre a viabilidade e o desempenho. Por exemplo, um banco poderia testar a detecção de fraude orientada por IA em uma única agência antes de expandir. Incorporar cenários do mundo real: Projete experimentos que reflitam as condições e exceções do mundo real em vez de configurações idealizadas. Isso garante que os resultados sejam práticos e escaláveis e, ao mesmo tempo, revela possíveis problemas que podem surgir em uma implementação mais ampla. Defina métricas para o sucesso: Identifique os KPIs para cada experimento, como o aumento da eficiência operacional ou da satisfação do cliente. 4. Navegar A fase de navegação envolve a condução da organização por meio da adoção da IA, garantindo o alinhamento com metas estratégicas e valores culturais mais amplos. A TI enfatiza o aprendizado e a adaptação contínuos em um cenário em rápida evolução no qual os fatores técnicos e humanos estão profundamente interligados. A chave para o sucesso da inovação em IA está em manter um fluxo constante de projetos de alto potencial por meio de um pipeline de inovação cuidadosamente projetado que transforma ideias em sistemas operacionais. Os projetos avançam por esse pipeline com base em pontuações de classificação compostas que refletem a prioridade estratégica, o nível de risco, o valor potencial, o custo e a dificuldade de implementação. Essas classificações fornecem uma base objetiva para priorizar quais projetos devem avançar em um determinado momento. A velocidade do pipeline - a rapidez com que os projetos passam pelo sistema - exige um gerenciamento cuidadoso. Se for muito rápido, o senhor corre o risco de adiantar projetos antes que eles estejam prontos, ao passo que se for muito lento pode levar à perda de oportunidades ou a desvantagens competitivas. O segredo é manter um ritmo constante de avanço e, ao mesmo tempo, garantir que as portas de qualidade sejam devidamente aplicadas. Isso geralmente significa executar vários projetos em paralelo, em diferentes estágios, criando um fluxo contínuo em vez de um processo de parada e início. Diretrizes práticas para a implementação do Navigate: Aplicar métricas objetivas: Desenvolva um portfólio de inovação que categorize as iniciativas de IA com base no risco, na recompensa, nos requisitos de recursos, na dificuldade de implementação e no alinhamento estratégico. Revise e atualize regularmente o portfólio para garantir que ele reflita a evolução das prioridades e das condições do mercado. Priorizar a alocação de recursos: Alocar recursos estrategicamente com base no impacto potencial e na viabilidade dos projetos de IA. Para evitar a dispersão excessiva de recursos, concentre-se em iniciativas que estejam estreitamente alinhadas à sua missão principal e aos objetivos de longo prazo. Adote uma cultura de aprendizado: Incentive o aprendizado iterativo integrando ciclos de feedback. Por exemplo, uma empresa de logística que usa IA para otimização de rotas pode ajustar os modelos com base no feedback dos motoristas. Monitore o horizonte: Mantenha-se atualizado sobre as tendências de IA para antecipar as mudanças. Aloque recursos para P&D para garantir a prontidão para a próxima onda de inovação. A estrutura CARE Embora a TI prometa transformação em todas as funções organizacionais, ela também introduz vulnerabilidades que podem prejudicar ou até mesmo destruir organizações despreparadas. Por exemplo, embora as ferramentas de diagnóstico alimentadas por IA estejam revolucionando a prestação de serviços de saúde, os sistemas de IA também podem cometer erros potencialmente catastróficos no diagnóstico médico devido a dados de treinamento tendenciosos. Da mesma forma, à medida que as organizações implantam a IA para o gerenciamento de infraestruturas críticas, elas enfrentam uma maior exposição a ameaças de segurança cibernética que podem se propagar por sistemas interconectados. Esses desafios técnicos são ampliados pelas mudanças organizacionais e culturais que a IA exige, pois as equipes precisam se adaptar a novas formas de trabalhar e pensar. As organizações também precisam lidar com uma série de outros riscos, incluindo Riscos de reputação que podem surgir de desastres de RP impulsionados pela IA Exposição legal resultante de viés de IA, ambiguidades em torno de direitos autorais e questões de privacidade do cliente Riscos estratégicos que surgem à medida que a IA remodela rapidamente setores inteiros. A complexidade e a natureza interconectada desses riscos exigem uma abordagem estruturada para identificação, avaliação e mitigação. A estrutura CARE (Catastrophize, Assess, Regulate, Exit) adota uma abordagem proativa, e não reativa, para o gerenciamento de riscos de IA. Diferentemente das abordagens tradicionais de gerenciamento de riscos, a CARE foi projetada especificamente para lidar com as dimensões técnicas e humanas do risco de IA. A TI leva em conta a rápida evolução dos recursos de IA, o potencial de comportamentos emergentes inesperados, a transformação da cultura organizacional e as complexas interconexões entre fatores técnicos, operacionais e humanos. A estrutura pode ser aplicada iterativamente à medida que os sistemas de IA evoluem e surgem novos riscos. O CARE oferece às organizações uma metodologia estruturada para identificar e gerenciar os riscos relacionados à IA. Identificar sistematicamente os riscos potenciais nas dimensões técnica, operacional e estratégica. Isso cria um inventário abrangente de riscos que serve de base para todo o planejamento subsequente. Avaliação da probabilidade de risco, do impacto potencial e da capacidade organizacional de resposta. Isso permite a priorização dos riscos e a alocação eficiente de recursos. Implementação de controles, sistemas de monitoramento e estruturas de governança para gerenciar os riscos identificados. Essa etapa traduz a análise em salvaguardas e procedimentos acionáveis. Desenvolvimento de protocolos claros para resposta a riscos, incluindo procedimentos de desligamento do sistema e planos de continuidade da empresa. Isso proporciona uma rede de segurança vital quando as medidas preventivas falham. A IA representa uma mudança fundamental na forma como as organizações operam e criam valor. Para ter sucesso, as empresas devem adotar uma abordagem equilibrada que abrace o potencial da TI e, ao mesmo tempo, esteja atenta aos seus riscos. Ao integrar estruturas estruturadas como OPEN e CARE, as organizações podem navegar pelas complexidades da adoção da IA, garantindo tanto a inovação quanto a resiliência. Essa abordagem dupla permite que as organizações aproveitem o poder transformador da IA e, ao mesmo tempo, se protejam contra possíveis armadilhas. Em última análise, a chave para prosperar na era da IA está em uma abordagem estratégica, cuidadosa e equilibrada.

Duas estruturas para equilibrar a inovação e o risco da IA

Resumo.

Partner Center