A GenAI pode tornar as conversas on-line mais civilizadas

A IA generativa deve parecer uma super arma para agentes mal-intencionados que pretendem semear a discórdia on-line. Vídeos de deep-fake se fazem passar por figuras públicas com uma fidelidade sem precedentes, enxames de chatbots de conversação alimentam conflitos por meio de apelos personalizados, e os esforços para detectar e mitigar essas campanhas ainda estão engatinhando. Mas a IA generativa também pode mediar conflitos em sua organização? Meus colegas e eu realizamos pesquisas que indicam que os modelos de linguagem grande, como o ChatGPT, podem tornar as conversas on-line mais produtivas, reduzir a incivilidade e aumentar a disposição para ter conversas difíceis em meio às divisões sociais. Além disso, já estamos vendo aplicações práticas: Inspirado por essa pesquisa, o Nextdoor, uma plataforma de mídia social baseada na comunidade que tem lutado para repelir a toxicidade on-line, lançou recentemente um esforço bem-sucedido e em grande escala para reduzir a incivilidade. A maioria das pessoas é ruim em lidar com conflitos. Superestimamos nossa capacidade de persuadir os outros, de falar sem pensar uns nos outros ou de evitar discussões estressantes. No entanto, a ciência social produziu uma grande quantidade de evidências sobre a mediação de conflitos. Quando as pessoas aprendem técnicas como a escuta ativa ou a tomada de perspectiva, é mais provável que consigam transmitir seus próprios pontos de vista. Mas esse treinamento consome tempo e é caro, e geralmente não atinge as pessoas que evitam conflitos. Em um estudo publicado recentemente na revista Proceedings of the National Academy of Sciences, meus colegas e eu examinamos se os Large Language Models podem ensinar às pessoas técnicas de mediação de conflitos em grande escala. Recrutamos um grande grupo de pessoas com opiniões diferentes sobre o controle de armas e as emparelhamos para discutir esse tópico com alguém que não compartilha da mesma opinião em uma plataforma de bate-papo on-line que criamos. Depois de trocar várias mensagens em nossa plataforma, metade dos participantes da pesquisa começou a receber mensagens pop-up sugerindo frases alternativas para as mensagens que estavam prestes a enviar ao seu parceiro de bate-papo. Esses pop-ups empregaram o GPT-3 para reformular cada mensagem usando princípios de mediação de conflitos, sem alterar a opinião expressa nelas. Os participantes tinham a opção de enviar essas versões reformuladas de suas mensagens ou ignorá-las. Descobrimos que a GPT-3 é surpreendentemente boa em facilitar conversas difíceis. As pessoas cujo parceiro usou as reformulações geradas pela IA descreveram as conversas como mais produtivas, menos estressantes e expressaram maior disposição para considerar pontos de vista alternativos. Embora nossa intervenção tenha melhorado a civilidade das conversas on-line, ela não mudou imediatamente a atitude das pessoas em relação ao controle de armas. Mas talvez isso seja bom: uma IA que dá aos usuários fortes poderes de persuasão poderia causar estragos nas mãos erradas. Nosso estudo foi realizado um mês antes de o ChatGPT ser lançado publicamente, muito antes do aumento da preocupação pública com a IA generativa. Além disso, examinamos apenas se o GPT-3 poderia facilitar as conversas sobre um único assunto em um ambiente um tanto artificial. A próxima pergunta, portanto, era óbvia: essas mesmas ferramentas podem reduzir conflitos em ambientes do mundo real? Se um esforço recente lançado pela Nextdoor servir de guia, a resposta a essa pergunta é sim. Uma pesquisa nacionalmente representativa revelou recentemente que há muitos conflitos no Nextdoor, apesar de - ou talvez por causa de - sua origem humilde, que conecta vizinhos entre si. Se há um espaço on-line em que a TI generativa poderia sair dos trilhos tentando dissuadir conflitos, talvez seja o Nextdoor. Mas em seu último Relatório de Transparência, a NextDoor anunciou alguns resultados impressionantes sobre o uso da TI para mediar conflitos. Quando a IA reformulou mensagens desagradáveis que os usuários estavam prestes a enviar, muitos optaram por usá-las, e outros se sentiram compelidos a editar suas postagens originais. Outros ainda optaram por não enviar suas mensagens. Por fim, a intervenção gerou uma queda impressionante de 15% no conteúdo tóxico. Dada a quantidade de comunicação potencialmente contenciosa que ocorre no local de trabalho no Slack, no Microsoft Teams e em outras plataformas de colaboração - especialmente durante períodos de alta tensão social e política - talvez seja hora de essas plataformas considerarem a adição de chatbots que possam realizar intervenções semelhantes. Mas nenhuma organização pode evitar conflitos para sempre. Conversas acaloradas são um fato da vida para a maioria dos executivos, gerentes e funcionários de nível inferior, e as novas ferramentas de IA podem não apenas ajudar a esfriá-las, mas também nos preparar para elas antes que comecem. Esse é o objetivo do Rehearsal, uma plataforma criada por cientistas da computação de Stanford que permite que as pessoas pratiquem conversas difíceis com um interlocutor digital. Uma avaliação experimental da plataforma apresentou recentemente alguns resultados promissores: Em especial, os participantes do estudo que usaram a plataforma tiveram uma probabilidade significativamente maior de evitar o agravamento de conflitos, em comparação com os participantes de uma condição de controle. Se a história da Internet nos servir de guia, impedir que agentes mal-intencionados causem estragos nos sistemas sociais continuará sendo um jogo de pega-pega. À medida que as organizações se deparam com tecnologias capazes de imitar seus funcionários, clientes ou líderes de uma maneira incrível, os executivos astutos devem pensar em como equilibrar o bom e o ruim. A IA generativa pode ajudar a fortalecer os vínculos sociais que permitem que as organizações eficazes resistam a essas ameaças e se tornem conscientes de nossos pontos cegos - antes que eles se tornem vulnerabilidades.

A GenAI pode tornar as conversas on-line mais civilizadas

Resumo.

Partner Center