La GenAI podría hacer más civiles las conversaciones en línea

La IA generativa debe parecer una superarma para los actores maliciosos que pretenden sembrar la discordia en Internet. Los vídeos deep-fake suplantan la identidad de figuras públicas con una fidelidad sin precedentes, enjambres de chatbots conversacionales avivan el conflicto mediante llamamientos personalizados, y los esfuerzos para detectar y mitigar este tipo de campañas siguen en pañales. Pero, ¿puede la IA Generativa mediar también en los conflictos dentro de su organización? Mis colegas y yo hemos llevado a cabo una investigación que indica que los modelos de gran lenguaje como ChatGPT pueden hacer que las conversaciones en línea sean más productivas, reducir el incivismo y aumentar la disposición a mantener conversaciones difíciles por encima de las divisiones sociales. Es más, ya estamos viendo aplicaciones prácticas: Inspirada por estas investigaciones, Nextdoor, una plataforma de medios sociales basada en la comunidad que ha luchado por rechazar la toxicidad en línea, lanzó recientemente un exitoso esfuerzo a gran escala para reducir la incivilidad. A la mayoría de la gente se le da mal navegar por los conflictos. Sobreestimamos nuestra capacidad para persuadir a los demás, pasamos de unos a otros o evitamos por completo las discusiones estresantes. Sin embargo, las ciencias sociales han producido una rica serie de pruebas sobre la mediación de conflictos. Cuando las personas aprenden técnicas como la escucha activa o la toma de perspectiva, es más probable que consigan transmitir sus propios puntos de vista. Pero este tipo de formación requiere mucho tiempo y dinero y no suele llegar a quienes evitan los conflictos. En un estudio publicado recientemente en la revista Proceedings of the National Academy of Sciences, mis colegas y yo examinamos si los modelos de gran lenguaje pueden enseñar a las personas técnicas de mediación de conflictos a escala. Reclutamos a un gran grupo de personas con opiniones diferentes sobre el control de armas y las emparejamos para que debatieran este tema con alguien que no compartiera su punto de vista en una plataforma de chat en línea que construimos. Tras intercambiar varios mensajes en nuestra plataforma, la mitad de los participantes en la investigación empezaron a recibir mensajes emergentes que sugerían fórmulas alternativas para los mensajes que estaban a punto de enviar a su compañero de chat. Estas ventanas emergentes empleaban la GPT-3 para reformular cada mensaje utilizando principios de mediación de conflictos, sin cambiar la opinión expresada en ellos. Los participantes tenían la opción de enviar estas versiones reformuladas de su mensaje o ignorarlas. Descubrimos que la GPT-3 es sorprendentemente buena a la hora de facilitar conversaciones difíciles. Las personas cuya pareja utilizó las reformulaciones generadas por la IA describieron las conversaciones como más productivas, menos estresantes y expresaron una mayor disposición a considerar puntos de vista alternativos. Aunque nuestra intervención mejoró el civismo de las conversaciones en línea, no cambió inmediatamente la actitud de la gente sobre el control de armas. Pero quizá eso sea bueno: una IA que otorga a los usuarios un gran poder de persuasión podría causar estragos en las manos equivocadas. Nuestro estudio se realizó un mes antes de que ChatGPT se diera a conocer públicamente, mucho antes del crescendo de la preocupación pública por la IA Generativa. Además, sólo examinamos si GPT-3 podía facilitar conversaciones sobre un único tema en un entorno un tanto artificial. Por lo tanto, la siguiente pregunta era obvia: ¿Pueden estas mismas herramientas reducir los conflictos en entornos del mundo real? Si un reciente esfuerzo lanzado por Nextdoor sirve de guía, la respuesta a esa pregunta es sí. Una encuesta representativa a nivel nacional reveló recientemente que los conflictos abundan en Nextdoor, a pesar de -o quizás debido a- sus humildes orígenes conectando a los vecinos entre sí. Si hay algún espacio en línea en el que la IA Generativa podría descarrilar tratando de disuadir los conflictos, podría ser Nextdoor. Pero en su último Informe de Transparencia, NextDoor anunció algunos resultados impresionantes sobre su uso de la IA para mediar en los conflictos. Cuando la IA reformuló los mensajes desagradables que los usuarios estaban a punto de enviar, muchos optaron por utilizarla, y otros se sintieron obligados a editar sus mensajes originales. Otros optaron por no enviar sus mensajes en absoluto. En última instancia, la intervención provocó un impresionante descenso del 15% en el contenido tóxico. Teniendo en cuenta la cantidad de comunicación potencialmente conflictiva que tiene lugar en el lugar de trabajo en Slack, Microsoft Teams y otras plataformas de colaboración -especialmente en momentos de gran tensión social y política-, puede que sea hora de que estas plataformas consideren añadir chatbots que puedan poner en escena intervenciones similares. Pero ninguna organización puede evitar los conflictos para siempre. Las conversaciones acaloradas son un hecho de la vida para la mayoría de los ejecutivos, directivos y empleados de menor nivel por igual, y las nuevas herramientas de IA no sólo pueden ayudar a enfriarlas, sino también a prepararnos para ellas antes de que empiecen. Ése es el objetivo de Rehearsal, una plataforma diseñada por informáticos de Stanford que permite a las personas practicar conversaciones difíciles con un interlocutor digital. Una evaluación experimental de la plataforma mostró recientemente algunos resultados prometedores: En particular, los participantes en el estudio que utilizaron la plataforma eran significativamente más propensos a evitar la escalada del conflicto, en comparación con los de una condición de control. Si la historia de Internet nos sirve de guía, evitar que los actores malintencionados causen estragos en los sistemas sociales seguirá siendo un juego de "whack-a-mole". A medida que las organizaciones se enfrentan a tecnologías capaces de mimetizarse con sus empleados, clientes o líderes de forma asombrosa, los ejecutivos astutos deben pensar en cómo equilibrar lo bueno y lo malo. La IA generativa puede ayudar a reforzar los lazos sociales que permiten a las organizaciones eficaces resistir esas amenazas y ser conscientes de nuestros puntos ciegos, antes de que se conviertan en vulnerabilidades.

La GenAI podría hacer más civiles las conversaciones en línea

Resumen.

Partner Center