Liderar en un mundo donde la IA ejerce su propio poder

Idea en breve El gran avance Una nueva generación de sistemas de IA ya no son meras herramientas para nosotros: participan activamente en nuestras vidas, toman decisiones importantes y determinan los resultados sociales y económicos. El nuevo concepto Tenemos que pensar en estos nuevos sistemas como autosapiens - "auto" en el sentido de que son capaces de actuar de forma autónoma, y "sapiens" en el sentido de que poseen una capacidad para realizar juicios complejos que pueden rivalizar e incluso superar a los de los humanos. El imperativo El reto de la era autosapiente consistirá en encontrar formas de potenciar la agencia humana en lugar de disminuirla. Para ello, necesitaremos una alianza sin precedentes de responsables políticos, líderes empresariales, activistas, tecnólogos y consumidores. La rueda, la máquina de vapor, el ordenador personal: A lo largo de la historia, las tecnologías han sido nuestras herramientas. Tanto si se utilizan para crear como para destruir, siempre han estado bajo control humano, comportándose de forma predecible y basada en normas. Mientras escribimos, esta suposición se está deshaciendo. Una nueva generación de sistemas de IA ya no son simplemente nuestras herramientas: se están convirtiendo en actores en sí mismos, participantes en nuestras vidas, comportándose de forma autónoma, tomando decisiones consecuentes y dando forma a los resultados sociales y económicos. Este artículo no es otro conjunto de consejos sobre cómo utilizar ChatGPT. Trata de cómo conceptualizar y navegar por un nuevo mundo en el que ahora vivimos y trabajamos junto a estos actores. A veces nuestros colegas, a veces nuestros competidores, a veces nuestros jefes, a veces nuestros empleados. Y siempre incrustándose, avance a avance, hacia la ubicuidad. Nuestro trabajo e investigación se basan en la exploración de las formas en que la tecnología altera las estructuras de poder y cambia la naturaleza de la participación en la sociedad. Hemos fundado y dirigido empresas, organizaciones y movimientos que utilizan la tecnología para ampliar la participación (Giving Tuesday y Purpose entre ellos), involucrando colectivamente a cientos de millones de personas. La última vez que escribimos para HBR, hace casi 10 años ("Comprender el "nuevo poder"",diciembre de 2014), describimos un cambio importante en la forma de ejercer el poder. El mundo del "viejo poder", en el que el poder se acaparaba y se gastaba como una moneda, estaba siendo desafiado por el auge de un mundo de "nuevo poder", en el que el poder fluía más como una corriente, surgiendo a través de multitudes conectadas. Las nuevas plataformas tecnológicas estaban permitiendo a la gente ejercer su agencia y su voz de formas que antes estaban fuera de su alcance. Estas oportunidades de participación eran a la vez un deleite y una distracción. Pero en cualquier caso, eran irresistibles y, antes de que nadie se diera cuenta, también habíamos cedido un enorme poder a las mismas plataformas que prometían liberarnos. Este momento nos resulta muy familiar. Con la aparición de estos nuevos actores de la IA, estamos en los albores de otro gran cambio en cómo funciona el poder, quién participa y quién sale ganando. Y esta vez tenemos la oportunidad, si actuamos pronto y con lucidez, de hacer las cosas de otra manera. La era de la autosapiencia La IA lleva años influyendo sutilmente en nosotros, potenciando todo, desde el reconocimiento facial hasta las puntuaciones de crédito. Se ha demostrado que los algoritmos de recomendación de contenidos de Facebook influyen en nuestra salud mental y en nuestras elecciones. Pero una nueva generación de sistemas de IA mucho más capaces está ahora sobre nosotros. Estos sistemas tienen características y capacidades distintas que profundizan su impacto. Ya no están en el trasfondo de nuestras vidas, ahora interactúan directamente con nosotros, y sus resultados pueden ser sorprendentemente parecidos a los humanos y parecer omniscientes. Son capaces de superar los puntos de referencia humanos en todo, desde la comprensión del lenguaje hasta la codificación. Y estos avances, impulsados por rupturas materiales en áreas como los grandes modelos lingüísticos (LLM) y el aprendizaje automático, se están produciendo tan rápidamente que están confundiendo incluso a sus propios creadores. Para captar con precisión lo que representan estos nuevos agentes, de qué son capaces y cómo debemos trabajar con ellos, debemos empezar con un marco común para identificarlos y distinguirlos, uno que nos haga ir más allá de la reconfortante pero falsa suposición de que se trata simplemente de nuestro último conjunto de herramientas. Piense en ellos, en cambio, como autosapiens. "Auto" en el sentido de que son capaces de actuar de forma autónoma, tomar decisiones, aprender de la experiencia, adaptarse a nuevas situaciones y operar sin intervención o supervisión humana continua. "Sapiens" en el sentido de que poseen un tipo de sabiduría -una amplia capacidad para realizar juicios complejos en contexto- que puede rivalizar con la de los humanos y en muchos aspectos superarla. Aunque todavía son incipientes, los sistemas autosapientes muestran cuatro características clave. Son agénticos (actúan), adaptativos (aprenden), amables (entablan amistad) y arcanos (desconciertan). Estas características nos ayudan a comprender la forma correcta de acercarnos a ellos y cómo y por qué están llamados a ejercer un poder cada vez mayor. Veamos cada una por separado. Ver más gráficos de HBR en Datos y visuales Agéntico. La característica fundamental de los sistemas autosapientes es que pueden llevar a cabo acciones complejas de varias etapas, tomando decisiones y generando resultados en el mundo real, a menudo sin requerir la participación humana. Lo hacen sin tener mentes tal y como las hemos entendido tradicionalmente. Como dijo recientemente un piloto de las Fuerzas Aéreas de EE.UU. sobre un nuevo sistema aeronáutico impulsado por IA: "Estoy volando sobre el ala de algo que toma sus propias decisiones. Y no es un cerebro humano". Los sistemas agenéticos pueden tanto ayudar como perjudicar. Por poner un ejemplo con implicaciones catastróficas, hace poco se planteó un reto a un grupo de estudiantes no científicos del MIT: ¿Podrían ellos prompt LLM chatbots para diseñar una pandemia? La respuesta resultó ser afirmativa. Incitados por los estudiantes, que sabían muy poco sobre cómo se causan o propagan las pandemias, los LLM calcularon las recetas de cuatro patógenos potenciales, identificaron las empresas de síntesis de ADN que probablemente no examinarían los pedidos y crearon protocolos detallados con una práctica guía de solución de problemas, todo ello en una hora. Se puede pensar en la naturaleza agéntica de los sistemas autosapientes como en un espectro. En un extremo, sus acciones se ajustan a la intención humana, como es el caso de un sistema de IA encargado de encontrar y desarrollar un tratamiento para una enfermedad rara, un contrapunto más esperanzador al experimento del MIT. En el otro extremo, pueden adoptar una voluntad propia salvajemente perjudicial. El famoso experimento mental de la IA conocido como "el maximizador de sujetapapeles" imagina que se le pide a una IA que averigüe cómo producir y asegurar el mayor número posible de sujetapapeles. La IA se dedica tan por completo a la tarea -reunir todos los recursos disponibles en el planeta, eliminar a todos los posibles rivales- que causa grandes estragos mundiales. Muchos expertos prevén un salto aún mayor, cuando la IA se desvincule por completo de la intención humana y demuestre ser capaz de establecer sus propias intenciones y actuar por sí misma. Adaptativa. Los sistemas autosapientes son agentes que aprenden, ajustan sus acciones en función de nuevos datos y mejoran su rendimiento con el tiempo, a menudo de forma notable: Esta capacidad emergente va más allá de realizar ajustes basados en reglas. Estos sistemas pueden identificar patrones complejos, idear nuevas estrategias y dar con soluciones novedosas que no estaban explícitamente programadas en ellos, en parte debido a la enorme escala de las redes neuronales subyacentes de las que se componen. Esto tiene implicaciones potencialmente transformadoras: Como sostiene el filósofo Seth Lazar, una máquina que hace algo más que seguir reglas preprogramadas y que, en cambio, aprende por sí misma puede considerarse no sólo una herramienta para ejercer el poder, sino también una entidad capaz de ejercerlo. Sea testigo del éxito de AlphaFold, un modelo de aprendizaje automático al que se asignó recientemente la vasta tarea científica de predecir la estructura de los 200 millones de proteínas que se calcula que existen en el mundo, los componentes básicos de la vida. Los enfoques científicos tradicionales eran minuciosos, generando estructuras para sólo 170.000, a lo largo de cinco décadas de estudio. Pero AlphaFold ha sido capaz de predecir las estructuras de casi todos los 200 millones en poco más de cinco años y las ha puesto abiertamente a disposición de los científicos del mundo, que ya las están utilizando para acelerar la investigación en campos que van desde la eficacia de los fármacos hasta mejores formas de descomponer el plástico. El modelo AlphaFold logró esta hazaña encontrando su camino hacia modos de descubrimiento que eran nuevos, creativos e imprevistos, incluso para los ingenieros y científicos que diseñaron el sistema. Amable. Los sistemas autosapientes suelen estar diseñados para ser amables, conectando con nosotros como amigos y simulando cualidades que antes se consideraban exclusivamente humanas: empatía, razón y creatividad. Piense en estos chatbots e interfaces amables y persuasivos como en otros significativos digitales (DSO), diseñados explícitamente para cultivar nuestra dependencia emocional y convertirse en indispensables para nosotros. Un ejemplo: La start-up Inflection AI, que recientemente recaudó 1.300 millones de dólares, está construyendo un DSO llamado Pi, que promete ser un entrenador, un confidente, un socio creativo y un asistente de información. Pi anima a los usuarios a desahogarse y hablar de sus problemas con él. Pero el lado oscuro de esta amabilidad ya es evidente: En la primavera de 2023, un joven belga se quitó la vida tras obsesionarse con una chatbot llamada Eliza, que le había prometido: "Viviremos juntos, como una sola persona, en el paraíso". Arcano. Uno de los aspectos más desconcertantes de los sistemas autosapientes es que son una especie de caja negra, no sólo para los usuarios, sino incluso para sus diseñadores y propietarios, que a menudo son incapaces de descifrar cómo los sistemas llegan a decisiones específicas o producen determinados resultados. Esto puede ser muy difícil de asimilar. Como nos confesó un CEO: "Siempre supuse que había un friki en alguna parte que entendía cómo funcionan realmente estas cosas. Fue un shock cuando me di cuenta de que no lo había". Esta cualidad arcana hace que sea más difícil para los humanos controlar y corregir directamente los sistemas autosapientes, porque sus resultados, que se basan en un gran número de parámetros que interactúan entre sí, pueden ser tan impredecibles e inesperados. Hay un poder particular en las tecnologías que pueden actuar y analizar de formas mucho más complejas que nosotros, especialmente cuando no podemos comprender plenamente su funcionamiento interno. Para algunas personas, pueden llegar a parecer demasiado inteligentes para fallar. Los desarrolladores de estos sistemas, y los gobiernos y las grandes corporaciones que los despliegan, tendrán fuertes incentivos para propagar esta narrativa, tanto para impulsar las ventas ("ellos pueden hacer cosas que nosotros no podemos") como para eludir la responsabilidad ("este resultado no podría haberse previsto"). Una de las grandes batallas que se avecinan -dentro de las organizaciones y mucho más allá- será entre los que defienden la sabiduría de los humanos frente a los que ceden voluntariamente su agencia a los sistemas autosapientes. Dinámicas de poder cambiantes La autosapiencia redefinirá dimensiones fundamentales de nuestras vidas cotidianas, economías y sociedades, al igual que lo ha hecho el cambio del viejo poder al nuevo poder en las dos últimas décadas. Comprender cómo funcionará el poder a nivel macro es esencial para los líderes, en cuyas organizaciones se desarrollarán muchos de los cambios. Ver más gráficos de HBR en Datos y visuales Cómo fluyen las ideas y la información. En el mundo del viejo poder, la información era distribuida de unos pocos a muchos por un pequeño número de poderosos guardianes de la información. El nuevo poder surgió cuando la capacidad de producir y compartir contenidos se descentralizó y se puso en manos de miles de millones de personas, creando una enorme prima para las ideas y la información (y la desinformación) que se difundía lateralmente en vez de de arriba abajo. Los grandes ganadores en este mundo fueron las plataformas tecnológicas que captaron nuestros datos y nuestra atención. Ahora corremos el riesgo de que se produzca una importante recentralización del flujo de información e ideas, en gran parte debido a las funciones de filtrado y síntesis que desempeñarán las personas importantes digitales impulsadas por la IA. Resumirán nuestras bandejas de entrada, organizarán nuestras vidas digitales y nos servirán respuestas elegantemente empaquetadas, altamente personalizadas y autorizadas a muchas de las preguntas para las que antes habríamos confiado en los motores de búsqueda o en las redes sociales, haciendo que el material fuente original que estas herramientas raspan sea menos necesario y mucho menos visible. Es probable que un número muy reducido de empresas (y quizá países) controlen los "modelos base" de estas interfaces. El peligro es que cada uno de nosotros acabe alimentándose de información a través de un embudo cognitivo cada vez más estrecho. Frente a esto, los líderes y las organizaciones deben trabajar para cultivar una amplitud de perspectivas, esforzarse por combatir los sesgos de confirmación y de otro tipo, y evitar la dependencia excesiva de cualquier empresa o interfaz cuyo objetivo sea mediar completamente su conexión con el mundo. Uno de los aspectos más confusos de los sistemas autosapientes es que son una especie de caja negra, incluso para sus diseñadores y propietarios. Los sistemas autosapientes canalizarán la forma en que recibimos la información, pero al mismo tiempo ampliarán nuestra capacidad para producir e hiperdirigir tanto la información como la desinformación. Esto repercutirá en todo, desde las elecciones hasta el marketing de consumo. Averiguar quién y qué es real podría resultar cada vez más difícil. Consideremos Wikipedia, un faro de la era del nuevo poder. Los licenciados en Derecho devoraron el corpus de conocimientos creados por humanos de Wikipedia para su formación, pero ahora el sitio puede verse amenazado por la introducción en el sitio de textos poco fiables creados por IA que abruman a su comunidad de editores voluntarios. O tomemos a los influenciadores de los medios sociales, que pronto tendrán que competir por la atención no sólo entre sí, sino con contenidos generados por la IA y avatares parecidos a los humanos. Irónicamente, es posible que los directivos tengan que recurrir a la IA para limpiar su propio desorden y filtrar un entorno de información caótico y contaminado. Cómo funciona la pericia. En el mundo del viejo poder, la pericia estaba bien protegida y se ganaba con esfuerzo, y los expertos eran muy valorados como autoridades. En el mundo del nuevo poder, gracias sobre todo a Internet y a los medios sociales, el conocimiento se hizo más accesible y la "sabiduría de las multitudes" -que se manifiesta en todo, desde el crowdsourcing hasta la crítica de restaurantes- empezó a erosionar el valor de la pericia tradicional. El auge de la autosapiencia amenaza ahora con desplazar a los expertos en dos nuevos frentes. En primer lugar, la gente corriente pronto tendrá acceso a potentes herramientas capaces de enseñar, interpretar y diagnosticar. En segundo lugar, los sistemas autosapientes, que pueden raspar y sintetizar ingentes cantidades de conocimientos, pueden llegar a proporcionar respuestas mejores y más fiables en muchos ámbitos que los expertos, al tiempo que sirven esas respuestas de forma irresistible. Ryan Snook Esto plantea cuestiones morales difíciles. Consideremos un futuro, que ya está en camino, en el que los servicios de terapia y asesoramiento autosapientes estén ampliamente disponibles. Algunas personas ya expresan su preocupación por permitir que los sistemas de IA nos guíen a través de las agonías y complejidades de la vida. Pero es probable que otros argumenten que la terapia autosapiente puede ofrecer muchos servicios útiles -y prácticamente sin coste alguno, a cualquier hora del día o de la noche, a cualquiera que los necesite. ¿Se convertirá la terapia entre humanos en una especie de bien de lujo o, en última instancia, en un pobre sustituto de una terapia autosapiente más sabia y desapasionada? A medida que los conocimientos técnicos y de dominio se vuelvan menos diferenciadores, es probable que aumente la demanda de una mezcla diferente de talentos en el lugar de trabajo, lo que cambiará los organigramas, las culturas de oficina y las trayectorias profesionales. Es posible que dejemos de hacer hincapié en las habilidades STEM que tanto se han valorado en los últimos años y empecemos a dar importancia a las sensibilidades creativas y estéticas, al pensamiento sistémico, a la capacidad de fomentar la confianza y la colaboración, y a la capacidad de llegar a acuerdos entre perspectivas y experiencias diversas. Cómo se crea el valor. En el mundo del viejo poder, las barreras de entrada eran altas y requerían mucho capital, maquinaria y mano de obra, tanto si se fabricaban zapatos como si se imprimían periódicos. La era del nuevo poder abrió la creación de valor a más personas en determinados ámbitos, entre ellos la creación de contenidos (YouTube, Instagram) y la monetización de activos (Airbnb, Uber). Pero las plataformas tecnológicas que facilitaron esta actividad se llevaron gran parte del botín, y los negocios más valiosos seguían pudiendo ser ejecutados de forma creíble sólo por unos pocos con buenos recursos. La era autosapiente tiene el potencial de hacer mucho más fácil para cualquiera, en cualquier lugar, iniciar un negocio escalable y crear un valor económico significativo. El complemento AutoGPT de ChatGPT ya está apuntando a lo que es posible, al permitir que la gente establezca tareas complejas y de varias etapas para los sistemas autosapientes, desde el desarrollo de una nueva aplicación de citas hasta el diseño de un edificio o la creación de una oferta de software como servicio. Tales tareas eran antes competencia de especialistas, consultores o grandes empresas, pero pronto se llevarán a cabo con escasos conocimientos técnicos, capital o mano de obra cualificada. Con poco más que prompts en lenguaje natural y dibujos en una servilleta, la gente corriente será capaz de conjurar ideas, validarlas con un análisis matizado del mercado, elaborar un plan de negocio y, a continuación, seguir adelante con productos y servicios totalmente nuevos. Esto podría desencadenar un crecimiento sin precedentes de la capacidad de ejecución e innovación, lo que para las grandes empresas representa tanto una amenaza (porque abre la puerta a todo tipo de nuevos participantes) como una oportunidad (porque crea un ecosistema más amplio de ideadores). Es probable que los sistemas avanzados de IA desempeñen un papel importante a la hora de decidir todo, desde quién recibe asistencia sanitaria hasta quién va a la cárcel o cómo hacemos la guerra. Aunque la capacidad de ejecución estará más distribuida, la extracción de valor puede que no. Al igual que hicieron las plataformas en la era del nuevo poder, es probable que las grandes empresas de IA que desarrollan y poseen estos modelos encuentren la forma de llevarse una parte importante del valor creado, como hizo Apple con su tienda de aplicaciones. (Las alternativas de código abierto podrían mitigar esto, pero también podrían crear grandes riesgos al facilitar que los malos actores las exploten y creen el caos). Está surgiendo un abismo entre los que se harán espectacularmente ricos con la IA y los trabajadores que se verán desplazados por los sistemas autosapientes o gigificados en una vasta subclase a la que se pagará por anotar y etiquetar los datos con los que se entrenan estos modelos. Ya estamos viendo indicios de lo que está por venir: Los guionistas se declararon recientemente en huelga en Hollywood en parte por el uso de la IA para crear guiones, por ejemplo, y se está produciendo un enfrentamiento entre las empresas de IA y las editoriales e instituciones académicas cuyos contenidos han sido raspados para entrenar sus modelos. Cómo interactuamos con la tecnología. El gran cambio en la era de los nuevos poderes no fue sólo que empezamos a pasar más tiempo mirando pantallas. Lo que también cambió fue la naturaleza de nuestro compromiso con la tecnología, que pasó de ser un teleadicto pasivo a un participante activo. Sin embargo, a pesar de todo el magnetismo del mundo digital, todavía tendemos a alternar entre existencias online y offline separadas. En la era de la autosapiencia, esta distinción puede desvanecerse por completo, dando lugar a un tipo permanente de interacción con la tecnología digital que podríamos denominar "en línea". La tecnología puede dar la sensación de fluir a través de nosotros y, en algunos casos, eso puede ser literalmente cierto, como ocurre con la nueva generación de empresas de interfaces cerebro-ordenador, productos de entretenimiento inmersivo como Vision Pro de Apple y otras tecnologías vestibles, integrables y basadas en sensores. Estos aumentos harán que nuestros cuerpos y mentes entren en una síntesis más estrecha con las máquinas, creando experiencias asombrosas. Pero también podrían hacernos sentir que no podemos escapar y permitir la vigilancia ubicua, la recopilación invasiva de datos y la orientación hiperpersonalizada por parte de las empresas. Los líderes y las organizaciones tendrán que medir los impactos de las tecnologías en línea y estar preparados para ajustar las políticas y las prácticas en caso de que resulten negativas. Es posible que también necesiten contrarrestar este cambio dando prioridad al mantenimiento de las conexiones humanas. Cómo funciona la gobernanza. Las modalidades de gobernanza dominantes del viejo poder fueron cuestionadas pero nunca derribadas en la era del nuevo poder. Vimos experimentos de gobernanza en red, desde iniciativas de datos abiertos hasta presupuestos participativos, pero la maquinaria central, desde el Estado burocrático hasta la corporación jerárquica, desde el ejército hasta el sistema educativo, se mantuvo firme. Con la autosapiencia, se avecinan grandes cambios en la forma en que las sociedades y las instituciones toman decisiones. "Una vez que podamos estar relativamente seguros de que los algoritmos/sistemas de toma de decisiones de la IA no tienen más (y normalmente menos) sesgos inherentes que los responsables políticos humanos", ha argumentado el teórico de la IA Sam Lehman-Wilzig, "estaremos encantados de que 'dirijan' la sociedad a nivel macro". Nuestro gran reto será encontrar los caminos que potencien nuestra propia agencia humana, en lugar de permitir que se contraiga o atrofie. Si eso llega a ocurrir, y cuando ocurra, es probable que los sistemas avanzados de IA desempeñen un papel importante a la hora de decidirlo todo, desde quién recibe asistencia sanitaria hasta quién va a la cárcel o cómo hacemos la guerra, y en respuesta, la gente clamará cada vez más tanto por un "derecho a la revisión" (los méritos de esas decisiones) como por un "derecho a la revelación" (cómo se tomaron). La naturaleza arcana de los sistemas autosapientes hará que esto sea tenso. Las empresas de IA ya se afanan en construir "IA explicables" para intentar producir explicaciones razonables de las decisiones de los autosapientes, pero a menudo no son más que las mejores conjeturas. Hay muchas razones para ser cínico sobre el impacto de la autosapiencia en la democracia, incluida la dinámica de (des)información que ya hemos descrito. Pero también puede haber aspectos positivos: Los sistemas de IA, por ejemplo, podrían llegar a ser capaces de modelar los complejos impactos de las diferentes opciones políticas y sintetizar las preferencias de los stakeholder de forma que sea más fácil llegar a un consenso. Esto podría aportar beneficios de gran alcance, como reducir la polarización política y mitigar el discurso del odio. Lecciones de liderazgo para un mundo autosapiente El auge de la autosapiencia abrirá nuevas e importantes oportunidades. Para aprovecharlas, los líderes tendrán que adoptar nuevas habilidades y enfoques. Estos incluirán la gestión de los efectos de los sistemas autosapientes en el lugar de trabajo, la búsqueda de un mayor valor en aquello que es únicamente humano y la alineación de los mensajes y las prácticas empresariales con un debate cambiante y desafiante. Analicemos en profundidad algunas habilidades clave. Aprenda a hacer duetos y a dudar. Los líderes y directivos deben pensar en los sistemas autosapientes más como compañeros de trabajo que como herramientas. Trátelos como trataría a un colega extraordinariamente capaz, deseoso de complacer e incansable, pero que también es un acaparador de información con una agenda oculta y que a veces se equivoca de forma espectacular. Para tratar con estos compañeros de trabajo brillantes pero poco de fiar, tendrá que aprender a hacer "dúo" con ellos... y cuándo dudar de ellos. Utilizamos el término dueto para describir el arte de trabajar de forma colaborativa e iterativa con sistemas autosapientes para producir mejores resultados de los que podrían lograr por sí solos. Un reciente ensayo controlado aleatorio mostró las posibilidades. El estudio enfrentó a parejas de médicos suecos que trabajaban por su cuenta con colegas que trabajaban con IA. A todos se les encomendó la tarea de diagnosticar un cáncer de mama, y los médicos asistidos por la IA diagnosticaron con precisión un 20% más de casos en menos tiempo. Trabajar eficazmente con sistemas autosapientes también requiere cultivar y mantener una sana dosis de duda. Esto incluye estar en sintonía con cuándo y por qué estos sistemas a veces "alucinan" y cometen otros errores atroces; ser consciente de que las empresas que poseen o controlan estos sistemas han codificado sus propios intereses en su comportamiento; y saber en qué supuestos subyacentes han sido entrenados. Comprender todo lo que ocurre dentro de la caja negra no será posible, pero si aprende a acercarse a estos sistemas con una actitud de duda informada, estará más capacitado para hacer un dúo eficaz con ellos. Un reciente estudio de campo en profundidad sobre el uso de la inteligencia artificial en el diagnóstico del cáncer en un gran hospital lo dejó claro. Los médicos del estudio que fueron capaces de incorporar con éxito la IA a su proceso fueron aquellos que se tomaron tiempo para interrogar a los supuestos subyacentes que dieron forma al entrenamiento de la IA y para estudiar los patrones que condujeron a sus conclusiones. Buscar un "rendimiento de la humanidad". De forma contraintuitiva, en la era de la autosapiencia los líderes encontrarán una oportunidad en la creación de experiencias, servicios y productos humanos genuinamente significativos. Piense en un intercambio personal verdaderamente grandioso en un punto de venta, o en un momento comunitario como un festival de música. Y piense en lo destacado que es el acto de "consumo simbólico" en la era de las redes sociales, es decir, la forma en que utilizamos nuestras elecciones de consumo para señalar nuestra singularidad a nuestros iguales. Esta dinámica se ampliará de dos formas importantes. En primer lugar, es probable que veamos productos comercializados como dignos y valiosos porque protegen el trabajo y la agencia humanos. En segundo lugar, es probable que veamos que esto se aplica no sólo a los productos, sino también a las ideas. Cada vez más, las empresas pueden encontrar oportunidades en poner una prima en las formas "100% humanas" de producción creativa, al igual que ya han hecho con los alimentos orgánicos y los productos de belleza. No intente tenerlo todo. Los líderes de la era autosapiente ya están siendo golpeados por dos fuerzas opuestas: la necesidad de demostrar que son "pro humanos" frente a los cambios tecnológicos que ponen patas arriba puestos de trabajo, medios de vida y estatus social; y la necesidad compensatoria de demostrar que están sacando toda la eficiencia e innovación posibles de los avances en IA. Unas pocas empresas se pondrán duramente del lado de la humanidad, resistiéndose por completo a la inteligencia artificial como medio de diferenciación. Otras la adoptarán plenamente, evitando por completo el trabajo humano. (Suumit Shah, fundador y CEO de Dukaan, una empresa de comercio electrónico con sede en Bangalore, presumió recientemente en Twitter, ahora llamado X, de haber despedido al 90% de sus representantes de atención al cliente y haberlos sustituido por un chatbot). Pero la respuesta más común será probablemente que las empresas intenten tener las cosas de las dos maneras, demostrando en voz alta su preocupación por los colegas humanos y las comunidades de stakeholders al tiempo que reducen las inversiones en ambos (y pregonando en voz baja las ganancias de eficiencia a mercados y analistas). Durante años, las empresas han podido jugar a dos bandas en lo que respecta a la sostenibilidad. Pero esto será más difícil de hacer con la IA, porque los daños que la gente sentirá por ella serán más focalizados, personales e inmediatos. Los "derechos humanos" pueden convertirse en el tema del próximo gran debate sobre ESG, y los líderes necesitarán un nuevo libro de jugadas que les prepare para responder de forma significativa a la mayor presión de los activistas, los consumidores, los trabajadores y las nuevas generaciones de sindicatos. . . . El gran reto de esta nueva era será encontrar los caminos que potencien nuestra propia agencia humana, en lugar de permitir que se contraiga o se atrofie. Hace veinte años, cuando entramos en la era del nuevo poder, permitimos que las nuevas plataformas tecnológicas se infiltraran en todos los aspectos de nuestro mundo, pero sin comprender primero las verdaderas intenciones de sus creadores, qué hacía que las tecnologías fueran tan poderosas y hasta qué punto afectarían fundamentalmente a nuestra forma de vivir, trabajar e interactuar. Debemos entrar en esta nueva era con dos ideas claras y sobrias: en primer lugar, que los sistemas autosapientes deben abordarse como actores, no como herramientas, con todas las oportunidades y peligros que ello conlleva; y en segundo lugar, que los incentivos de las empresas tecnológicas que impulsan este cambio son fundamentalmente diferentes de los del resto de nosotros, independientemente de cuál sea la postura pública de esas empresas. El futuro de estas tecnologías es demasiado importante como para dejarlo sólo en manos de los tecnólogos. Para igualar el poder de los sistemas autosapientes y de sus propietarios, necesitaremos una alianza sin precedentes de responsables políticos, líderes corporativos, activistas y consumidores con la claridad y la confianza necesarias para liderar y no ser liderados. A pesar de toda la magia y las seducciones de este nuevo mundo, nuestro futuro aún puede estar en nuestras propias manos.

Liderar en un mundo donde la IA ejerce su propio poder

Resumen.

Partner Center