La regulación de la IA está llegando

La idea en pocas palabras El reto A medida que las empresas integran cada vez más la inteligencia artificial en sus productos, procesos y toma de decisiones, el centro de los debates sobre el riesgo digital se está desplazando hacia lo que el software hace con los datos. ¿Por qué es un problema? La IA mal aplicada y no regulada puede conducir a resultados injustos, principalmente porque puede amplificar los sesgos en los datos. Y los algoritmos a menudo desafían una explicación fácil, lo que se complica por el hecho de que cambian y se adaptan a medida que llegan más datos. Cómo solucionarlo Los líderes empresariales necesitan examinar explícitamente una serie de factores. Para garantizar decisiones equitativas, necesitan evaluar el impacto de los resultados injustos, el alcance de las decisiones tomadas, la complejidad operativa y las capacidades de gobernanza de sus organizaciones. A la hora de establecer normas de transparencia, deben examinar el nivel de explicación necesario y las compensaciones que implica. A la hora de controlar la capacidad de evolución de la IA, deben tener en cuenta los riesgos, la complejidad y la interacción entre la IA y los seres humanos. Durante la mayor parte de la última década, las preocupaciones públicas sobre la tecnología digital se han centrado en el abuso potencial de los datos personales. La gente se sentía incómoda con la forma en que las empresas podían rastrear sus movimientos en línea, a menudo recopilando números de tarjetas de crédito, direcciones y otra información crítica. Les parecía espeluznante que les siguieran por la red con anuncios que claramente habían sido provocados por sus búsquedas ociosas, y les preocupaba el robo de identidad y el fraude. Esas preocupaciones condujeron a la aprobación de medidas en Estados Unidos y Europa que garantizan a los internautas cierto nivel de control sobre sus datos e imágenes personales, sobre todo el Reglamento General de Protección de Datos (RGPD) de la Unión Europea de 2018. Por supuesto, esas medidas no acabaron con el debate en torno al uso de los datos personales por parte de las empresas. Algunos argumentan que su restricción obstaculizará los resultados económicos de Europa y Estados Unidos en relación con países menos restrictivos, en particular China, cuyos gigantes digitales han prosperado con la ayuda de un acceso fácil y poco regulado a información personal de todo tipo. (Recientemente, sin embargo, el gobierno chino ha empezado a limitar la libertad de las empresas digitales,como demuestran las cuantiosas multas impuestas a Alibaba). Otros señalan que hay muchas pruebas de que una regulación más estricta ha puesto a las empresas europeas más pequeñas en considerable desventaja frente a rivales estadounidenses con más dinero, como Google y Amazon. Pero el debate está entrando en una nueva fase. A medida que las empresas integran cada vez más la inteligencia artificial en sus productos, servicios, procesos y toma de decisiones, la atención se está desplazando hacia la forma en que los datos son utilizados por el software, en particular por algoritmos complejos y en evolución que podrían diagnosticar un cáncer, conducir un coche o aprobar un préstamo. La UE, que vuelve a marcar el camino (en su libro blanco de 2020 "On Artificial Intelligence-A European Approach to Excellence and Trust" y su propuesta de 2021 para un marco jurídico de la IA), considera que la regulación es esencial para el desarrollo de herramientas de IA en las que los consumidores puedan confiar. ¿Qué significará todo esto para las empresas? Hemos estado investigando cómo regular los algoritmos de IA y cómo implantar sistemas de IA que se basen en los principios clave subyacentes a los marcos normativos propuestos, y hemos estado ayudando a empresas de todos los sectores a lanzar y ampliar iniciativas impulsadas por la IA. En las páginas siguientes nos basamos en este trabajo y en el de otros investigadores para explorar los tres principales retos a los que se enfrentan los líderes empresariales a la hora de integrar la IA en su toma de decisiones y sus procesos, al tiempo que intentan garantizar que sea segura y digna de confianza para los clientes. También presentamos un marco para guiar a los ejecutivos en esas tareas, inspirándonos en parte en conceptos aplicados a la gestión de riesgos estratégicos. Resultados injustos: Los riesgos del uso de la IA Los sistemas de IA que producen resultados sesgados han estado apareciendo en los titulares. Un ejemplo bien conocido es el algoritmo de las tarjetas de crédito de Apple, que ha sido acusado de discriminar a las mujeres, lo que ha desencadenado una investigación del Departamento de Servicios Financieros de Nueva York. Pero el problema aparece en muchas otras formas: por ejemplo, en los omnipresentes algoritmos de anuncios en línea, que pueden dirigirse a los espectadores por su raza, religión o sexo, y en el cribador automático de currículos de Amazon, que filtraba a las candidatas. Un estudio reciente publicado en Science demostró que las herramientas de predicción de riesgos utilizadas en la atención sanitaria, que afectan a millones de personas en Estados Unidos cada año, muestran un sesgo racial significativo. Otro estudio, publicado en el Journal of General Internal Medicine, descubrió que el software utilizado por los principales hospitales para priorizar a los receptores de trasplantes de riñón discriminaba a los pacientes negros. La IA aumenta la escala potencial del sesgo: Cualquier fallo podría afectar a millones de personas, exponiendo a las empresas a demandas colectivas. En la mayoría de los casos, el problema se deriva de los datos utilizados para entrenar la IA. Si esos datos están sesgados, la IA adquirirá e incluso podrá amplificar el sesgo. Por ejemplo, cuando Microsoft utilizó tuits para entrenar un chatbot que interactuara con los usuarios de Twitter, tuvo que retirar el bot al día siguiente de su puesta en marcha debido a sus mensajes incendiarios y racistas. Pero no basta con eliminar la información demográfica como la raza o el sexo de los datos de entrenamiento, porque en algunas situaciones esos datos son necesarios para corregir los sesgos. En teoría, sería posible codificar algún concepto de equidad en el software, exigiendo que todos los resultados cumplan ciertas condiciones. Amazon está experimentando con una métrica de equidad llamada disparidad demográfica condicional, y otras empresas están desarrollando métricas similares. Pero un obstáculo es que no existe una definición consensuada de equidad, ni es posible ser categórico sobre las condiciones generales que determinan unos resultados equitativos. Es más, las partes interesadas en una situación determinada pueden tener nociones muy diferentes de lo que constituye la equidad. En consecuencia, cualquier intento de diseñarla en el software será accidentado. Para hacer frente a los resultados sesgados, los reguladores han recurrido sobre todo a la legislación estándar contra la discriminación. Eso es factible mientras haya personas a las que se pueda responsabilizar de las decisiones problemáticas. Pero con la IA cada vez más presente, la responsabilidad individual se ve socavada. Peor aún, la IA aumenta la escala potencial del sesgo: Cualquier fallo podría afectar a millones de personas, exponiendo a las empresas a demandas colectivas de proporciones históricas y poniendo en peligro su reputación. ¿Qué pueden hacer los ejecutivos para evitar estos problemas? Como primer paso, antes de tomar cualquier decisión, deben profundizar en su comprensión de lo que está en juego, explorando cuatro factores: El impacto de los resultados. Algunos algoritmos toman o afectan a decisiones con consecuencias directas e importantes en la vida de las personas. Diagnostican afecciones médicas, por ejemplo, seleccionan candidatos para puestos de trabajo, aprueban préstamos hipotecarios o recomiendan penas de cárcel. En tales circunstancias, puede ser prudente evitar el uso de la IA o, al menos, subordinarlo al juicio humano. Sin embargo, este último enfoque sigue exigiendo una cuidadosa reflexión. Supongamos que un juez concediera la libertad anticipada a un delincuente en contra de una recomendación de la IA y que esa persona cometiera después un delito violento. El juez se vería presionado a explicar por qué hizo caso omiso de la IA. Por lo tanto, el uso de la IA podría aumentar la responsabilidad de los responsables humanos, lo que podría hacer que la gente se remitiera a los algoritmos más a menudo de lo que debería. Eso no quiere decir que la IA no tenga sus usos en contextos de gran impacto. Las organizaciones que dependen de responsables humanos para la toma de decisiones seguirán necesitando controlar los prejuicios inconscientes de esas personas, que la IA puede ayudar a revelar. En última instancia, Amazon decidió no aprovechar la IA como herramienta de contratación, sino utilizarla para detectar fallos en su enfoque actual de contratación. La conclusión es que hay que tener en cuenta la imparcialidad de los algoritmos en relación con la toma de decisiones humana a la hora de decidir si se utiliza la IA. La naturaleza y el alcance de las decisiones. Lainvestigación sugiere que el grado de confianza en la IA varía según el tipo de decisiones para las que se utilice. Cuando una tarea se percibe como relativamente mecánica y acotada -pensemos en optimizar un horario o analizar imágenes- el software se considera al menos tan digno de confianza como los humanos. Pero cuando se piensa que las decisiones son subjetivas o que las variables cambian (como en las sentencias judiciales, en las que las circunstancias atenuantes de los delincuentes pueden diferir), se confía más en el juicio humano, en parte por la capacidad de empatía de las personas. Esto sugiere que las empresas deben comunicar con mucho cuidado la naturaleza y el alcance específicos de las decisiones a las que están aplicando la IA y por qué es preferible al juicio humano en esas situaciones. Se trata de un ejercicio bastante sencillo en muchos contextos, incluso en los que tienen consecuencias graves. Por ejemplo, en los diagnósticos automáticos de exploraciones médicas, la gente puede aceptar fácilmente la ventaja que un software entrenado en miles de millones de puntos de datos bien definidos tiene sobre los humanos, que sólo pueden procesar unos pocos miles. Li Sun considera que las "criaturas" de sus fotografías encarnan la contradicción entre la sensación de libertad que sentía cuando era niño y crecía en el campo y las cámaras de vigilancia que siente que le vigilan en cada esquina de las ciudades modernas. Li Sun Por otro lado, aplicar la IA para realizar un diagnóstico relativo a la salud mental, donde los factores pueden ser conductuales, difíciles de definir y específicos de cada caso, sería probablemente inadecuado. Es difícil que la gente acepte que las máquinas puedan procesar situaciones altamente contextuales. E incluso cuando se han identificado con precisión las variables críticas, a menudo no se comprende del todo la forma en que difieren entre poblaciones, lo que nos lleva al siguiente factor. La complejidad operativa y los límites a escala. Un algoritmo puede no ser justo en todas las geografías y mercados. Por ejemplo, uno que seleccione a los consumidores para obtener descuentos puede parecer equitativo en toda la población de EE.UU. pero seguir mostrando un sesgo cuando se aplica, digamos, a los residentes de Manhattan si el comportamiento y las actitudes de los consumidores en Manhattan no se corresponden con las medias nacionales y no se reflejan en el entrenamiento del algoritmo. Las estadísticas medias pueden enmascarar la discriminación entre regiones o subpoblaciones, y evitarla puede requerir personalizar los algoritmos para cada subconjunto. Eso explica por qué cualquier normativa destinada a disminuir los sesgos locales o de grupos pequeños probablemente reduzca el potencial de ventajas de escala de la IA, que a menudo es la motivación para utilizarla en primer lugar. Ajustarse a las variaciones entre mercados añade capas a los algoritmos, lo que eleva los costes de desarrollo. La personalización de productos y servicios para mercados específicos eleva igualmente los costes de producción y supervisión de forma significativa. Todas esas variables aumentan la complejidad organizativa y los gastos generales. Si los costes se vuelven demasiado elevados, las empresas pueden incluso abandonar algunos mercados. A causa del GDPR, por ejemplo, algunos desarrolladores, como Gravity Interactive (el fabricante de los juegos Ragnarok y Dragon Saga), optaron por dejar de vender sus productos en la UE durante algún tiempo. Aunque la mayoría ya habrá encontrado la forma de cumplir la normativa (Dragon Saga se relanzó el pasado mes de mayo en Europa), los costes incurridos y las oportunidades perdidas son importantes. Capacidad de cumplimiento y gobernanza. Para cumplir las normativas más estrictas sobre IA que se avecinan (al menos en Europa y Estados Unidos), las empresas necesitarán nuevos procesos y herramientas: auditorías de sistemas, documentación y protocolos de datos (para la trazabilidad), supervisión de la IA y formación en sensibilización sobre la diversidad. Varias empresas ya ponen a prueba cada nuevo algoritmo de IA con una variedad de stakeholders para evaluar si su resultado está en línea con los valores de la empresa y si es poco probable que suscite preocupaciones normativas. Google, Microsoft, BMW y Deutsche Telekom están desarrollando políticas formales de IA con compromisos de seguridad, equidad, diversidad y privacidad. Algunas empresas, como la Federal Home Loan Mortgage Corporation(Freddie Mac), incluso han nombrado directores de ética para supervisar la introducción y aplicación de dichas políticas, en muchos casos apoyándolas con juntas de gobernanza ética. Transparencia: Explicar lo que salió mal Al igual que el juicio humano, la IA no es infalible. Los algoritmos tomarán inevitablemente algunas decisiones injustas -o incluso inseguras-. Cuando las personas cometen un error, suele haber una investigación y una asignación de responsabilidades, que puede imponer sanciones legales al responsable de la toma de decisiones. Eso ayuda a la organización o a la comunidad a comprender y corregir las decisiones injustas y a generar confianza entre sus stakeholder. Entonces, ¿deberíamos exigir -e incluso podemos esperar- que la IA explique también sus decisiones? Sin duda, los reguladores están avanzando en esa dirección. El GDPR ya describe "el derecho... a obtener una explicación de la decisión alcanzada" por los algoritmos, y la UE ha identificado la explicabilidad como un factor clave para aumentar la confianza en la IA en su libro blanco y en su propuesta de regulación de la IA. Pero, ¿qué significa obtener una explicación de las decisiones automatizadas, para las que nuestro conocimiento de la causa y el efecto es a menudo incompleto? Fue Aristóteles quien señaló que cuando ésta es la situación, la capacidad de explicar cómo se llega a los resultados puede ser menos importante que la capacidad de reproducir los resultados y verificar empíricamente su exactitud, algo que las empresas pueden hacer comparando las predicciones de la IA con los resultados. Los líderes empresariales que están considerando las aplicaciones de la IA también deben reflexionar sobre dos factores: El nivel de explicación necesario. Con los algoritmos de IA, las explicaciones pueden clasificarse a grandes rasgos en dos grupos, adecuados a diferentes circunstancias. Las explicacionesglobales son explicaciones completas para todos los resultados de un proceso dado y describen las reglas o fórmulas que especifican las relaciones entre las variables de entrada. Suelen ser necesarias cuando la equidad del procedimiento es importante; por ejemplo, en las decisiones sobre la asignación de recursos, porque los stakeholder necesitan saber de antemano cómo se tomarán. ¿Deberíamos exigir -e incluso podemos esperar- que la inteligencia artificial explique sus decisiones? Sin duda, los reguladores están avanzando en esa dirección. Ofrecer una explicación global de un algoritmo puede parecer sencillo: Basta con compartir su fórmula. Sin embargo, la mayoría de la gente carece de los conocimientos avanzados en matemáticas o informática necesarios para entender una fórmula de este tipo, y mucho menos para determinar si las relaciones especificadas en ella son apropiadas. Y en el caso del aprendizaje automático -donde el software de IA crea algoritmos para describir relaciones aparentes entre variables en los datos de entrenamiento- los fallos o sesgos en esos datos, y no el algoritmo, pueden ser la causa última de cualquier problema. Además, es posible que las empresas ni siquiera conozcan directamente el funcionamiento de sus algoritmos, y responder a las exigencias normativas para obtener explicaciones puede obligarles a mirar más allá de sus departamentos de datos y de IT, y quizá a recurrir a expertos externos. Considere que las ofertas de los grandes proveedores de software como servicio, como Oracle, SAP y Salesforce, a menudo combinan múltiples componentes de IA de proveedores externos. Y sus clientes a veces eligen y combinan soluciones habilitadas para la IA. Pero todos los componentes de un producto final y cómo se combinan e interconectan deberán ser explicables. Las explicaciones locales ofrecen la lógica que subyace a un resultado concreto: por ejemplo, por qué a un solicitante (o a una clase de solicitantes) se le denegó un préstamo mientras que a otro se le concedió. A menudo las proporcionan los llamados algoritmos de IA explicables que tienen la capacidad de indicar al receptor de un resultado los motivos del mismo. Pueden utilizarse cuando los individuos sólo necesitan saber por qué se tomó una determinada decisión sobre ellos y no tienen, o no pueden tener, acceso a las decisiones sobre los demás. Li Sun Las explicaciones locales pueden adoptar la forma de declaraciones que respondan a la pregunta: ¿Cuáles son las características clave del cliente que, de haber sido diferentes, habrían cambiado el resultado o la decisión de la IA? Por ejemplo, si la única diferencia entre dos solicitantes es que uno tiene 24 años y el otro 25, entonces la explicación sería que al primer solicitante se le habría concedido un préstamo si hubiera sido mayor de 24 años. El problema aquí es que las características identificadas pueden ocultar por sí mismas sesgos. Por ejemplo, puede resultar que el código postal del solicitante sea lo que marque la diferencia, penalizándose a solicitantes por lo demás sólidos de barrios negros. Las compensaciones implicadas. Los algoritmos más potentes son intrínsecamente opacos. Fíjese en el Ant Group de Alibaba en China, cuya unidad MYbank utiliza la IA para aprobar préstamos a pequeñas empresas en menos de tres minutos sin intervención humana. Para ello, combina datos de todo el ecosistema de Alibaba, incluida la información sobre las ventas de sus plataformas de comercio electrónico, con el aprendizaje automático para predecir los riesgos de impago y mantener las calificaciones crediticias en tiempo real. Dado que el software de Ant utiliza más de 3.000 entradas de datos, articular claramente cómo llega a valoraciones específicas (por no hablar de ofrecer una explicación global) es prácticamente imposible. Muchas de las aplicaciones de IA más interesantes requieren entradas algorítmicas a una escala similar. Las condiciones de pago personalizadas en los mercados B2B, la suscripción de seguros y los coches autoconducidos son sólo algunas de las áreas en las que los estrictos requisitos de explicabilidad de la IA pueden obstaculizar la capacidad de las empresas para innovar o crecer. Las empresas se enfrentarán a retos a la hora de introducir un servicio como el de Ant en mercados en los que los consumidores y los reguladores valoran mucho los derechos individuales, en particular, la Unión Europea y Estados Unidos. Para implantar este tipo de IA, las empresas tendrán que ser capaces de explicar cómo define un algoritmo las similitudes entre los clientes, por qué ciertas diferencias entre dos clientes potenciales pueden justificar tratamientos distintos y por qué clientes similares pueden recibir explicaciones diferentes sobre la IA. Las expectativas en cuanto a las explicaciones también varían según la geografía, lo que plantea retos a los operadores globales. Podrían limitarse a adoptar los requisitos de explicabilidad más estrictos en todo el mundo, pero hacerlo les pondría claramente en desventaja frente a los operadores locales en algunos mercados. Los bancos que sigan las normas de la UE tendrían dificultades para producir algoritmos tan precisos como los de Ant a la hora de predecir la probabilidad de impago de los prestatarios y, en consecuencia, podrían tener que ser más rigurosos con los requisitos crediticios. Por otro lado, aplicar múltiples normas de explicabilidad será probablemente más complejo y costoso, porque una empresa estaría, en esencia, creando algoritmos diferentes para mercados diferentes y probablemente tendría que añadir más IA para garantizar la interoperabilidad. Sin embargo, existen algunas oportunidades. Los requisitos de explicabilidad podrían ofrecer una fuente de diferenciación: Las empresas que puedan desarrollar algoritmos de IA con una mayor capacidad explicativa estarán en mejor posición para ganarse la confianza de los consumidores y de los reguladores. Eso podría tener consecuencias estratégicas. Si Citibank, por ejemplo, pudiera producir una IA explicable para el crédito a las pequeñas empresas tan potente como la de Ant, dominaría sin duda los mercados de la UE y EE.UU., e incluso podría hacerse un hueco en el propio terreno de Ant. La capacidad de comunicar la equidad y la transparencia de las decisiones de las ofertas es también un diferenciador potencial para las empresas tecnológicas. IBM ha desarrollado un producto que ayuda a las empresas a hacerlo: Watson OpenScale, una plataforma de análisis de datos para empresas impulsada por la IA. La conclusión es que, aunque exigir a la IA que ofrezca explicaciones sobre sus decisiones puede parecer una buena forma de mejorar su imparcialidad y aumentar la confianza de los stakeholder, tiene un precio muy alto, que no siempre merece la pena pagar. En ese caso, la única opción es volver a buscar un equilibrio entre los riesgos de obtener algunos resultados injustos y los beneficios de un resultado más preciso en general, o abandonar el uso de la IA. Aprender y evolucionar: Un terreno cambiante Una de las características distintivas de la IA es su capacidad de aprendizaje; cuantas más imágenes etiquetadas de vacas y cebras se alimenten a un algoritmo de reconocimiento de imágenes, más probabilidades tendrá de reconocer una vaca o una cebra. Pero el aprendizaje continuo tiene sus inconvenientes: Aunque la precisión puede mejorar con el tiempo, las mismas entradas que generaron un resultado ayer podrían registrar uno diferente mañana porque el algoritmo ha sido modificado por los datos que recibió en el ínterin. A la hora de averiguar cómo gestionar algoritmos que evolucionan -y si permitir o no el aprendizaje continuo en primer lugar- los líderes empresariales deben centrarse en tres factores: Riesgos y recompensas. La actitud de los clientes hacia la IA en evolución vendrá determinada probablemente por un cálculo personal de riesgo-recompensa. En la tarificación de seguros, por ejemplo, lo más probable es que los algoritmos de aprendizaje proporcionen resultados que se adapten mejor a las necesidades del cliente que cualquier cosa que pudieran ofrecer los humanos, por lo que los clientes probablemente tendrán una tolerancia relativamente alta hacia ese tipo de IA. En otros contextos, el aprendizaje podría no ser una preocupación en absoluto. La IA que genera recomendaciones de películas o libros, por ejemplo, podría evolucionar con bastante seguridad a medida que se obtuvieran más datos sobre las compras y las elecciones de visionado de un cliente. Pero cuando el riesgo y el impacto de un resultado injusto o negativo son elevados, la gente acepta peor la evolución de la IA. Ciertos tipos de productos, como los dispositivos médicos, podrían ser perjudiciales para sus usuarios si se alteraran sin ningún tipo de supervisión. Por eso algunos reguladores, en particular la Administración de Alimentos y Medicamentos de EE.UU., han autorizado el uso exclusivo de algoritmos "bloqueados" -queno aprenden cada vez que se utiliza el producto y, por tanto, no cambian- en ellos. Para tales ofertas, una empresa puede ejecutar dos versiones paralelas del mismo algoritmo: una utilizada sólo en I+D que aprende continuamente, y una versión bloqueada para uso comercial que está aprobada por los reguladores. La versión comercial podría sustituirse con cierta frecuencia por una nueva versión basada en la que mejora continuamente, tras la aprobación de los reguladores. A los reguladores también les preocupa que el aprendizaje continuo pueda hacer que los algoritmos discriminen o se vuelvan inseguros de formas nuevas y difíciles de detectar. En los productos y servicios en los que la falta de equidad es una de las principales preocupaciones, cabe esperar que también se preste más atención a la evolucionabilidad. Complejidad y coste. El despliegue de la IA de aprendizaje puede aumentar los costes operativos. En primer lugar, las empresas pueden encontrarse ejecutando múltiples algoritmos en diferentes regiones, mercados o contextos, cada uno de los cuales ha respondido a datos y entornos locales. A continuación, es posible que las organizaciones tengan que crear nuevas funciones y procesos centinela para asegurarse de que todos estos algoritmos funcionan adecuadamente y dentro de los márgenes de riesgo autorizados. Es posible que los directores de riesgos tengan que ampliar sus mandatos para incluir la supervisión de los procesos autónomos de IA y evaluar el nivel de riesgo legal, financiero, de reputación y físico que la empresa está dispuesta a asumir con la IA evolucionable. Las empresas también deben equilibrar la descentralización frente a las prácticas estandarizadas que aumentan el ritmo de aprendizaje de la IA. ¿Pueden construir y mantener una columna vertebral de datos global para impulsar las soluciones digitales y de IA de la empresa? ¿Hasta qué punto están preparados sus propios sistemas para el almacenamiento y el procesamiento descentralizados? ¿Están preparados para responder a las amenazas de ciberseguridad? ¿Es necesario desplazar la producción más cerca de los clientes finales, o eso expondría las operaciones a nuevos riesgos? ¿Pueden las empresas atraer a suficientes talentos expertos en IA en los puestos de liderazgo adecuados en los mercados locales? Todas esas preguntas deben responderse con detenimiento. La aportación humana. Los nuevos datos o los cambios en el entorno también pueden hacer que las personas ajusten sus decisiones o incluso alteren sus modelos mentales. Un responsable de contratación, por ejemplo, puede tomar decisiones diferentes sobre el mismo solicitante de empleo en dos momentos distintos si cambia la calidad de los candidatos que compiten, o incluso porque está cansado la segunda vez. Dado que no existe ninguna normativa que impida que esto ocurra, se podría argumentar que está permitido que la IA evolucione como resultado de nuevos datos. Sin embargo, habría que convencer a la gente de este punto de vista. A los reguladores les preocupa que el aprendizaje continuo pueda hacer que los algoritmos discriminen o se vuelvan inseguros de formas nuevas y difíciles de detectar. Lo que la gente podría aceptar más fácilmente es la IA complementada de forma inteligente por la toma de decisiones humana. Como se describe en el artículo de HBR de 2020 "A Better Way to Onboard AI" (en coautoría con Theodoros Evgeniou), los sistemas de IA pueden desplegarse como "entrenadores", proporcionando comentarios y aportaciones a los empleados (por ejemplo, a los operadores de valores financieros de una empresa de gestión de activos). Pero no es una vía de sentido único: Gran parte del valor de la colaboración proviene de la retroalimentación que los humanos dan a los algoritmos. Facebook, de hecho, ha adoptado un enfoque interesante para supervisar y acelerar el aprendizaje de la IA con su plataforma Dynabench. Encarga a expertos humanos que busquen formas de engañar a la IA para que produzca un resultado incorrecto o injusto mediante algo llamado recopilación dinámica de datos adversarios. Cuando los humanos mejoran activamente la IA, pueden desbloquear valor con bastante rapidez. En una reciente charla TED, Sylvain Duranton de BCG describió cómo un minorista de ropa ahorró más de 100 millones de dólares en sólo un año con un proceso que permitía a los compradores humanos introducir su experiencia en la IA que predecía las tendencias de la ropa. . . . Dado que la creciente dependencia de la IA -especialmente del aprendizaje automático- aumenta significativamente los riesgos estratégicos a los que se enfrentan las empresas, éstas deben asumir un papel activo en la redacción de un reglamento para los algoritmos. A medida que la analítica se aplica a decisiones como la aprobación de préstamos o la evaluación de la reincidencia delictiva, siguen aumentando las reservas sobre los sesgos ocultos. La opacidad inherente a la compleja programación subyacente al aprendizaje automático también está causando consternación, y aumenta la preocupación sobre si las herramientas habilitadas por la IA desarrolladas para una población pueden tomar decisiones sobre otras poblaciones con seguridad. A menos que todas las empresas -incluidas las que no participan directamente en el desarrollo de la IA- se enfrenten pronto a estos retos, corren el riesgo de erosionar la confianza en los productos habilitados para la IA y desencadenar una regulación innecesariamente restrictiva, lo que socavaría no sólo los beneficios empresariales sino también el valor potencial que la IA podría ofrecer a los consumidores y a la sociedad.

La regulación de la IA está llegando

Resumen.

Partner Center