Existen algoritmos digitales para la toma de decisiones conocidos como inteligencia artificial (IA). La pregunta crítica es ¿Cómo administran los gerentes humanos este tipo de sistemas impulsados por algoritmos?
TeeTime Klever / Harvard Business Review
El uso de la Inteligencia Artificial (IA) por parte de tu empresa aumentará, y eso es bueno. La digitalización permite a las empresas operar a un nivel atómico y tomar millones de decisiones cada día sobre un solo cliente, producto, proveedor, activo o transacción.
Pero estas decisiones no las pueden tomar los seres humanos que trabajan en una hoja de cálculo.
A estas decisiones granulares impulsadas por IA las llamamos «microdecisiones». Requieren un cambio de paradigma completo, un paso de la toma de decisiones a la toma de «decisiones sobre las decisiones».
Deberás administrar un nuevo nivel de abstracción a través de reglas, parámetros y algoritmos. Este cambio se está produciendo en todos los sectores y en todos los tipos de toma de decisiones. En este artículo proponemos un marco para pensar en estas decisiones y cómo determinar el modelo de gestión óptimo.
Las microdecisiones requieren automatización
La naturaleza de las microdecisiones requiere cierto nivel de automatización, especialmente para las decisiones en tiempo real y de mayor volumen. La automatización se habilita mediante algoritmos (las reglas, las predicciones, las restricciones y la lógica que determinan cómo se toma una microdecisión).
Y estos algoritmos de toma de decisiones a menudo se describen como inteligencia artificial (IA). La pregunta crítica es, ¿cómo gestionan los gerentes humanos este tipo de sistemas impulsados por algoritmos?
Un sistema autónomo es conceptualmente muy fácil. Imagínate un automóvil sin conductor y sin volante. El conductor simplemente le dice al automóvil a dónde ir y espera lo mejor. Pero en el momento en que hay un volante, tienes un problema.
Debe informar al conductor cuándo puede querer intervenir, cómo puede intervenir y cuánto aviso le dará cuando surja la necesidad de intervenir. Debe pensar detenidamente en la información que presentará al conductor para ayudarlo a realizar una intervención adecuada.
Lo mismo ocurre con cualquier microdecisión. En el momento en que hay un ser humano involucrado, debe pensar detenidamente en cómo diseñar un sistema de decisión que permita al ser humano tener una interacción significativa con la máquina.
Los cuatro modelos de gestión principales que desarrollamos varían según el nivel y la naturaleza de la intervención humana: los llamamos HITL, HITLFE, HOTL, HOOTL.
Es importante reconocer que este es un espectro, y si bien hemos extraído los modelos de gestión clave, existen subvariantes basadas en la división entre humano y máquina, y el nivel de abstracción de la gestión en el que el ser humano se involucra con el sistema.
La gama de opciones de gestión
Humano en el bucle (HITL): Un ser humano es asistido por una máquina. En este modelo, el ser humano está tomando las decisiones y la máquina solo proporciona soporte para la toma de decisiones o automatización parcial de algunas decisiones o partes de decisiones. Esto a menudo se conoce como amplificación de inteligencia (IA).
La recolección y eliminación de residuos y el reciclaje es un negocio complejo en el que todo, desde el clima hasta las ordenanzas locales de ruido, los diseños de los estacionamientos y las cerraduras de las puertas, los tipos de reciclaje y las ubicaciones de descarga, la disponibilidad de los conductores y las capacidades de los camiones, desempeñan un papel importante en una operación eficiente.
Una empresa de Fortune 500 está invirtiendo mucho en el uso de la IA para mejorar sus operaciones. Reconocen que el valor de la IA a menudo proviene de ayudar a los humanos a hacer mejor su trabajo.
Un ejemplo es ayudar a los despachadores a gestionar los billetes y las rutas de manera más eficaz. Muchas cosas pueden evitar un evento de servicio sin problemas, por ejemplo, la necesidad de una clave o código específico, ventanas de tiempo donde la recogida es o no posible, restricciones de ancho y longitud, instrucciones para mover o abrir cosas, construcción temporal y mucho más.
Un bot desarrollado recientemente rastrea todos los tickets y solicitudes en múltiples sistemas para identificar cualquier cosa que pueda afectar a una parada en particular y llamar la atención del despachador.
Identifica de forma proactiva todos los posibles problemas para la ruta según la configuración actual (y lo vuelve a hacer cuando se agregan, mueven o eliminan paradas durante el día) y los despachadores pueden utilizarlo de forma reactiva mientras trabajan para encontrar la mejor manera de agregar solicitudes a las rutas en vuelo.
El despachador humano monitorea el sistema mientras trabaja para liberar entre el 20 y el 25% de su día mediante la automatización de miles de decisiones sobre los tickets de servicio
Humano al tanto de las excepciones (HITLFE): La mayoría de las decisiones están automatizadas en este modelo, y el ser humano solo maneja las excepciones. Con las excepciones, el sistema requiere algún juicio o aporte del ser humano antes de poder tomar la decisión, aunque es poco probable que le pida al ser humano que tome la decisión completa. Los seres humanos también controlan la lógica para determinar qué excepciones se marcan para su revisión.
Una marca de belleza desarrolló un algoritmo de aprendizaje automático (ML) para predecir el aumento en las ventas de los diferentes tipos de promoción para reemplazar un enfoque existente impulsado por humanos.
La predicción del ML tomó en cuenta factores como la oferta, el apoyo de marketing, la estacionalidad y la canibalización para crear un pronóstico automatizado. Para muchas promociones, la predicción de ML funcionó bien, pero los gerentes perdieron rápidamente la confianza después de que el éxito inicial fue seguido rápidamente por algunos fracasos extremos, lo que resultó en una pérdida significativa de ventas.
Cuando los científicos de datos revisaron las predicciones, descubrieron que el algoritmo de ML tenía dificultades para predecir ciertos tipos de promoción. En lugar de abandonar el proyecto, desarrollaron un enfoque HITLFE.
La clave era codificar el nivel de confianza de la máquina en sus predicciones y hacer que los humanos revisaran las predicciones sobre una base de excepción cuando la máquina tenía poca confianza.
Humano en el bucle (HOTL): Aquí, la máquina es asistida por un humano. La máquina toma las microdecisiones, pero el ser humano revisa los resultados de las decisiones y puede ajustar las reglas y los parámetros para las decisiones futuras.
En una configuración más avanzada, la máquina también recomienda parámetros o cambios de reglas que luego son aprobados por un ser humano.
Humano fuera del bucle (HOOTL): En este modelo, la máquina es monitoreada por el ser humano. La máquina toma todas las decisiones y el ser humano solo interviene estableciendo nuevas restricciones y objetivos. La mejora también es un circuito cerrado automatizado. Los ajustes, basados en los comentarios de los seres humanos, están automatizados.
Qué puede salir mal
Una empresa de viajes de EE. UU. implementó un sistema HOOTL completamente automatizado para el marketing de palabras clave en Google. El equipo de marketing pudo introducir un presupuesto y un objetivo, y luego el sistema determinó automáticamente la asignación óptima del gasto y la lógica de pujas en millones de palabras clave.
El sistema funcionó bien al principio y proporcionó ganancias de eficiencia y mejores resultados. Sin embargo, cuando el sistema comenzó a funcionar menos bien, el equipo no pudo explicar por qué ni tomar ninguna medida correctiva.
Este era un sistema de caja negra que se basaba en algoritmos patentados pero era inmanejable en la práctica, y el equipo volvió a su antiguo sistema basado en reglas.
Si el rendimiento mejora (incluso por un tiempo), los gerentes están contentos, pero si las decisiones comienzan a funcionar mal, es una tarea extremadamente compleja desentrañar qué elemento del nuevo proceso tiene la culpa.
Por ejemplo: una decisión algorítmica puede ser demasiado opaca para pasar el escrutinio reglamentario o para explicarla a los clientes descontentos. Los cambios automatizados en el algoritmo en respuesta a los comentarios recopilados por el algoritmo pueden crear una condición de carrera en la que el algoritmo gira fuera de su curso.
Es posible que se remitan demasiadas decisiones para su revisión manual, lo que limita drásticamente el valor del algoritmo. O la participación humana en el algoritmo puede estar en un nivel incorrecto, lo que hace que los usuarios humanos lo dejen de lado.
Parte de la solución consiste en elegir el modelo correcto de compromiso humano para una decisión determinada. Además, cada sistema de toma de microdecisiones debe ser monitoreado, independientemente de la cantidad de participación humana que haya.
El monitoreo asegura que la toma de decisiones sea «buena» o al menos adecuada para el propósito ahora, al tiempo que crea los datos necesarios para detectar problemas y mejorar sistemáticamente la toma de decisiones a lo largo del tiempo.
También es fundamental que midas la eficacia de la toma de decisiones: Se deben capturar al menos dos métricas que se centren en la efectividad de la toma de decisiones. No se puede optimizar ninguna decisión empresarial en el mundo real centrándose en una sola métrica, siempre hay una compensación.
Además, siempre debe recopilar información sobre cómo el sistema tomó la decisión, no solo la decisión real tomada. Esto permite tanto la explicación efectiva de las decisiones «malas» como la correspondencia de los resultados subóptimos con los detalles específicos de la forma en que se tomó la decisión.
Por último, debe realizar un seguimiento del resultado empresarial y asignarlo a la forma en que se tomaron las decisiones.
Decidir qué modelo es el adecuado
Es importante reconocer que estos sistemas evolucionarán con el tiempo, gracias a la nueva tecnología, el deseo de las organizaciones de tomar cada vez más decisiones quirúrgicas y una mayor confianza de la administración en la automatización.
Debe decidir qué nivel de gestión humana es posible y deseable, y su apetito por el riesgo y la iteración. No hay una respuesta correcta.
Independientemente del modelo que adopte, creemos que es fundamental colocar la IA en el organigrama y en el diseño del proceso para garantizar que los gerentes humanos se sientan responsables de su producción.
La necesidad de sistemas más autónomos, la demanda de los consumidores de respuestas instantáneas, la coordinación en tiempo real de las cadenas de suministro y los entornos remotos y automatizados se combinan para hacer que el mayor uso de la IA dentro de su organización sea inevitable.
Estos sistemas tomarán microdecisiones cada vez más detalladas en su nombre, lo que afectará a sus clientes, sus empleados, sus socios y sus proveedores. Para tener éxito, debe comprender las diferentes formas en que puede interactuar con la IA y elegir la opción de administración correcta para cada uno de sus sistemas de IA.
