El revisor que dejó de revisar
Poner a una persona a supervisar lo que hace una IA suena a la solución responsable. Es la que más falla, y se sabe por qué desde hace sesenta años.
Esta es la conversación que tiene todo el mundo cuando automatiza algo por primera vez:
— ¿Y si se equivoca? — Tranquilo, lo revisa Marta antes de darle a enviar.
Suena responsable. Es la respuesta que todos queremos oír, porque deja a una persona al mando y nos quita el miedo. Y es, con diferencia, el punto más débil de todo el montaje.
No porque Marta sea mala en su trabajo. Precisamente por lo contrario.
La primera semana
La primera semana, Marta revisa de verdad. Abre cada documento, compara los campos, corrige dos cosas y aprende cómo se comporta el sistema. Encuentra fallos. El sistema mejora.
La segunda semana encuentra menos.
La tercera abre el documento, mira por encima y le da a aceptar. No porque le dé igual: porque las últimas doscientas veces estaba bien, y su cabeza ha aprendido eso perfectamente. Es lo que haría cualquiera. Es lo que harías tú.
Al mes, Marta no está revisando. Está firmando.
Y aquí viene lo peor: como sigue habiendo un revisor en el organigrama, todo el mundo cree que hay una red de seguridad. La organización entera se comporta como si alguien estuviera mirando. Nadie está mirando.
Esto no es una opinión
Se estudia desde los años cincuenta, cuando se descubrió que los operadores de radar dejaban de ver los ecos raros a los veinte o treinta minutos de turno. La atención sobre una señal que casi nunca aparece se degrada sola, y no se arregla poniendo ganas.
Después se volvió a encontrar en las cabinas de los aviones, cuando el piloto automático se hizo fiable: la gente confía más en lo que dice el sistema que en lo que ve por la ventanilla, y deja de comprobar. Se le puso nombre y todo.
El patrón siempre es el mismo, y tiene una ironía cruel dentro: cuanto mejor funciona el sistema, peor funciona su supervisor. Un sistema que falla mucho mantiene al revisor despierto. Uno que acierta el 99 % lo duerme en dos semanas. Justo cuando más te fías de él es cuando menos te está cubriendo.
Así que el plan «lo revisa una persona» tiene un defecto de diseño de origen: empeora a medida que mejoras la otra mitad.
Lo que además cuesta
Aparte de no funcionar, la supervisión humana se come buena parte de lo que habías ido a buscar.
Si el sistema tarda cuatro segundos en preparar algo y la persona tarda cuarenta en aprobarlo, no has automatizado el proceso: has automatizado el 10 % y has dejado el cuello de botella intacto. Los documentos siguen esperando a que alguien llegue por la mañana, siga de vacaciones o termine la reunión.
Y hay un coste que no se ve: el trabajo de revisar cosas que están bien es de los más desmoralizantes que existen. No tiene criterio, no tiene mérito y no se acaba nunca. Es exactamente el trabajo que la gente buena se cansa de hacer.
Entonces qué
La alternativa no es quitar la comprobación. Es quitarle la comprobación a una persona.
Comprobar que la suma de las líneas cuadra con el total, que la fecha es posible, que el proveedor existe, que ese importe no es cien veces mayor que cualquier otro de ese cliente: eso no es criterio humano. Es una lista de reglas, y una lista de reglas se cumple mejor a las tres de la mañana del 24 de diciembre que un martes a las once, que es justo cuando una persona no.
Lo que comprueba no se cansa, no confía, no da nada por sentado porque las últimas doscientas veces estuviera bien, y no aprueba nada por inercia. Comprueba el documento número cuarenta mil con el mismo rigor que el primero.
Eso es lo que quiere decir que un sistema sea autónomo. No que nadie lo mire: que lo que lo mira tampoco es una persona.
Dónde sí tiene sentido
Quedan dos sitios donde quieres a alguien delante, y conviene saber cuáles son para no confundirlos con el resto.
Al principio. Las primeras semanas, mirando de verdad, con la expectativa de encontrar cosas. No como red de seguridad permanente sino como puesta a punto, con fecha de caducidad puesta desde el primer día.
En lo que no es reversible. Mandar dinero, firmar, borrar algo definitivamente, contestar a un cliente enfadado. Ahí no quieres una comprobación: quieres una decisión, y las decisiones son tuyas.
Todo lo que hay en medio —leer, clasificar, teclear, cuadrar, avisar, reintentar— no necesita a nadie delante. Necesita estar bien hecho.
Si alguien te propone automatizar un proceso y la respuesta a «¿y si falla?» es el nombre de un empleado, pregúntale qué va a pasar en la semana cuatro.
¿Tienes un proceso que encaje con esto? Cuéntamelo: contacto · hola@naltion.dev
Comentarios
Cargando…