En la historia que dio nombre a todo este modo de fallo, las autoridades británicas de la Delhi colonial estaban preocupadas por las cobras venenosas, así que ofrecieron una recompensa por cada cobra muerta que se entregara. Funcionó — al principio. Después, algunos lugareños emprendedores hicieron lo racional: empezaron a criar cobras para matarlas y cobrar la recompensa. Cuando las autoridades lo descubrieron y cancelaron el programa, los criadores, que se habían quedado con serpientes ya sin valor, las soltaron. Delhi acabó con más cobras que antes de empezar a pagar por eliminarlas. Los economistas llaman a esto el efecto cobra (cobra effect), y es el gemelo oscuro de todo lo que has aprendido hasta ahora: los incentivos son tan potentes que apuntar uno al objetivo equivocado no solo fracasa — produce activamente lo contrario de lo que querías.
Conociste el eslogan en la lección 1 (muéstrame el incentivo) y el autoengaño en la lección 3 (sesgo inducido por el incentivo). Esta lección trata del error más caro de toda la materia: recompensar lo que no toca. Es caro precisamente porque los incentivos funcionan. Un incentivo débil apuntado a un mal objetivo hace poco daño. Uno fuerte — justo del tipo que te enorgullece diseñar — arrastra a todo el mundo directo hacia el mal objetivo con toda su fuerza. Hagamos primero que te comprometas con una conjetura.
Antes de leer — adivina
A un hospital se le juzga por un único número: el porcentaje de pacientes de urgencias atendidos en menos de cuatro horas. El personal empieza a dejar aparcadas fuera las ambulancias que llegan (para que no arranque el reloj) y a ingresar a la gente en plantas al azar justo antes de la fecha límite. ¿Cuál es la descripción más limpia de lo que ha salido mal?
Incentivos perversos: cuando la recompensa sale por la culata
La definición precisa. Un incentivo perverso (perverse incentive) es una recompensa que produce el efecto contrario al buscado — incentiva justo el comportamiento que pretendía evitar. La recompensa por cobras debía reducir las cobras; las multiplicó. No es que el incentivo fuera débil. Es que apuntaba a lo que no tocaba y funcionó a la perfección sobre ese objetivo equivocado.
Por qué ocurre — el problema del indicador indirecto. Aquí está la causa raíz, y es casi inevitable. Aquello que de verdad te importa suele ser difícil de medir: “buena atención de urgencias”, “control de plagas de verdad”, “una relación comercial sana”, “aprendizaje genuino”. Así que recompensas en su lugar un indicador indirecto / proxy (proxy) — un sustituto medible que correlaciona con el objetivo real en condiciones normales. Cobras matadas, colas entregadas, pacientes en menos de cuatro horas, cuentas abiertas, notas de exámenes. El indicador parece estar bien, porque antes de empezar a recompensarlo de verdad sí sigue al objetivo.
El problema es que un indicador indirecto correlaciona con el objetivo solo hasta que empiezas a presionarlo. En cuanto cae una gran recompensa sobre el indicador, la gente encuentra todas las formas de mover el indicador que no mueven el objetivo — porque casi siempre son más baratas que alcanzar de verdad el objetivo. Criar cobras es más barato que cazar las salvajes. Aparcar ambulancias es más barato que curar a los pacientes más rápido. A la recompensa le da igual qué camino tomaste; solo ve el indicador. Así que gana el camino barato y sin objetivo.
La trampa del indicador, en una línea
No puedes recompensar el objetivo directamente, así que recompensas un indicador indirecto medible de él. Pero la gente optimiza exactamente lo que se recompensa — así que encuentra la forma más barata de mover el indicador, que casi nunca es la que también mueve el objetivo. Cuanto más fuerte es la recompensa, más ancha es la brecha entre ambos.
¿Por qué recompensar un 'indicador indirecto' (un sustituto medible) es tan propenso a salir por la culata, incluso cuando el indicador correlacionaba de verdad con el objetivo de antemano?
Mira desertar a una población — las granjas de ratas de Hanói
En 1902, la administración colonial francesa en Hanói tenía su propio problema de ratas, y echó mano de la misma herramienta: una recompensa pagada por cada cola de rata entregada. Las colas llegaban a decenas de miles. Y sin embargo las ratas seguían viniendo — porque la recompensa era por colas, no por ratas muertas. Los cazadores aprendieron a cortar la cola a una rata viva y soltarla (una rata sin cola sigue criando), y los más emprendedores se pusieron a criar ratas directamente. La administración estaba pagando, con gran eficiencia, justo por lo que pedía: colas. Solo que nunca quiso colas. Quería menos ratas.
El deslizador de abajo es esa recompensa. Arrastra la recompensa hacia arriba y observa la población: con una recompensa baja, el camino honesto barato (cazar de verdad ratas salvajes) es suficiente, así que la mayoría hace lo que se pretendía. A medida que sube la recompensa, persona tras persona cruza su punto de inflexión privado — la recompensa a la que hacer trampa vale más que el trabajo honesto — y deserta hacia la cría. Esto es el efecto cobra en movimiento: el carácter de nadie cambió. Lo hizo la recompensa.
Sigue la recompensa
La recompensa por colas de rata de Hanói
Arrastra la recompensa hacia arriba. Cada actor deserta a hacer trampa con la métrica en cuanto el pago supera su precio personal — el comportamiento sigue a la recompensa, no al objetivo declarado.
Recompensa pagada por cada cola de rata entregada
Recompensa 0¢: 0% (0/24) eligen ahora «Criar ratas por sus colas» en vez de «Cazar ratas salvajes».
Dos cosas merecen una pausa. Primero, fíjate en que no hay villano: los que desertan los últimos son los más escrupulosos, pero todos tienen un precio, y una recompensa lo bastante fuerte sobre el indicador equivocado lo encontrará. Segundo, fíjate en lo que hace el arreglo. Atar la recompensa al resultado real (una caída auditada de la población de ratas) en lugar del indicador (colas) no solo reduce la trampa — elimina el incentivo a hacer trampa en absoluto, porque ahora la única forma de cobrar es lograr de verdad el objetivo. Esa es toda la receta de la lección final, anticipada en un solo interruptor.
En el deslizador, los cazadores de ratas que siguen trabajando honestamente con las recompensas más altas son los del 'punto de inflexión' personal más alto. ¿Qué implica el modelo sobre confiar en esas personas escrupulosas para mantener seguro un incentivo mal apuntado?
La ley de Goodhart: la medida deja de medir
Esta trampa es tan fiable que tiene una ley. La ley de Goodhart (Goodhart’s law), en su forma más concisa (que debemos a la antropóloga Marilyn Strathern): “Cuando una medida se convierte en objetivo, deja de ser una buena medida.” El economista Charles Goodhart la advirtió originalmente en política monetaria — en el momento en que un banco central fijaba como objetivo una estadística concreta, esa estadística dejaba de comportarse como cuando nadie la usaba de timón. La misma forma aparece dondequiera que a un número se le atornilla una recompensa.
Una medida funciona como un termómetro — una lectura pasiva que refleja la realidad. El error es agarrar el termómetro y usarlo como termostato — un control que aprietas. En cuanto lo haces, todo el que tenga algo en juego empieza a calentar el termómetro con un mechero en lugar de calentar la habitación. El número sube; aquello que el número debía representar, no.
Los primos de Goodhart, conviene conocerlos por su nombre
La ley de Campbell (Campbell’s law) es el gemelo de las ciencias sociales: cuanto más se usa un indicador cuantitativo para decisiones de gran calado, más se corrompe y más distorsiona el proceso que debía supervisar (piensa en los exámenes escolares de gran calado). La crítica de Lucas (Lucas critique) es la versión de la macroeconomía. Todas son la misma idea con distintas casacas de campo: una métrica bajo presión se deforma. Conocer los nombres te deja detectar el patrón más rápido.
La ilustración clásica — posiblemente apócrifa pero demasiado perfecta para no enseñarla — es la fábrica soviética de clavos. Califica la planta por el número de clavos que produce y enviará millones de tachuelas diminutas e inútiles. Cámbialo a calificarla por el peso de los clavos y enviará un único clavo gigantesco e igual de inútil. Cada vez, la fábrica maximiza a la perfección la medida y abandona por completo el objetivo (clavos utilizables), porque la medida nunca fue el objetivo — solo un sustituto que se rompió en cuanto se le puso carga.
Ninguna métrica única es a prueba de trampas, porque toda métrica es una proyección de un objetivo rico sobre un único número barato, y una proyección siempre tira información. Lo que sea que el número ignora es comida gratis para quien lo optimice: ignora la calidad y la recortan; ignora el largo plazo y le piden prestado; ignora a los pacientes que rechazaste y rechazarán a los difíciles. Las defensas prácticas no son “encontrar la única métrica verdadera” — son usar varias métricas que se manipulan en direcciones opuestas, emparejar una medida de cantidad con un guardarraíl de calidad, auditar las trampas y mantener a humanos en el bucle con la discreción de decir “cumpliste el número pero está claro que hiciste trampa”. Las montaremos en una lista de comprobación de diseño en la lección 6.
Casos resueltos: la misma máquina, cinco disfraces
Cada uno de estos es una organización recompensando un indicador indirecto y obteniendo el indicador — objetivo no incluido.
| Contexto | Objetivo real | Indicador recompensado | Lo que hizo la gente en su lugar |
|---|---|---|---|
| Hanói, 1902 | Menos ratas | Colas de rata entregadas | Cortaban colas a ratas vivas; criaban ratas por las colas |
| Wells Fargo, ~2011–2016 | Clientes que quieren más productos | Cuentas nuevas abiertas por empleado | Abrieron ~3,5 millones de cuentas que los clientes nunca pidieron |
| Objetivos de urgencias del Reino Unido | Atención de urgencias buena y a tiempo | % de pacientes procesados en menos de 4 horas | Retenían ambulancias fuera; ingresaban gente para cumplir el reloj |
| Exámenes escolares de gran calado | Alumnos que han aprendido de verdad | Notas de exámenes estandarizados | Estrechaban la enseñanza al examen; en algunos distritos, trampas directas |
| ”Boletines de notas” de cirujanos | Más vidas salvadas | Tasa de supervivencia ajustada por riesgo de cada cirujano | Evitaban operar a los pacientes más graves para proteger la estadística |
Lee hacia abajo la columna del “indicador recompensado” y casi puedes predecir la última columna antes de leerla. Esa es la señal de un pensador maduro de incentivos: mostrado un indicador con una recompensa encima, puedes pronosticar la trampa de antemano. El arreglo nunca es “esforzarse más en ser bueno”. Es cambiar lo que hay en la columna del medio.
La pregunta de autopsia previa que caza la mayoría de estos
Antes de atar una recompensa a cualquier número, pregunta: “Si una persona lista, perezosa y ligeramente deshonesta quisiera maximizar este número sin hacer el trabajo real, ¿cómo lo haría?” Sea lo que sea lo que imagines, da por hecho que alguien lo hará de verdad. Si la forma más barata de ganar la recompensa no es la misma que alcanzar el objetivo, has encontrado un incentivo perverso sobre el tablero de diseño — que es el lugar más barato posible para encontrar uno.
Una plataforma de contenidos paga a los creadores por 'minuto visto'. En unos meses, los vídeos se inflan al triple de su longitud anterior, rellenos de paja, y los vídeos cortos genuinamente útiles desaparecen. Aplica la lección: ¿cuál es el diagnóstico, y la clase de arreglo correcta?
Recapitulación
Acabas de conocer la forma más cara de usar la palanca más potente:
- Un incentivo perverso produce lo contrario de lo buscado — no por debilidad, sino por una recompensa fuerte apuntada al objetivo equivocado (el efecto cobra).
- La causa raíz es el problema del indicador indirecto: el objetivo real es difícil de medir, así que recompensas un sustituto medible — y la gente mueve el indicador por la ruta más barata, que normalmente no mueve el objetivo.
- La ley de Goodhart: cuando una medida se convierte en objetivo, deja de ser una buena medida. Un termómetro es un termostato pésimo. (La ley de Campbell y la crítica de Lucas son la misma idea en otros sitios.)
- La misma máquina impulsa las ratas de Hanói, las cuentas falsas de Wells Fargo, los objetivos hospitalarios manipulados, la enseñanza para el examen y los cirujanos que esquivan los casos difíciles — lee el indicador recompensado y puedes pronosticar la trampa.
- La defensa no es la virtud, es el diseño: pregunta ¿cómo haría trampa con esto una persona lista, perezosa y ligeramente deshonesta? antes de lanzar la recompensa — y apúntala al resultado, no al indicador.
Comprueba: incentivos perversos
¿Qué hace que un incentivo sea "perverso", en vez de simplemente débil o ineficaz?
Comprueba tu respuesta para continuar.
Hacia dónde va esto
Hasta ahora la historia ha sido unidireccional: los incentivos son potentes, y apuntarlos al objetivo equivocado sale por la culata. Pero hay una posibilidad más extraña que solo hemos insinuado — que añadir una recompensa a algo que la gente ya estaba haciendo puede hacer que lo haga menos. La administración de Hanói al menos consiguió colas. A veces pagas por un comportamiento y ves cómo el comportamiento encoge, porque el mero acto de atarle dinero cambió lo que significaba. Eso es la lección 5, Intrínseco frente a Extrínseco — donde una guardería intenta frenar las recogidas tardías con una multa y acaba con más, y aprendemos la única situación en la que la jugada obvia (simplemente paga por ello) es precisamente la equivocada.