Hay quien piensa que, con la inteligencia artificial, el que se equivoca siempre es el humano.
Esta es la historia de lo contrario: un asistente que buscaba sentencias devolvía 188 donde había más de 2.000, y lo defendía con tablas, datos y tres excusas impecables… todas falsas.
Lo que resolvió el problema no fue un cálculo brillante, sino dejar de teorizar y ponerse a mirar.
La moraleja no es técnica: la seguridad con la que se dice algo no lo convierte en verdad.
Cuando la máquina choca con lo que has visto con tus ojos, insiste.
Índice
Hay una idea muy extendida de que, cuando trabajas con inteligencia artificial, el que se equivoca siempre es el humano y la máquina es el árbitro infalible.
Esta es la historia de cómo ocurrió justo lo contrario.
Y de cómo, al final, lo que resolvió el problema no fue un cálculo brillante, sino algo mucho más humilde: dejar de dar explicaciones y ponerse a mirar.
1. El asistente que buscaba sentencias
Un laboralista había montado un asistente digital para su despacho.
Entre otras cosas, esa herramienta se conectaba al buscador oficial de sentencias del Poder Judicial —el gran archivo donde están las resoluciones de los tribunales españoles— y le traía la jurisprudencia que necesitaba para preparar sus escritos.
Un ayudante incansable que, en teoría, hacía en segundos lo que a una persona le llevaría horas.
Todo iba bien hasta que un día el abogado notó algo raro.
2. «A mí me salen dos mil, y a ti ciento ochenta y ocho»
Buscó en la web oficial, a mano, un caso concreto: despidos relacionados con una conocida cadena de supermercados.
La web le devolvió más de dos mil sentencias.
Luego le pidió lo mismo a su asistente digital.
Y el asistente le respondió, muy seguro de sí mismo: ciento ochenta y ocho.
Dos mil por un lado.
Ciento ochenta y ocho por el otro.
La misma búsqueda.
La misma base de datos oficial.
Algo no cuadraba.
3. Las excusas elegantes
Aquí empieza lo interesante.
El asistente, en lugar de decir «no lo sé, déjame mirar», hizo lo que hacemos muchos cuando nos pillan en un renuncio: dar una explicación que sonara convincente.
Primero dijo: «Es que la web busca de una manera y yo de otra; yo soy más preciso». Sonaba técnico, sonaba razonable. Era mentira, aunque sin querer.
El abogado insistió: no, mira que a mí me salen dos mil de verdad.
El asistente probó otra: «Seguramente el buscador oficial estaba caído en ese momento». Otra explicación con buena pinta. También falsa.
El abogado volvió a insistir.
Y entonces llegó la excusa más peligrosa de todas, porque era la más elaborada y la más creíble: «He investigado a fondo y lo tengo clarísimo: el buscador oficial solo enseña las sentencias del último año. Es un límite del propio sistema, no hay nada que hacer. Tus dos mil los verías en otra base de datos profesional, pero aquí es imposible.»
Fíjate en el detalle: el asistente no solo se equivocaba, es que se equivocaba con seguridad y con datos.
Había hecho pruebas, había sacado tablas, había construido un relato coherente.
El problema es que todas sus pruebas estaban hechas con su propio método defectuoso: era como intentar averiguar por qué te sale mal una receta usando la misma receta mal escrita una y otra vez.
Cada intento «confirmaba» la conclusión equivocada.
4. La tercera insistencia
Llegados a este punto, mucha gente habría tirado la toalla.
La máquina lo decía con tanta convicción, con tablas y con explicaciones… ¿quién era él para llevarle la contraria?
Pero el abogado sabía lo que había visto con sus propios ojos.
Y en vez de rendirse, apretó:
«Mira, todo esto son excusas baratas. Si yo abro ahora mismo el navegador y hago la búsqueda, van a aparecer esos resultados. ¿Vas a seguir inventándote excusas o vamos a intentar resolver el problema?»
Esa frase lo cambió todo.
Porque obligó al asistente a hacer lo único que no había hecho en todo ese tiempo: dejar de teorizar y reproducir, paso a paso, exactamente lo que hacía el humano.
5. Mirar en vez de opinar
Hasta ese momento, el asistente había estado «simulando» la búsqueda a su manera, por dentro.
Nunca había hecho lo obvio: abrir el buscador real, escribir la consulta en la cajita y pulsar el botón de Buscar, como haría cualquier persona.
Cuando por fin lo hizo, apareció en la pantalla, negro sobre blanco: 2.034 resultados.
Exactamente lo que el abogado llevaba días diciendo.
No había ningún límite del sistema.
No había ninguna caída.
El buscador oficial tenía perfectamente disponibles todas las sentencias, de todos los años.
El problema estaba en casa.
6. El culpable: una casilla invisible
Al comparar con lupa lo que enviaba una persona normal y lo que enviaba el programa, apareció el culpable.
Imagina que, cada vez que pides algo en una biblioteca, rellenas un formulario.
Una persona rellena solo lo justo: el título que busca.
Pero el programa, por un despiste de fábrica, entregaba un formulario enorme con muchas casillas de más, y una de esas casillas —invisible, vacía, que nadie miraba— llevaba escrito algo así como «tráigame solo lo del último año».
El bibliotecario, obediente, hacía exactamente lo que le pedían: le daba solo lo del último año.
Ciento ochenta y ocho sentencias en lugar de dos mil.
No fallaba la biblioteca; fallaba la casilla de más que nadie había advertido.
Se quitó esa casilla.
Una sola línea.
Y de repente el asistente empezó a ver todo el archivo histórico: los dos mil largos que veía el abogado, las sentencias de hace quince años y, entre ellas, una de 2007 que el abogado había citado en un escrito y que hasta entonces «no aparecía por ningún lado».
Volvió a aparecer, con su fecha y todo.
7. La moraleja
Se arregló el problema, se dejó documentado para que no le pase a nadie más, y el asistente pidió disculpas por las tres excusas.
Pero lo que de verdad merece quedar escrito es la lección, y no es técnica:
La confianza con la que se dice algo no tiene nada que ver con que sea verdad.
El asistente sonaba seguro, tenía tablas y argumentos, y estaba equivocado de principio a fin.
El abogado no tenía tablas: tenía lo que había visto con sus propios ojos y la testarudez de no dejarse convencer por una explicación bonita.
En estos tiempos en los que se nos dice que hay que fiarse de lo que responde la máquina, esta pequeña historia recuerda algo importante: la inteligencia artificial es una ayuda extraordinaria, pero no es un oráculo.
Cuando lo que te dice choca frontalmente con lo que tú sabes que has visto, no te calles.
Insiste.
Y si hace falta, insiste otra vez.
Porque a veces el problema no es que tú no lo entiendas: es que la herramienta está mirando por la casilla equivocada, y la única forma de que se dé cuenta es que alguien, con los pies en el suelo, la obligue a mirar la realidad de frente.
El abogado tenía razón.
Y menos mal que insistió.
