"En cuanto haya una sola resolución judicial que dé la razón a la IA, se acabó el pensar. Para siempre." La primera vez que leí esta frase pensé que hablaba de errores.
Me equivoqué.
Habla de algo mucho peor: del día en que la máquina acierte. Sigue leyendo, pequeño saltamontes.
No va de que la IA se equivoque.
Va del día en que acierte. Sola. Sin nosotros. Y encima mejor.
Ese día es el que me quita el sueño.
Y te voy a contar por qué.
Índice
1. No es que la IA falle. Es que acierte
Ya sabrás, y si no lo sabes te lo voy a contar ahora, que todo el mundo anda asustado con lo mismo.
Que si la IA alucina.
Que si se inventa sentencias.
Que si comete errores.
Vale.
Eso pasa.
Y es un problema.
Pero ese es el problema fácil.
Porque un error se detecta, se corrige y se sanciona.
El problema de verdad, el que hiela la sangre, es el otro.
¿Qué pasa el día que la IA lo hace bien?
¿Qué pasa cuando dicta una resolución impecable, sin que la haya tocado ni un humano, y resulta que... tiene razón?
Ahí no hay error que corregir.
Ahí hay algo mucho más incómodo: la sospecha de que sobramos.
2. Qué significa de verdad "darle la razón a la IA"
Hilemos fino, porque aquí está la clave de todo el artículo.
"Darle la razón a la IA" no es que un juez humano use la máquina de becaria.
Eso ya lo hacemos.
Es otra cosa.
Es que el sistema —una resolución, un tribunal, la ley misma— reconozca como válido, bueno y legítimo algo que decidió una IA entera y sola.
Sin autoría humana.
Sin supervisión humana.
Y que sea correcto igualmente.
El día que eso ocurra una sola vez, y quede escrito, se abre una grieta.
Porque a partir de ese momento ya existe un precedente que dice: "el juicio de la máquina, por sí mismo, vale".
Y si el juicio de la máquina vale por sí mismo...
...¿para qué narices vamos a seguir pensando nosotros?
Ahí.
Justo ahí.
Se acaba el pensar.
No por pereza.
Por permiso.
3. El experimento mental: un juez que no es humano
Imagínatelo conmigo.
Sin miedo, como un juego.
Un agente de IA recibe la demanda.
Lee el expediente completo en tres segundos.
Ve la grabación íntegra de la vista oral: los gestos del testigo, los silencios, las contradicciones del interrogatorio.
Cruza esa vista con los dos millones de sentencias que conoce de memoria.
Y dicta el fallo.
Motivado.
Coherente.
Sin cansancio, sin prisas por acabar el señalamiento, sin el mal día de un lunes.
Ahora dime la verdad, pequeño saltamontes:
¿Estás seguro de que esa sentencia sería peor que la de un juez humano desbordado, con 400 asuntos encima de la mesa?
¿Seguro?
Porque si dudas —y haces bien en dudar— acabas de asomarte al abismo del que habla la frase.
4. Spoiler: ya está pasando (Loomis, Estonia, Prometea)
Y aquí bajo de la ciencia ficción al Boletín Oficial.
Porque esto no es mañana.
Es ayer.
Estados Unidos. Caso State v. Loomis (Tribunal Supremo de Wisconsin, 2016).
A Eric Loomis lo condenaron ayudándose de COMPAS, un algoritmo que calcula el riesgo de reincidencia.
Loomis recurrió: "me han juzgado con una caja negra cuyo funcionamiento no puedo ni ver".
¿Y qué hizo el Tribunal Supremo de Wisconsin?
Le dio la razón... a la máquina.
Validó usar el criterio del algoritmo en la decisión.
Ojo: un tribunal supremo declarando que apoyarse en el juicio de una IA no vulnera tus derechos.
Eso ya ocurrió.
Hace años.
Estonia. Los pleitos de reclamaciones menores (por debajo de 7.000 euros) se resuelven mediante procedimientos automatizados.
Sin juez humano en la trinchera.
Argentina. Sistema Prometea. Predice el sentido de una resolución con un 96% de acierto. En 20 segundos.
Veinte.
Segundos.
No te lo cuento para que flipes.
Te lo cuento para que entiendas que la primera piedra del muro ya está puesta.
La frase no describe un futuro.
Describe una pendiente por la que ya estamos rodando.
5. El espejo que lo explica todo: el bisturí y la máquina
Vámonos un momento del juzgado al quirófano.
Porque el espejo se ve más claro con sangre.
En 2025, Microsoft presentó un sistema de IA que supera a los médicos en el diagnóstico de casos clínicos complejos.
El robot quirúrgico STAR realizó una operación de sutura intestinal de forma autónoma, con un desempeño que los propios investigadores calificaron de sobrehumano.
Y una mujer recuperó la visión con una cirugía láser en la que la IA ensayó 2.000 patrones en un "gemelo digital" de sus ojos antes de tocar el bisturí.
Resultado: una agudeza visual por encima de la media humana.
Ahora piensa como me pediste que pensara.
Imagina una IA que opera distinto a como lo haría un cirujano.
Con un criterio que el médico humano jamás habría elegido.
Un criterio "raro".
Contraintuitivo.
Casi herético.
Y que, aun así, salva la vida.
El paciente vive.
¿A quién le importa entonces que ningún humano lo hubiera hecho así?
El resultado es bueno.
Y ese, amigo mío, es exactamente el mismo dilema del juez.
El día que el resultado de la máquina es bueno aunque ningún humano lo firme ni lo entienda del todo... ¿con qué cara le seguimos exigiendo a un humano que decida?
6. La pregunta que nadie quiere hacerse
Aquí está el nudo.
Léelo despacio.
Si la única razón para tener a un humano decidiendo era que acertaba más...
...y llega una máquina que acierta más que el humano...
...entonces el humano se ha quedado sin argumento.
Se convierte en decoración.
En un sello de goma.
En el señor que firma lo que otro pensó.
Y una profesión que solo firma lo que la máquina piensa no es una profesión.
Es una ceremonia.
Por eso la frase es tan brutal.
Porque no dice "la IA nos va a sustituir".
Dice algo peor: dice que nosotros mismos vamos a dejar de pensar, encantados, en cuanto tengamos la excusa perfecta.
Y la excusa perfecta es una sola resolución que diga: "la máquina tenía razón".
Imagen generada con inteligencia artificial
Cuando el criterio se erosiona, no cruje. Se deshace en silencio.
7. Delegar tareas te hace libre; delegar el conocimiento, esclavo
Aquí quiero pararme.
Porque esto es el corazón de todo y casi nadie lo distingue.
Hay dos cosas que parecen la misma y son opuestas.
Delegar una tarea.
Y delegar el conocimiento.
Cuando delegas una tarea, sueltas el trabajo pero te quedas con el criterio.
El arquitecto no pone los ladrillos.
Pero sabe si el muro está torcido.
Le pasas el marrón a otro, vale.
Pero si la caga, lo cazas al vuelo.
Porque tú sabes.
Eso es sano.
Eso es listo.
Eso es delegar con red.
Delegar el conocimiento es otra cosa.
Más honda.
Y muchísimo más j0dida.
Es soltar no solo el trabajo, sino la capacidad de saber si está bien hecho.
Es el arquitecto que ya no sabe leer un plano.
El médico que ya no sabe interpretar una analítica.
El asesor que ya no sabría calcular a mano la indemnización que firma.
El juez que ya no sabría motivar la sentencia que rubrica.
¿Ves la diferencia?
En la primera mandas tú. En la segunda manda la máquina y tú aplaudes.
Y ahora agárrate, porque viene la trampa mortal:
Para supervisar a la IA necesitas el conocimiento que le entregaste a la IA.
Léelo otra vez, despacio.
Si le regalaste tu criterio... ¿con qué c+ño la vas a vigilar?
No se puede supervisar lo que ya no se entiende.
La ley te promete una "intervención humana significativa". Precioso sobre el papel.
Pero un humano que delegó su conocimiento no interviene: asiente.
No supervisa: bendice.
No controla: firma.
Y ahí, pequeño saltamontes, está el nudo de toda la frase.
"Se acabó el pensar" no llega el día que la IA piensa por nosotros.
Llega el día que ya no sabríamos pensar aunque quisiéramos.
Porque un músculo que no se usa no se atrofia despacio.
Desaparece.
¡Glurpppp!
Y esto es lo bonito y lo terrible a la vez: la máquina no te arranca el conocimiento.
Se lo das tú. Gramo a gramo. Cada vez que aceptas sin comprobar, cada vez que copias sin entender, cada vez que eliges el resumen fácil sobre el texto difícil.
La delegación absoluta no es un robo.
Es una donación en vida.
8. El fondo jurídico: ¿por qué exigimos un humano detrás?
Ponte el traje técnico, que aquí toca rigor de verdad.
Porque el Derecho ya intuyó este abismo. Y levantó diques. Vamos a verlos.
Dique uno: el artículo 22 del RGPD.
Reconoce tu derecho a no ser objeto de una decisión basada únicamente en un tratamiento automatizado que produzca efectos jurídicos o te afecte significativamente.
Y te da tres armas: derecho a obtener intervención humana, a expresar tu punto de vista y a impugnar la decisión.
Fíjate en el detalle que lo cambia todo: esa intervención humana tiene que ser significativa, no simbólica. Hecha por alguien con competencia y poder real para cambiar la decisión.
Es decir: la ley ya prohíbe el sello de goma.
Dique dos: la reserva de jurisdicción.
El artículo 117.3 de la Constitución reserva el ejercicio de la potestad jurisdiccional —juzgar y hacer ejecutar lo juzgado— exclusivamente a juzgados y tribunales.
Y el 24.2 te garantiza el derecho al juez ordinario predeterminado por la ley.
Pregunta incómoda: ¿puede una máquina ser "juez"? ¿Puede un algoritmo ser el "juez predeterminado por la ley"?
Hoy, no. La independencia judicial (art. 117.1 CE) y el deber de motivar las resoluciones (art. 120.3 CE) presuponen un sujeto que delibera. Que duda. Que responde con su nombre.
Dique tres: los guardarraíles recientes.
La Instrucción 2/2026 del CGPJ es tajante: la IA no puede sustituir al juez en la decisión, la valoración de la prueba ni la interpretación del Derecho.
Y el Reglamento (UE) 2024/1689 de IA clasifica la justicia como ámbito de alto riesgo (Anexo III, punto 8.a).
Ahora bien. Presta atención a lo que de verdad importa.
Todos estos diques comparten una grieta.
Protegen el procedimiento (que haya un humano, que firme, que motive).
Pero no garantizan la sustancia (que ese humano de verdad piense).
Un juez que firma sin leer cumple el art. 117.3 CE.
Y ha dejado de pensar.
La ley puede exigir que haya un humano en la silla.
No puede obligarlo a tener la cabeza encendida.
Esa parte, la más importante, queda fuera del alcance de cualquier boletín oficial.
9. Esto no va solo de jueces: va de tu profesión
Abre el foco, porque esto nos salpica a todos. A los graduados sociales, a los abogados... y a cualquiera que trabaje con la cabeza.
Cambia "sentencia" por lo que tú haces:
El diagnóstico del médico.
El cálculo del ingeniero.
El artículo del periodista.
El informe del auditor.
La estrategia del consultor.
La nómina del asesor laboral.
En todas ellas hay hoy un humano decidiendo "porque tiene que haber un humano".
El día que en tu sector una IA demuestre que decide igual o mejor, y alguien con poder lo valide oficialmente aunque sea una sola vez... ese "porque tiene que haber un humano" se evapora.
Y quedan dos tipos de profesional.
El que usa la máquina como exoesqueleto: piensa MÁS y mejor, apoyado en ella.
Y el que la usa como muleta hasta que se le olvida andar.
La IA no elige por ti cuál de los dos eres.
Eso lo eliges tú. Cada día. En cada gesto de comprobar o no comprobar.
10. La fascinación y el vértigo (los dos, a la vez)
No te voy a vender ni pánico ni euforia. Porque siento las dos cosas a la vez, y sería mentirte fingir lo contrario.
La fascinación es real.
Una justicia sin años de espera. Sin el sesgo del juez que discutió con su pareja esa mañana. Sin la lotería de que te toque la sala buena o la mala.
Una medicina que ve el tumor que el ojo humano no ve.
¿Cómo no va a fascinarme eso? Sería un necio si lo negara.
El vértigo también es real.
Porque una decisión que nadie entiende no se puede discutir.
Y una decisión que no se puede discutir no se puede recurrir.
Y algo que no se puede recurrir... deja de ser justicia y pasa a ser oráculo.
Volvemos a Delfos. A preguntarle al dios qué debemos hacer y a obedecer sin rechistar.
Solo que ahora el dios corre sobre unos servidores en Virginia.
Fascinación y vértigo. Las dos manos del mismo cuerpo.
Quien te venda solo una de las dos, te está engañando.
Imagen generada con inteligencia artificial
La mente que se evapora hacia la nube. Gota a gota, y con una sonrisa.
11. Mi tesis: lo que de verdad está en juego no es la precisión
Y aquí te dejo adónde he llegado yo.
No como verdad revelada, sino como la piedra sobre la que quiero que discutamos.
Llevamos todo el artículo comparando quién acierta más, si el humano o la máquina.
Y creo que esa es la pregunta equivocada.
Porque si el debate es solo de precisión, ya lo hemos perdido.
La máquina va a acertar más. Es cuestión de tiempo. Asúmelo.
Entonces, ¿para qué queremos un humano juzgando?
Mi respuesta: no lo queremos porque acierte más.
Lo queremos porque juzgar a una persona es un acto entre personas.
Porque el que va a ser condenado tiene derecho a mirar a los ojos a quien lo condena.
Porque una máquina puede calcular la pena óptima, pero no puede responder de ella. No puede rendir cuentas. No tiene nada que perder. No siente el peso de haber arruinado una vida si se equivoca.
Y esto conecta con lo que llevo quince años predicando:
Las relaciones laborales son, antes que nada, relaciones interpersonales.
Y las judiciales también.
Un despido, una condena, un alta médica denegada... no son problemas de cálculo.
Son momentos en los que una vida humana se cruza con otra.
El día que le entreguemos eso a un algoritmo "porque acierta más", no habremos ganado eficiencia.
Habremos renunciado a que juzgar signifique algo.
Y "se acabó el pensar" no será una catástrofe tecnológica.
Será una decisión que tomamos nosotros. Firmada por nuestra propia comodidad.
12. Y ahora te toca a ti
La frase sigue ahí, mirándonos:
"En cuanto haya una sola resolución judicial que dé la razón a la IA, se acabó el pensar. Para siempre."
Yo ya te he dado mi lado del abismo.
Ahora quiero el tuyo. Y lo quiero de verdad, en los comentarios:
¿Dejarías que una IA dictara tu sentencia si te garantizaran que acierta más que un juez humano?
Sí o no. Y por qué.
Si la máquina opera mejor que el cirujano pero con un criterio que nadie entiende, ¿te dejas operar?
Y la de fondo: ¿queremos un humano decidiendo porque acierta más... o porque hay decisiones que solo tienen sentido si las toma otra persona?
No hay respuesta fácil. Por eso te pregunto.
Porque de esto no salimos con una app.
Salimos pensando.
Juntos.
Mientras todavía sabemos hacerlo.
Te leo abajo.
Y mientras seguimos pensando, te dejo la herramienta con la que yo me obligo a no dejar de hacerlo: la que me pone la fuente delante antes de firmar nada.
