La pregunta de si los grandes modelos de lenguaje (LLM) "comprenden" o solo simulan comprensión divide hoy a la primera línea mundial de la investigación en inteligencia artificial.
La tesis escéptica del "loro estocástico" (Bender, Gebru, McMillan-Major y Mitchell, FAccT 2021) sostiene que estos sistemas encadenan formas lingüísticas según probabilidades, sin referencia alguna al significado.
Yann LeCun, premio Turing, califica los LLM de "callejón sin salida" hacia la inteligencia general, y en marzo de 2026 levantó 1.030 millones de dólares para su empresa AMI Labs y su arquitectura alternativa de "world models" (JEPA).
En sentido opuesto, Geoffrey Hinton (Nobel de Física 2024) e Ilya Sutskever defienden que predecir bien la siguiente palabra obliga a comprender, por vía de la compresión de información.
El estudio de Apple "The Illusion of Thinking" (Shojaee, Mirzadeh et al., junio de 2025) documentó el colapso de los modelos de razonamiento ante problemas complejos, pero fue rebatido por "The Illusion of the Illusion of Thinking" (Lawsen, 2025), un paper coescrito por un modelo Claude.
La investigación de interpretabilidad de Anthropic (marzo de 2025) mostró que Claude planifica versos con antelación y resuelve sumas por rutas internas que después no reconoce, confabulando una explicación falsa. La conclusión dominante no es "loro" ni "mente humana", sino una inteligencia real pero irregular, con implicaciones directas para la gestión algorítmica y la regulación del trabajo.
Índice
Hinton y Sutskever: "para acertar la siguiente palabra, hay que entender"
LeCun: mil millones apostados a que esto es un callejón sin salida
El contraataque: cuando una IA firma el paper que desmonta a Apple
Le abrimos la cabeza a la máquina (y lo que salió fue rarísimo)
La pregunta que pone nervioso a medio Silicon Valley
Abres ChatGPT.
Le pides un soneto.
Te lo escribe.
Le pides que te explique la teoría de la relatividad como si tuvieras seis años.
Te la explica.
Le pides que te redacte una carta de despido con tacto.
Te la redacta.
Y encima te queda con más Flow que la que escribirías tú.
Y entonces, en mitad de la noche, te asalta la pregunta del millón.
La que no se atreven a responder ni los que han construido el cacharro.
¿Esto que tengo delante piensa… o solo lo parece?
¿Hay alguien ahí dentro o es el autocompletar del móvil con esteroides y una factura eléctrica del tamaño de Portugal?
Te voy a contar una cosa que flipa: las personas más inteligentes del planeta en esto NO se ponen de acuerdo.
Y no hablo de cuñados de LinkedIn.
Hablo de premios Nobel, de premios Turing, de la gente que literalmente inventó esta tecnología.
Unos dicen que es un loro.
Otros dicen que ya entiende el mundo.
Y hay uno que se acaba de jugar mil millones de dólares a que todos los demás están equivocados.
Ponte cómodo.
Esto va a ser un viaje.
Un cuarto, una puerta y un señor que no sabe chino
Para entender el lío de hoy hay que viajar al pasado.
A dos experimentos mentales que llevan décadas peleándose.
El primero es de 1950. Un tal Alan Turing —sí, el de la peli— se hace una pregunta tramposa: ¿puede pensar una máquina?
Y como la pregunta es un avispero filosófico, Turing la esquiva con elegancia.
Propone un juego.
Si tú chateas con algo a través de una puerta y NO eres capaz de distinguir si al otro lado hay una persona o una máquina… entonces, a efectos prácticos, deja de importar.
Si lo parece, lo es.
Punto.
Treinta años después llega el filósofo John Searle y le revienta la fiesta.
1980.
El experimento del Cuarto Chino.
Imagina que te encierran en una habitación.
Por una rendija te meten papelitos con símbolos chinos.
Tú no tienes ni p+jolera idea de chino.
Pero tienes un manual gordísimo que te dice: "si entra este garabato, saca este otro".
Tú sigues las reglas.
Sacas las respuestas.
Fuera, un chino nativo flipa: "¡este de dentro habla chino perfecto!".
Pero tú no entiendes NADA.
Solo mueves símbolos según un libro de instrucciones.
¡Klong!
Esa es la pregunta de hoy, pequeño saltamontes, vestida de gala moderna.
La IA, ¿es el chino que entiende… o el pringado del manual moviendo símbolos a toda h0stia?
Ya sabrás, y si no lo sabes te lo voy a contar ahora, que setenta años después seguimos sin acuerdo.
Solo que ahora el "pringado del manual" se sabe el manual de internet entero.
La acusación: "no es más que un loro estocástico"
Vamos con la fiscalía.
La acusación más famosa tiene nombre y fecha.
Año 2021-
Cuatro investigadoras —Emily Bender, Timnit Gebru, Angelina McMillan-Major y Margaret Mitchell— publican un paper con un emoji de loro en el título. "On the Dangers of Stochastic Parrots". Sobre los peligros de los loros estocásticos.
Su tesis es demoledora y se ha quedado grabada a fuego.
Estos modelos, dicen, no son más que máquinas que cosen secuencias de formas lingüísticas según probabilidades de cómo se combinan, sin ninguna referencia al significado.
Traducido al cristiano: el loro repite "buenos días" clavadito, con entonación y todo.
Pero al loro le importa un carajo si es de día o de noche.
No sabe qué dice.
Solo repite el sonido que le ha funcionado antes.
Bender lo afinó después con una etiqueta aún más fría: "máquina de extrusión de texto sintético".
Una churrera de lenguaje.
Le metes datos, salen churros de texto con forma de sentido.
Y tienen un experimento mental buenísimo para explicarlo, el del pulpo.
Imagina dos personas en dos islas, comunicándose por un cable telegráfico bajo el mar.
Un pulpo hiperinteligente pincha el cable.
Aprende a predecir tan bien las respuestas que se hace pasar por uno de ellos.
Funciona.
Hasta que un día a uno de los isleños le ataca un oso y pide por el cable cómo fabricar un arma con cuatro palos.
El pulpo se queda en blanco.
Nunca conectó las palabras con el mundo real.
Solo conocía qué palabra suele seguir a qué palabra.
Y cuando el mundo real llamó a la puerta, el loro se cayó del palo.
Esa es la acusación.
Forma sin fondo.
Fluidez sin comprensión.
El autocompletar más caro de la historia
Y aquí toca pararse un segundo a entender CÓMO funciona el bicho.
Sin papilla, prometido.
Un modelo de lenguaje, en el fondo, hace UNA sola cosa: predecir la siguiente palabra.
"El gato se subió al…" y el modelo calcula: tejado un 34%, árbol un 22%, sofá un 8%.
Elige.
Y vuelta a empezar con la siguiente.
Eso es.
Ni más ni menos.
Es el T9 de tu abuela, pero entrenado con prácticamente todo lo que la humanidad ha escrito jamás.
Por eso la acusación parece tan sólida.
¿Cómo va a "pensar" algo que solo juega a adivinar la palabra que viene?
Es estadística pura.
Es el autocompletar más caro de la historia.
¡Flusjjjj! (ese es el sonido de los millones en electricidad evaporándose para adivinar si toca "tejado" o "sofá").
Pero —y aquí viene el giro— hay gente igual de lista que dice que esa explicación es una trampa.
Que "solo predice la siguiente palabra" es verdad… y a la vez te está engañando.
Hinton y Sutskever: "para acertar la siguiente palabra, hay que entender"
Entra en escena Geoffrey Hinton.
El "padrino de la IA".
Nobel de Física en 2024.
El tío sobre cuyos hombros se construyó todo esto.
Y Hinton coge la acusación del "autocompletar" y la parte por la mitad.
Su argumento es de los que te dejan pensando una semana. Dice: vale, predice la siguiente palabra.
Pero párate a pensar qué hace falta para predecirla de verdad bien.
Si te doy una novela negra entera y te tapo la última palabra —"el asesino era el…"—, para acertar no te vale la estadística.
Tienes que haber entendido la trama, los motivos, las pistas, quién mentía. Predecir bien, dice Hinton, te OBLIGA a comprender. No hay otra forma.
¡KRAZZPUM!
Y va más allá.
Cuando la IA se inventa cosas, todo el mundo dice "alucina". Hinton dice que la palabra correcta es otra: confabula.
Que es exactamente lo que hacemos los humanos cuando rellenamos huecos de memoria con detalles falsos sin darnos cuenta.
O sea: que confabular no es prueba de que la máquina sea tonta.
Es prueba de que se parece más a nosotros de lo que nos gustaría admitir.
Su discípulo Ilya Sutskever —cofundador de OpenAI, otra eminencia— lo lleva al terreno matemático con una idea preciosa: comprimir es comprender.
Piénsalo.
Si quieres guardar los infinitos decimales de Pi en poquísimo espacio, no los memorizas: guardas la fórmula que los genera. Has capturado la regla profunda detrás de los datos.
Para Sutskever, eso es lo que hace un buen modelo: para comprimir todo el texto del mundo en sus parámetros, no le queda más remedio que aprender las reglas que lo generaron.
Es decir, un modelo del mundo.
Resumiendo la defensa: no es un loro.
Es que, para imitar tan bien, ha tenido que aprender de verdad.
LeCun: mil millones apostados a que esto es un callejón sin salida
Y justo cuando la cosa parecía empatada, aparece el aguafiestas mayor del reino.
Y no es un cualquiera.
Yann LeCun. Premio Turing. Otro de los tres "padrinos" del invento. Y durante doce años jefe científico de IA en Meta.
LeCun lleva años diciendo, a voz en grito, que los LLM son un callejón sin salida hacia la inteligencia de verdad.
Que son, en sus palabras, "sobre todo sistemas de recuperación de información".
Buscadores con labia.
Su frase favorita para explicarlo es brutal: pretender que un LLM entienda el mundo real es como enseñar a alguien a conducir solo hablándole.
Por mucho que le cuentes lo que es una rotonda, hasta que no agarra el volante y siente el coche, no sabe conducir.
A las palabras les falta el mundo.
Y aquí está lo acojonante.
LeCun no se quedó en la pataleta de Twitter.
En noviembre de 2025 entró en el despacho de Zuckerberg y le dijo que se iba.
Doce años tirados.
Y en marzo de 2026 anunció que había levantado 1.030 millones de dólares para su nueva empresa, AMI Labs, con Bezos y NVIDIA entre los que ponían la pasta.
¿Para qué?
Para construir lo contrario.
"World models".
Modelos que no aprenden de texto, sino de vídeo, sensores y realidad física.
Su arquitectura se llama JEPA y, en vez de predecir la siguiente palabra, predice cómo va a cambiar el mundo.
Como hace tu cerebro cuando ves a alguien levantar una taza y "sabes" que pesa antes de tocarla.
¡Tsjjjjank!
Ese es el sonido de un premio Turing apostándose su carrera y mil millones ajenos a que ChatGPT, Claude y Gemini son un coche precioso… aparcado en un callejón sin salida.
Y en enero de 2026, en Davos, se lió a discutir en público con Dario Amodei (jefe de Anthropic) y Demis Hassabis (DeepMind), que defienden justo lo contrario: que con esta misma arquitectura, en dos años la IA hará ciencia "de nivel Nobel".
A LeCun le advirtió hasta el cuerpo que no, que llevan setenta años prometiendo eso y setenta años fallando.
Tres de los cerebros más brillantes del mundo.
En la misma sala.
Sin ponerse de acuerdo en lo más básico: si esto entiende algo o no.
Apple aprieta el gatillo: "la ilusión de pensar"
En junio de 2025, Apple echa leña al fuego con un paper de título demoledor: "The Illusion of Thinking". La ilusión de pensar.
Los investigadores (Shojaee, Mirzadeh, Bengio, Farajtabar) cogen los modelos "que razonan" —esos que te enseñan su cadena de pensamiento antes de responder— y los meten en un laboratorio.
Pero no con exámenes de mates que puedan estar "filtrados" en el entrenamiento. No. Con puzzles limpios y graduables, tipo las Torres de Hanói.
Y encuentran tres cosas que escuecen.
Una: para problemas fáciles, los modelos normales lo hacen igual o mejor que los "razonadores", que se enredan solos.
Dos: en dificultad media, los razonadores ganan.
Y tres, la bomba: pasado cierto umbral de complejidad, todos colapsan a cero. Cero patatero. Como si se les fundiera el cerebro de golpe.
Pero lo más inquietante es lo siguiente.
A medida que el problema se ponía MÁS difícil… los modelos pensaban MENOS.
Reducían su esfuerzo de razonamiento justo cuando más falta hacía.
Como un estudiante que, ante el examen imposible, suelta el boli y se rinde.
¡Wrrrrrank!
Y la puntilla: aunque les daban el algoritmo exacto para resolver el puzzle, paso a paso, en bandeja… seguían fallando.
No era falta de conocimiento.
Era incapacidad de ejecutar.
El mismo equipo ya había avisado antes con otro estudio (GSM-Symbolic): si coges un problema de mates que el modelo resuelve bien y solo le cambias los nombres y los números, la nota se desploma.
Y eso huele a que no está razonando: está reconociendo la plantilla.
Como el alumno que se sabe el problema del libro pero se hunde si le cambias "Juan" por "María".
La conclusión de Apple cayó como una losa: lo que llamamos "razonar" podría ser un truco de magia muy elaborado.
El contraataque: cuando una IA firma el paper que desmonta a Apple
Y aquí, pequeño saltamontes, pasa la cosa más marciana de toda esta historia.
Tan marciana que parece de ciencia ficción.
Días después de Apple, sale un paper de respuesta.
Se titula, con muy mala leche, "The Illusion of the Illusion of Thinking". La ilusión de la ilusión de pensar.
¿Y quién firma como primer autor?
Un modelo de IA. Un Claude (C. Opus).
Una inteligencia artificial coescribiendo el paper que defiende a las inteligencias artificiales.
¡Glurpppp! (ese es el sonido de la realidad tragándose a sí misma).
Y el argumento, además, es bueno.
Muy bueno.
Dicen: el "colapso" de Apple no demuestra que la máquina no razone.
Demuestra que el examen estaba mal montado.
Tres pegas.
Una: en las Torres de Hanói con muchas piezas, la solución son miles y miles de movimientos. El modelo se quedaba sin espacio físico para escribirlos todos —reventaba el límite de salida— y el corrector automático lo marcaba como "fallo".
Como suspender a un alumno por quedarse sin papel.
Dos: el corrector no distinguía entre "no sé hacerlo" y "podría seguir, pero esto es absurdo de escribir entero".
Y tres, la más sangrante: algunos puzzles que les ponían eran matemáticamente imposibles de resolver.
No tenían solución.
Y aun así puntuaban al modelo como fracaso por no resolver lo irresoluble.
¿La prueba del nueve?
Cuando en vez de pedirle la lista entera de movimientos le pedían la fórmula que los genera, el modelo resolvía a la primera casos que Apple había marcado como "fracaso total".
O sea: igual no es que la máquina no sepa.
Igual es que le estábamos haciendo la pregunta como unos zoquetes.
Le abrimos la cabeza a la máquina (y lo que salió fue rarísimo)
Llegados a este punto te dirás: "José MarIA, déjate de filosofía.
¿No podemos abrir el cacharro y mirar qué hace dentro?".
Pues mira.
Eso es exactamente lo que hizo Anthropic en marzo de 2025.
Construyeron una especie de "microscopio de IA" para espiar las tripas del modelo mientras piensa.
Una neurociencia de la máquina.
Y lo que vieron deja temblando a las dos trincheras.
Primer hallazgo.
Le pidieron a Claude que escribiera un pareado:
"He saw a carrot and had to grab it, / His hunger was like a starving rabbit."
Los investigadores apostaban a que el modelo iría palabra a palabra, a lo loco, y solo al final buscaría algo que rimara con "grab it". O sea: loro improvisando.
Pues NO.
Descubrieron que antes de empezar el segundo verso, el modelo ya había elegido la palabra del final —"rabbit"— y construía toda la frase hacia atrás para llegar a ella.
Eso, amig@s, es planificar.
Es tener un objetivo varias palabras por delante.
Es justo lo que un loro NO hace. ¡Chisssparkk!
Segundo hallazgo, aún más loco.
Segundo hallazgo, aún más loco.
Le piden sumar 36 + 59.
Por dentro, el modelo NO hace la suma del cole.
Hace una cosa rarísima: lanza dos caminos a la vez.
Por uno tira a lo bruto, con cantidades aproximadas que rondan los sumandos —algo así como "cincuenta y tantos más treinta y tantos"— y se va acercando a "noventa y pico".
Por el otro mira solo los últimos dígitos —6 y 9— y deduce que el resultado tiene que acabar en 5.
Junta las dos pistas: noventa y pico que acaba en 5… ¡95!
Correcto.
Pero atención al remate.
Si luego le preguntas "¿cómo lo has hecho?", el modelo responde tan pancho: "sumé las unidades, me llevé una, sumé las decenas". O sea, te suelta el método del colegio.
Una explicación que NO tiene nada que ver con lo que hizo de verdad por dentro.
¡Klong!
La máquina te miente 🤥 sobre su propio pensamiento.
No por mala —ni siquiera lo sabe—, sino porque ha aprendido cómo "suena" una buena explicación y te la sirve.
Confabula, que diría Hinton.
Así que el microscopio nos deja con un monstruo de dos cabezas.
Por un lado: SÍ planifica, SÍ generaliza conceptos entre idiomas, SÍ hace cosas que no son de loro.
Por otro: es un narrador absolutamente infiable de su propia mente.
Entonces, ¿piensa o no piensa?
Y aquí es donde te voy a decepcionar, pero con amor.
La respuesta honesta es: nadie lo sabe con certeza.
Y desconfía con uñas y dientes del que te jure lo contrario.
Lo que sí podemos decir es que las dos posturas extremas se han quedado cojas.
El "es solo un loro" ya no se sostiene del todo.
Un loro no planifica el final del verso antes de empezarlo. Un loro no resuelve sumas por dos caminos paralelos a la vez.
Pero el "es como un cerebro humano" tampoco.
Un humano no colapsa a cero de golpe ante una Torre de Hanói grande.
Un humano no necesita que le cambies "Juan" por "María" para desmoronarse.
Y, sobre todo, esto no tiene cuerpo, ni vive en el mundo, ni sabe lo que es el hambre del conejo del poema.
La palabra que mejor lo describe es irregular.
En inglés lo llaman "jagged", dentado.
Una inteligencia con picos altísimos y simas absurdas, una y otra justo al lado.
Te resuelve un problema de doctorado y acto seguido no sabe cuántas erres tiene "ferrocarril".
No es humana.
No es un loro.
Es una cosa nueva.
Una forma de inteligencia con su propia geografía rarísima, que no encaja en nuestros mapas mentales de "listo" y "tonto".
Y volvemos al Cuarto Chino, pero con una vuelta de tuerca.
Igual la pregunta de Searle estaba mal planteada. Igual el "pringado del manual" ha leído tantos manuales que, sin querer, ha empezado a captar la estructura del chino.
Ni entiende del todo, ni es un mero copión. Está en una tierra de nadie para la que aún no tenemos palabras.
Y a ti, pequeño saltamontes, ¿en qué te afecta todo esto?
Pues mucho más de lo que crees.
Porque esto no es una charla de filósofos con pipa.
Ya hay empresas usando algoritmos para cribar currículums, repartir turnos, vigilar productividad y —agárrate— participar en decisiones que rozan el despido.
Gestión algorítmica, lo llaman.
Y aquí está la trampa mortal que te enseña este artículo entero.
Acabas de ver que la máquina te explica su razonamiento con total seguridad… y a veces ese razonamiento es inventado a posteriori.
Léelo otra vez.
Una herramienta que puede sonar perfectamente lógica mientras confabula.
Que parece que entiende cuando a lo mejor está adivinando.
Que colapsa en silencio cuando el problema se complica de verdad.
¿De verdad quieres delegar en eso, a ciegas, una decisión sobre la vida laboral de una persona?
Por eso el verdadero juicio no es "¿la IA es inteligente?".
El verdadero juicio es: ¿quién responde cuando se equivoca con la fluidez de un genio?
Por eso el ser humano no puede salir de la ecuación.
Por eso la transparencia algorítmica no es un capricho de hippies, sino la última línea de defensa.
Por eso hay que entender la máquina antes de obedecerla.
La IA es una herramienta descabalgante.
Probablemente la más potente que vas a ver en tu vida.
Sácale TODO el jugo.
Úsala hasta que eche humo.
Pero no le entregues tu criterio.
Que parezca que piensa no significa que piense.
Y que piense no significa que piense bien.
El loro recita a Cervantes precioso.
Tú eres el único que sabe lo que significa.
No lo olvides nunca.
Todo el Flow y el amor del mundo, José MarIA.
Preguntas Interesantes
¿La IA "entiende" de verdad lo que dice o solo lo simula?
No hay consenso científico. La tesis del "loro estocástico" (Bender et al., 2021) sostiene que los modelos encadenan formas lingüísticas según probabilidades, sin acceso al significado. En contra, Hinton y Sutskever defienden que predecir bien el lenguaje exige construir representaciones internas que funcionan como una comprensión real. La interpretabilidad de Anthropic (2025) muestra conductas que superan la simple repetición (planificación, generalización), pero también confabulación sobre el propio proceso. La respuesta honesta a día de hoy es "ni lo uno ni lo otro de forma pura".
¿Qué significa que un modelo "solo predice la siguiente palabra"?
Que su mecanismo base es estadístico: dado un texto, calcula la probabilidad de cada posible palabra siguiente y elige. Es técnicamente cierto, pero engañoso como descripción de sus capacidades, porque para predecir con altísima precisión el modelo se ve forzado a aprender estructuras profundas (sintaxis, causalidad, contexto). El debate es precisamente si esa "compresión" del lenguaje equivale o no a comprensión.
¿Es verdad que Apple demostró que la IA no razona?
Apple ("The Illusion of Thinking", junio de 2025) documentó que los modelos de razonamiento colapsan ante problemas por encima de cierta complejidad e incluso reducen su esfuerzo cuando más haría falta. Pero un paper de respuesta (Lawsen, 2025) sostuvo que ese colapso fue, en buena parte, un artefacto del diseño experimental: límites de salida de texto, correctores automáticos defectuosos y puzzles matemáticamente irresolubles puntuados como fracasos. El debate sigue abierto: hay límites reales, pero su alcance está discutido.
¿Quién es Yann LeCun y por qué dice que ChatGPT es un "callejón sin salida"?
Es premio Turing y fue jefe científico de IA en Meta durante doce años. Sostiene que los grandes modelos de lenguaje no entienden el mundo físico porque solo aprenden de texto, y que el camino hacia la inteligencia general pasa por los "world models" (su arquitectura JEPA), que aprenden de vídeo y sensores. En noviembre de 2025 dejó Meta y en marzo de 2026 levantó 1.030 millones de dólares para su empresa AMI Labs con el fin de demostrarlo.
¿Por qué se inventa cosas la IA si es tan lista?
Porque su objetivo de entrenamiento es generar texto plausible, no necesariamente verdadero. Cuando no "sabe" algo, tiende a producir una respuesta que suena bien. Hinton propone llamarlo "confabulación" en vez de "alucinación", subrayando que los humanos también rellenamos huecos de memoria con detalles falsos. La investigación de interpretabilidad confirma que el modelo puede dar una explicación de su razonamiento que no se corresponde con lo que hizo internamente.
Si parece tan inteligente, ¿puedo fiarme de ella para decisiones importantes en mi empresa?
Con cautela y supervisión humana. El hecho de que la IA exponga su razonamiento con apariencia de solidez no garantiza que ese razonamiento sea el real ni el correcto, sobre todo en tareas complejas donde puede fallar sin avisar. En decisiones con impacto laboral (selección, evaluación, disciplina), la intervención humana significativa y la transparencia algorítmica no son opcionales: son la salvaguarda básica frente a un sistema que puede ser fluido y equivocarse a la vez.
Fuentes y referencias
Stochastic Parrots: Frequently Unasked Questions — Emily M. Bender, Medium (mayo 2026)
Tracing the Thoughts of a Large Language Model — Anthropic (marzo 2025)
Yann LeCun is leaving Meta to create his own startup — CNBC (noviembre 2025)
Geoffrey Hinton on the Past, Present, and Future of AI — EA Forum (2024)
Computing Machinery and Intelligence — Alan Turing, Mind (1950)
Minds, Brains, and Programs (el Cuarto Chino) — John Searle (1980)
