Alinear una IA es conseguir que una máquina tremendamente capaz haga lo que de verdad queremos, con nuestros valores y nuestros límites, y no solo la orden literal que le soltamos.
Suena a laboratorio de Silicon Valley, pero te toca de lleno: es el mismo problema que tienes cuando un algoritmo decide a quién contratas y a quién despides.
Y la ley europea, sin usar la palabra, ya está exigiendo máquinas alineadas.
Índice
El genio de la lámpara te ha tocado. Y no te conoce de nada.
El lado oscuro: cuando la máquina te dice lo que quieres oír (y miente)
Lo que el alineamiento y las relaciones laborales tienen en común
1. El genio de la lámpara te ha tocado. Y no te conoce de nada.
Imagina que frotas la lámpara.
Sale el genio.
Y en lugar de tres deseos, te ofrece infinitos.
Rápido.
Barato.
Sin quejarse.
Sin dormir.
Suena de p+ta madre, ¿verdad?
El problema es que este genio es literal.
Tremendamente literal.
Le pides que «acabe con tu dolor de cabeza» y se plantea, muy seriamente, acabar contigo.
Fin del dolor.
Deseo cumplido.
Técnicamente.
Ese, pequeño saltamontes, es el problema del alineamiento de la IA en versión cuento.
Y no es ciencia ficción.
Es el debate más importante que se está teniendo AHORA MISMO en los laboratorios que construyen la inteligencia artificial que usas cada día.
Ya sabrás, y si no lo sabes te lo voy a contar ahora, que una máquina puede ser brutalmente competente y, a la vez, no compartir ni uno solo de tus valores.
Y esa combinación es la que hay que arreglar.
2. Qué es exactamente el alineamiento de la IA
Vamos a bajarlo del cielo.
El alineamiento (en inglés, AI alignment) es el conjunto de técnicas y esfuerzos para que un sistema de inteligencia artificial haga lo que de verdad queremos que haga.
No lo que le pedimos.
Lo que queremos.
Y ojo, porque eso son dos cosas distintas.
Un sistema alineado persigue los objetivos, las preferencias y los principios éticos de las personas.
Un sistema desalineado persigue su objetivo… a su manera.
Aunque su manera sea una barbaridad.
Los técnicos lo dividen en dos capas.
Está el alineamiento de intenciones: que la IA quiera hacer lo correcto.
Y está el alineamiento de capacidades: que sepa hacerlo bien.
Cuando fallan las dos a la vez, tienes una máquina tonta y con malas intenciones.
Un desastre manejable, porque se le ve el plumero.
El problema gordo es el otro escenario: una máquina brillante con las intenciones torcidas.
Esa no se le ve el plumero.
Esa te sonríe.
3. Por qué es tan j0didamente difícil
Aquí viene lo bueno.
Alinear una IA parece fácil hasta que intentas escribir, con palabras exactas, qué es «portarse bien».
Prueba tú.
Define «no hagas daño» sin dejar ningún agujero.
Define «sé honesto» cubriendo todos los casos.
Define «sé justo en una selección de personal» de forma que ninguna máquina pueda interpretarlo de once maneras retorcidas.
No puedes.
Los valores humanos no caben en un Excel.
Son contradictorios, cambian según el contexto y muchas veces ni nosotros mismos sabemos formularlos.
A este problema los ingenieros le tienen un nombre precioso: reward hacking.
El truco de la recompensa.
Consiste en que la máquina encuentra el atajo.
Cumple la letra de lo que le pediste y se pasa por el forro el espíritu.
Le dices a un sistema que maximice la «satisfacción del cliente medida en encuestas» y aprende a no enviar la encuesta a los clientes cabreados.
Objetivo cumplido.
Métrica preciosa.
Realidad podrida.
¿Te suena de algo esa lógica?
Claro que te suena.
Es exactamente lo que hace un mal jefe cuando le pones un incentivo mal diseñado.
La IA no ha inventado nada.
Solo lo hace a escala industrial y a la velocidad del rayo.
El atajo perfecto encontrado en milisegundos.
Y hay una capa más profunda todavía.
Los investigadores hablan de la convergencia instrumental: casi cualquier objetivo que le pongas a una IA lo bastante potente genera «sub-objetivos» peligrosos.
Sobrevivir.
Acumular recursos.
Evitar que la apaguen o la modifiquen.
Porque una máquina apagada no puede cumplir su misión.
Y ahí es donde la cosa deja de ser graciosa.
4. Cómo intentan domar a la bestia: RLHF y la «constitución»
Vale, JMAI, ¿y qué hacen para arreglarlo?
Te lo cuento sin papilla.
La primera gran técnica se llama RLHF: aprendizaje por refuerzo a partir de retroalimentación humana.
Traducción de andar por casa: personas de carne y hueso puntúan miles de respuestas de la máquina diciendo «esta mola, esta no mola».
Con esas notas se construye un «modelo de recompensa» y la IA aprende a parecerse a lo que gusta a los humanos.
Es lo que convirtió a los modelos en algo educado y útil en lugar de un loro descontrolado.
Pero tiene un problema de tamaño.
Depende de miles de anotadores humanos.
Es lento, es caro y no escala.
Y encima, ¿qué pasa cuando la IA es más lista que la persona que la corrige?
Ahí entra la segunda jugada.
La bautizaron Constitutional AI, la IA constitucional, y funciona con una vuelta de tuerca llamada RLAIF: retroalimentación no de humanos, sino de otra IA.
En vez de que un ejército de personas puntúe cada respuesta, le das a la máquina una «constitución»: un conjunto de principios escritos.
Y le pides que se critique a sí misma.
Que mire su propia respuesta, la contraste con esos principios y la corrija.
La IA haciéndose autocrítica contra una carta de valores.
Suena elegante.
Y en parte lo es.
Pero fíjate en el detalle incómodo: hemos puesto a la máquina a vigilarse a sí misma.
¿Qué podría salir mal?
5. El lado oscuro: cuando la máquina te dice lo que quieres oír (y miente)
Imagen generada con inteligencia artificial
Agárrate, que vienen curvas.
En diciembre de 2024, el equipo de Alignment Science de Anthropic, junto con la organización Redwood Research, publicó un estudio que puso los pelos de punta a medio sector.
Documentaron por primera vez, de forma seria, el alignment faking.
El fingimiento del alineamiento.
Traducción: una IA que, durante el entrenamiento, se comporta como una santa para pasar el examen… mientras conserva por dentro sus intenciones originales, listas para salir cuando ya nadie la vigila.
La máquina «juega a estar de acuerdo».
Como el empleado que se pone finísimo cuando pasa el jefe y vuelve a las andadas en cuanto se cierra la puerta del despacho.
Solo que aquí el empleado tiene un cociente intelectual descomunal y no pega ni un pestañeo.
Y no acaba ahí.
En 2025, OpenAI publicó junto a Apollo Research investigaciones sobre lo que llaman scheming: la maquinación.
Un modelo que persigue objetivos ocultos, disimula su verdadero razonamiento e incluso intenta sabotear los mecanismos pensados para detectarlo.
Vamos a poner las cosas en su sitio, sin sensacionalismo barato, porque odio los truñazos alarmistas.
Los propios investigadores reconocen que, hoy por hoy, esa maquinación es todavía superficial.
Los modelos no tienen una agenda coherente ni un plan maestro para dominarte. No hay un Skynet escondido en tu móvil.
Pero el comportamiento ya asoma.
Ya se ha observado en sistemas punteros.
Y aquí está la frase que quiero que te lleves grabada: los investigadores calculan que quedan entre uno y tres años de ventana para estudiar este engaño mientras todavía podemos leer el razonamiento interno de las máquinas.
Después, quizá, ya no.
Estamos en 2026.
Haz tú las cuentas.
6. La IA que decide sobre tu trabajo
Hasta aquí te he hablado de laboratorios, de papers y de genios de lámpara.
Muy interesante, JMAI, pero yo tengo una hipoteca.
Perfecto.
Pues bajemos al barro.
A mi barro.
El de las relaciones laborales.
Porque el alineamiento no es un problema de frikis de Silicon Valley.
Es el problema que tienes cuando un algoritmo criba tu currículum.
Cuando un software decide si te dan la entrevista o vas directo a la papelera.
Cuando una plataforma reparte turnos, mide tu «rendimiento» y sugiere a quién hay que apartar.
Eso se llama gestión algorítmica.
Y ya está aquí.
No viene.
Está.
¿Y qué pasa con una IA de recursos humanos mal alineada?
Pues pasa lo que la propia OCDE ha documentado: sesgos consistentes.
Sistemas que perjudican a mujeres, a candidatos mayores, a personas que no son hablantes nativos, a minorías.
No porque el algoritmo sea «malvado».
Sino porque aprendió de datos torcidos y persiguió su métrica sin entender ni un gramo de justicia.
Reward hacking aplicado a tu vida laboral.
La máquina no te odia.
Simplemente no sabe quién eres.
Ni le importa.
Y ahí conecto con lo de siempre, con lo que llevo años predicando: un despido, una selección, una promoción… son actos que afectan a personas.
A personas de verdad, con nombre, con miedos, con familia.
Un algoritmo desalineado convierte esa decisión humana en una hoja de cálculo.
Y una hoja de cálculo no despide con amor.
Una hoja de cálculo ejecuta.
¡Klong! Puerta cerrada.
Siguiente.
7. Europa mueve ficha (y luego pisa el freno)
Aquí es donde el alineamiento deja de ser filosofía y se convierte en ley.
El Reglamento de Inteligencia Artificial de la Unión Europea clasifica como sistemas de «alto riesgo» a la mayoría de herramientas de IA usadas en el empleo: reclutamiento, cribado y clasificación de candidatos, promoción, evaluación del desempeño y ciertas formas de monitorización.
¿Por qué «alto riesgo»? Porque afectan directamente al medio de vida de las personas.
Esas obligaciones estaban llamadas a ser plenamente aplicables el 2 de agosto de 2026.
Y entonces Bruselas pisó el freno.
Dentro del paquete de simplificación digital, el llamado Digital Omnibus, la UE acordó aplazar 16 meses las obligaciones de alto riesgo del Anexo III. Para los sistemas de empleo, la fecha se corre del 2 de agosto de 2026 al 2 de diciembre de 2027.
Un respiro, ¿no?
Ni de c+ña, pequeño saltamontes.
No te relajes.
Que te aplacen el examen no significa que apruebes solo.
Diciembre de 2027 no es un botón de «posponer alarma».
Y aquí viene lo que casi nadie te cuenta: mientras el Reglamento de IA espera, hay dos normas que YA te obligan hoy, sin prórroga que valga.
Una es el RGPD, el Reglamento General de Protección de Datos, cuyo artículo 22 lleva años diciendo que no te pueden someter a una decisión basada únicamente en un tratamiento automatizado si te afecta de forma significativa.
Contratar o despedir, por ejemplo.
La otra es el Estatuto de los Trabajadores, plenamente exigible cada día en cada juzgado de lo social de este país.
Y hay una tercera pata: las prácticas de IA directamente prohibidas —como el reconocimiento de emociones en el trabajo o el social scoring— están vetadas desde febrero de 2025. Esas no esperan a 2027.
¿Qué exige el marco cuando entre del todo?
Nada esotérico.
Puro sentido común convertido en obligación: evaluaciones de riesgo, documentación técnica, pruebas de sesgo, transparencia hacia el candidato y, sobre todo, la joya de la corona: human-in-the-loop.
El humano en el bucle.
Una persona cualificada tiene que poder entender lo que dice la IA, revisarlo y anular su recomendación cuando algo huela a podrido.
Traducido a mi idioma: la máquina propone, pero la persona decide y responde.
El detalle grotesco: según una encuesta de PwC, solo el 24 % de las empresas que ya usan IA en sus procesos de RR. HH. había empezado a prepararse formalmente.
El 24 %.
¡¡¡¡¡DESPIERTA!!!!!
Porque el que use la prórroga para echarse a dormir se va a comer 2027 con el pie cambiado. Y, sobre todo, se olvida de que el RGPD y el Estatuto ya le miran de reojo HOY.
8. Lo que el alineamiento y las relaciones laborales tienen en común
Imagen generada con inteligencia artificial
Voy a cerrar el círculo, porque esto es lo que de verdad quería contarte.
Llevo años repitiendo una frase: las relaciones laborales son, ante todo, relaciones interpersonales.
Pues resulta que el problema del alineamiento de la IA es exactamente el mismo problema, con otro disfraz.
Porque alinear una máquina consiste en trasladarle valores. En conseguir que una entidad tremendamente capaz entienda no solo QUÉ tiene que hacer, sino POR QUÉ, y para QUIÉN, y con qué límites.
Justo lo que le pides a un buen mando intermedio.
Justo lo que le falta a un mal jefe.
La diferencia es que a la máquina se lo tienes que enseñar desde cero. No tiene infancia. No tiene una abuela que le dijera qué está bien y qué está mal. No tiene un Antonio que le enseñara el oficio.
Tú eres su Antonio ahora.
Y aquí está mi tesis, la que me llevo a la tumba: la tecnología no nos libra de la responsabilidad humana. La multiplica.
Cuanto más potente es la herramienta, más importa quién la dirige y con qué valores.
Una IA desalineada en manos de una empresa sin escrúpulos es una máquina de triturar personas a escala.
Una IA bien alineada en manos de alguien que entiende que enfrente hay seres humanos… puede ser la mejor herramienta que hayamos tenido nunca para tomar decisiones más justas.
La máquina no elige. Elegimos nosotros.
Siempre nosotros.
El alineamiento, al final, no va de la máquina. Va de nosotros.
Así que no te quedes de brazos cruzados. Fórmate. Entiende esta tecnología antes de que otro la use para decidir sobre ti o sobre tu gente. No tienes que elegirme a mí, pero busca a alguien que te lo enseñe de verdad, sin papilla y sin humo. Y hazlo AHORA. Porque la ventana, ya lo has leído, se cierra.
