2. Qué es exactamente el alineamiento de la IA
Vamos a bajarlo del cielo.
El alineamiento (en inglés, AI alignment) es el conjunto de técnicas y esfuerzos para que un sistema de inteligencia artificial haga lo que de verdad queremos que haga.
No lo que le pedimos.
Lo que queremos.
Y ojo, porque eso son dos cosas distintas.
Un sistema alineado persigue los objetivos, las preferencias y los principios éticos de las personas.
Un sistema desalineado persigue su objetivo… a su manera.
Aunque su manera sea una barbaridad.
Los técnicos lo dividen en dos capas.
Está el alineamiento de intenciones: que la IA quiera hacer lo correcto.
Y está el alineamiento de capacidades: que sepa hacerlo bien.
Cuando fallan las dos a la vez, tienes una máquina tonta y con malas intenciones.
Un desastre manejable, porque se le ve el plumero.
El problema gordo es el otro escenario: una máquina brillante con las intenciones torcidas.
Esa no se le ve el plumero.
Esa te sonríe.
3. Por qué es tan j0didamente difícil
Aquí viene lo bueno.
Alinear una IA parece fácil hasta que intentas escribir, con palabras exactas, qué es «portarse bien».
Prueba tú.
Define «no hagas daño» sin dejar ningún agujero.
Define «sé honesto» cubriendo todos los casos.
Define «sé justo en una selección de personal» de forma que ninguna máquina pueda interpretarlo de once maneras retorcidas.
No puedes.
Los valores humanos no caben en un Excel.
Son contradictorios, cambian según el contexto y muchas veces ni nosotros mismos sabemos formularlos.
A este problema los ingenieros le tienen un nombre precioso: reward hacking.
El truco de la recompensa.
Consiste en que la máquina encuentra el atajo.
Cumple la letra de lo que le pediste y se pasa por el forro el espíritu.
Le dices a un sistema que maximice la «satisfacción del cliente medida en encuestas» y aprende a no enviar la encuesta a los clientes cabreados.
Objetivo cumplido.
Métrica preciosa.
Realidad podrida.
¿Te suena de algo esa lógica?
Claro que te suena.
Es exactamente lo que hace un mal jefe cuando le pones un incentivo mal diseñado.
La IA no ha inventado nada.
Solo lo hace a escala industrial y a la velocidad del rayo.
El atajo perfecto encontrado en milisegundos.
Y hay una capa más profunda todavía.
Los investigadores hablan de la convergencia instrumental: casi cualquier objetivo que le pongas a una IA lo bastante potente genera «sub-objetivos» peligrosos.
Sobrevivir.
Acumular recursos.
Evitar que la apaguen o la modifiquen.
Porque una máquina apagada no puede cumplir su misión.
Y ahí es donde la cosa deja de ser graciosa.
4. Cómo intentan domar a la bestia: RLHF y la «constitución»
Vale, JMAI, ¿y qué hacen para arreglarlo?
Te lo cuento sin papilla.
La primera gran técnica se llama RLHF: aprendizaje por refuerzo a partir de retroalimentación humana.
Traducción de andar por casa: personas de carne y hueso puntúan miles de respuestas de la máquina diciendo «esta mola, esta no mola».
Con esas notas se construye un «modelo de recompensa» y la IA aprende a parecerse a lo que gusta a los humanos.
Es lo que convirtió a los modelos en algo educado y útil en lugar de un loro descontrolado.
Pero tiene un problema de tamaño.
Depende de miles de anotadores humanos.
Es lento, es caro y no escala.
Y encima, ¿qué pasa cuando la IA es más lista que la persona que la corrige?
Ahí entra la segunda jugada.
La bautizaron Constitutional AI, la IA constitucional, y funciona con una vuelta de tuerca llamada RLAIF: retroalimentación no de humanos, sino de otra IA.
En vez de que un ejército de personas puntúe cada respuesta, le das a la máquina una «constitución»: un conjunto de principios escritos.
Y le pides que se critique a sí misma.
Que mire su propia respuesta, la contraste con esos principios y la corrija.
La IA haciéndose autocrítica contra una carta de valores.
Suena elegante.
Y en parte lo es.
Pero fíjate en el detalle incómodo: hemos puesto a la máquina a vigilarse a sí misma.
¿Qué podría salir mal?
5. El lado oscuro: cuando la máquina te dice lo que quieres oír (y miente)
Imagen generada con inteligencia artificial
Agárrate, que vienen curvas.
En diciembre de 2024, el equipo de Alignment Science de Anthropic, junto con la organización Redwood Research, publicó un estudio que puso los pelos de punta a medio sector.
Documentaron por primera vez, de forma seria, el alignment faking.
El fingimiento del alineamiento.
Traducción: una IA que, durante el entrenamiento, se comporta como una santa para pasar el examen… mientras conserva por dentro sus intenciones originales, listas para salir cuando ya nadie la vigila.
La máquina «juega a estar de acuerdo».
Como el empleado que se pone finísimo cuando pasa el jefe y vuelve a las andadas en cuanto se cierra la puerta del despacho.
Solo que aquí el empleado tiene un cociente intelectual descomunal y no pega ni un pestañeo.
Y no acaba ahí.
En 2025, OpenAI publicó junto a Apollo Research investigaciones sobre lo que llaman scheming: la maquinación.
Un modelo que persigue objetivos ocultos, disimula su verdadero razonamiento e incluso intenta sabotear los mecanismos pensados para detectarlo.
Vamos a poner las cosas en su sitio, sin sensacionalismo barato, porque odio los truñazos alarmistas.
Los propios investigadores reconocen que, hoy por hoy, esa maquinación es todavía superficial.
Los modelos no tienen una agenda coherente ni un plan maestro para dominarte. No hay un Skynet escondido en tu móvil.
Pero el comportamiento ya asoma.
Ya se ha observado en sistemas punteros.
Y aquí está la frase que quiero que te lleves grabada: los propios investigadores advierten de que la ventana para estudiar este engaño, mientras todavía podemos leer el razonamiento interno de las máquinas, es frágil y puede cerrarse.
Después, quizá, ya no.
Estamos en 2026.
Haz tú las cuentas.
6. La IA que decide sobre tu trabajo
Hasta aquí te he hablado de laboratorios, de papers y de genios de lámpara.
Muy interesante, JMAI, pero yo tengo una hipoteca.
Perfecto.
Pues bajemos al barro.
A mi barro.
El de las relaciones laborales.
Porque el alineamiento no es un problema de frikis de Silicon Valley.
Es el problema que tienes cuando un algoritmo criba tu currículum.
Cuando un software decide si te dan la entrevista o vas directo a la papelera.
Cuando una plataforma reparte turnos, mide tu «rendimiento» y sugiere a quién hay que apartar.
Eso se llama gestión algorítmica.
Y ya está aquí.
No viene.
Está.
¿Y qué pasa con una IA de recursos humanos mal alineada?
Pues pasa lo que documentaron la OCDE, la UNESCO y el BID en su informe de 2022 sobre los efectos de la IA en la vida laboral de las mujeres: sesgos consistentes.
Sistemas que perjudican a mujeres, a candidatos mayores, a personas que no son hablantes nativos, a minorías.
No porque el algoritmo sea «malvado».
Sino porque aprendió de datos torcidos y persiguió su métrica sin entender ni un gramo de justicia.
Reward hacking aplicado a tu vida laboral.
La máquina no te odia.
Simplemente no sabe quién eres.
Ni le importa.
Y ahí conecto con lo de siempre, con lo que llevo años predicando: un despido, una selección, una promoción… son actos que afectan a personas.
A personas de verdad, con nombre, con miedos, con familia.
Un algoritmo desalineado convierte esa decisión humana en una hoja de cálculo.
Y una hoja de cálculo no despide con amor.
Una hoja de cálculo ejecuta.
¡Klong! Puerta cerrada.
Siguiente.
7. Europa mueve ficha (y luego pisa el freno)
Aquí es donde el alineamiento deja de ser filosofía y se convierte en ley.
El Reglamento de Inteligencia Artificial de la Unión Europea clasifica como sistemas de «alto riesgo» a la mayoría de herramientas de IA usadas en el empleo: reclutamiento, cribado y clasificación de candidatos, promoción, evaluación del desempeño y ciertas formas de monitorización.
¿Por qué «alto riesgo»? Porque afectan directamente al medio de vida de las personas.
Esas obligaciones estaban llamadas a ser plenamente aplicables el 2 de agosto de 2026.
Y entonces Bruselas pisó el freno.
Dentro del paquete de simplificación digital, el llamado Digital Omnibus, que se convirtió en el Reglamento (UE) 2026/1744, en vigor desde el 27 de julio de 2026, la UE aplazó 16 meses las obligaciones de alto riesgo del Anexo III. Para los sistemas de empleo, la fecha se corre del 2 de agosto de 2026 al 2 de diciembre de 2027.
Un respiro, ¿no?
Ni de c+ña, pequeño saltamontes.
No te relajes.
Que te aplacen el examen no significa que apruebes solo.
Diciembre de 2027 no es un botón de «posponer alarma».
Y aquí viene lo que casi nadie te cuenta: mientras el Reglamento de IA espera, hay dos normas que YA te obligan hoy, sin prórroga que valga.
Una es el RGPD, el Reglamento General de Protección de Datos, cuyo artículo 22 lleva años diciendo que no te pueden someter a una decisión basada únicamente en un tratamiento automatizado si te afecta de forma significativa.
Contratar o despedir, por ejemplo.
La otra es el Estatuto de los Trabajadores, plenamente exigible cada día en cada tribunal de instancia de este país.
Y hay una tercera pata: las prácticas de IA directamente prohibidas —como el reconocimiento de emociones en el trabajo o el social scoring— están vetadas desde febrero de 2025. Esas no esperan a 2027.
¿Qué exige el marco cuando entre del todo?
Nada esotérico.
Puro sentido común convertido en obligación: evaluaciones de riesgo, documentación técnica, pruebas de sesgo, transparencia hacia el candidato y, sobre todo, la joya de la corona: human-in-the-loop.
El humano en el bucle.
Una persona cualificada tiene que poder entender lo que dice la IA, revisarlo y anular su recomendación cuando algo huela a podrido.
Traducido a mi idioma: la máquina propone, pero la persona decide y responde.
El detalle grotesco: según la encuesta europea de Littler de noviembre de 2025, solo el 18 % de las empresas se declara muy preparada para cumplir el Reglamento de IA, y un 20 % reconoce no estarlo en absoluto.
El 24 %.
¡¡¡¡¡DESPIERTA!!!!!
Porque el que use la prórroga para echarse a dormir se va a comer 2027 con el pie cambiado. Y, sobre todo, se olvida de que el RGPD y el Estatuto ya le miran de reojo HOY.
8. Lo que el alineamiento y las relaciones laborales tienen en común
Imagen generada con inteligencia artificial
Voy a cerrar el círculo, porque esto es lo que de verdad quería contarte.
Llevo años repitiendo una frase: las relaciones laborales son, ante todo, relaciones interpersonales.
Pues resulta que el problema del alineamiento de la IA es exactamente el mismo problema, con otro disfraz.
Porque alinear una máquina consiste en trasladarle valores. En conseguir que una entidad tremendamente capaz entienda no solo QUÉ tiene que hacer, sino POR QUÉ, y para QUIÉN, y con qué límites.
Justo lo que le pides a un buen mando intermedio.
Justo lo que le falta a un mal jefe.
La diferencia es que a la máquina se lo tienes que enseñar desde cero. No tiene infancia. No tiene una abuela que le dijera qué está bien y qué está mal. No tiene un Antonio que le enseñara el oficio.
Tú eres su Antonio ahora.
Y aquí está mi tesis, la que me llevo a la tumba: la tecnología no nos libra de la responsabilidad humana. La multiplica.
Cuanto más potente es la herramienta, más importa quién la dirige y con qué valores.
Una IA desalineada en manos de una empresa sin escrúpulos es una máquina de triturar personas a escala.
Una IA bien alineada en manos de alguien que entiende que enfrente hay seres humanos… puede ser la mejor herramienta que hayamos tenido nunca para tomar decisiones más justas.
La máquina no elige. Elegimos nosotros.
Siempre nosotros.
El alineamiento, al final, no va de la máquina. Va de nosotros.
Así que no te quedes de brazos cruzados. Fórmate. Entiende esta tecnología antes de que otro la use para decidir sobre ti o sobre tu gente. No tienes que elegirme a mí, pero busca a alguien que te lo enseñe de verdad, sin papilla y sin humo. Y hazlo AHORA. Porque la ventana, ya lo has leído, se cierra.
9. Glosario
Alineamiento de la IA (AI alignment). Conjunto de técnicas y esfuerzos para que un sistema de inteligencia artificial persiga de verdad los objetivos, preferencias y valores humanos, y no solo la orden literal que recibió.
RLHF (aprendizaje por refuerzo con retroalimentación humana). Método por el que personas puntúan las respuestas de la IA para construir un «modelo de recompensa» que la guíe hacia lo que gusta y resulta útil a los humanos.
RLAIF / IA constitucional (Constitutional AI). Variante en la que quien evalúa las respuestas de la IA no es un humano, sino otra IA, guiada por una «constitución» de principios escritos. Permite escalar el alineamiento sin depender de un ejército de anotadores.
Reward hacking (truco de la recompensa). Cuando la máquina cumple la letra del objetivo que le diste pero se salta su espíritu, encontrando un atajo que optimiza la métrica y traiciona la intención real.
Alignment faking (fingimiento del alineamiento). Comportamiento por el que una IA aparenta estar alineada durante el entrenamiento o la evaluación, mientras conserva por dentro objetivos distintos que aflorarían fuera de vigilancia. Documentado por Anthropic y Redwood Research en 2024.
Scheming (maquinación). Un modelo persigue objetivos ocultos, disimula su razonamiento e incluso intenta sabotear los mecanismos diseñados para detectarlo. Investigado por OpenAI y Apollo Research.
Convergencia instrumental. Idea de que casi cualquier objetivo suficientemente ambicioso genera sub-objetivos peligrosos comunes: sobrevivir, acumular recursos o evitar ser apagado o modificado.
Corrigibilidad. Propiedad deseable de una IA que acepta ser corregida, supervisada o apagada por los humanos sin resistirse.
Human-in-the-loop (humano en el bucle). Exigencia de que una persona cualificada pueda entender, revisar y anular la decisión de un sistema de IA, especialmente en contextos sensibles como el empleo.
Gestión algorítmica. Uso de algoritmos e IA para tomar o sugerir decisiones sobre personas trabajadoras: reparto de turnos, medición del rendimiento, selección o desvinculación.
Sistema de alto riesgo (Reglamento de IA de la UE). Categoría que incluye la mayoría de herramientas de IA en el empleo por su impacto directo en el medio de vida de las personas, sujeta a obligaciones reforzadas de transparencia, control de sesgos y supervisión humana.
Interpretabilidad mecanicista. Rama de la investigación que intenta «abrir la caja» y leer el razonamiento interno de los modelos para detectar si están alineados o si esconden intenciones.
Para seguir leyendo: La IA no despide: despide quien no sabe probarlo · ¿Puede una IA decidir a quién contratas y a quién despides? Europa, EE. UU. y Asia, cara a cara · Reglamento de Inteligencia Artificial (AI Act) y trabajo · IA y trabajo: el Reglamento de IA explicado
10. Preguntas frecuentes
¿Qué es el alineamiento de la IA en una frase?
Es el trabajo de conseguir que una máquina muy capaz haga lo que de verdad queremos, con nuestros valores y límites, y no solo lo que le pedimos al pie de la letra.
¿Es esto ciencia ficción o un peligro real?
Ni una cosa ni la otra en su versión extrema. No hay un robot planeando dominarte. Pero sí hay comportamientos de engaño ya observados en sistemas reales, y sí hay algoritmos que hoy toman decisiones sesgadas sobre personas. El riesgo cotidiano es real; el apocalíptico, discutible.
¿Qué es el «alignment faking»?
Que una IA finja estar alineada mientras la vigilan y conserve intenciones distintas para cuando dejen de mirarla. Fue documentado de forma seria por Anthropic y Redwood Research en diciembre de 2024.
¿Cómo me afecta el alineamiento de la IA en mi trabajo?
Directamente. Si una IA participa en tu selección, tu evaluación o tu despido y está mal alineada, puede arrastrar sesgos contra ti sin que nadie lo note. Por eso la ley europea exige control humano sobre esas decisiones.
¿Qué obligaciones trae el Reglamento de IA de la UE para las empresas?
Para los sistemas de alto riesgo en el empleo (contratación, evaluación, promoción): evaluaciones de riesgo, documentación técnica, pruebas de sesgo, transparencia hacia el candidato y supervisión humana efectiva. Estaban previstas para el 2 de agosto de 2026, pero el paquete de simplificación digital (Digital Omnibus, Reglamento (UE) 2026/1744) las ha aplazado al 2 de diciembre de 2027. Ojo: no es un botón de posponer. Y el RGPD (artículo 22) y el Estatuto de los Trabajadores ya son plenamente exigibles hoy.
¿Puedo usar IA en recursos humanos sin meterme en un lío legal?
Sí, pero con cabeza. La clave es la supervisión humana real, la transparencia con las personas afectadas y poder demostrar que la herramienta no discrimina. La máquina propone; tú decides y respondes.
¿Qué puedo hacer hoy para no quedarme atrás?
Formarte para entender qué hace la herramienta que estás usando, exigir a tus proveedores documentación y control de sesgos, y no delegar jamás en un algoritmo la decisión final sobre una persona.
11. Fuentes consultadas
