Tu herramienta filtra personas. Muy bien. ¿Pero filtra sin sesgo? Ahí empieza el riesgo.

Conformidad sesgo IA selección según la ley NYC 144 y el AI Act

La conformidad sesgo IA selección según la ley NYC 144 y el AI Act ya no es un tema técnico. Es un tema de responsabilidad. Si tu equipo usa un sistema que ordena, puntúa o recomienda personas, necesitas saber cómo decide. No basta con confiar en el proveedor. No basta con decir que todo va bien. ¿Puedes demostrarlo ante una auditoría? ¿Puedes explicar por qué una persona pasa y otra no? Esa prueba pesa más que la promesa comercial.

La ley local de Nueva York exige auditoría de sesgo en determinados usos de herramientas automatizadas. En la Unión Europea, el Reglamento 2024/1689 sitúa varios usos de selección dentro de los sistemas de alto riesgo. La fecha del 2 de agosto de 2026 marca un antes y un después. No es una amenaza abstracta. Es calendario. Si tu empresa opera en España, en América Latina o con un proveedor de Estados Unidos, la doble jurisdicción puede alcanzarte a la vez.

La pregunta útil es simple. ¿Tu proceso depende de una herramienta que puntúa personas? Entonces ya no hablas solo de eficiencia. Hablas de trazabilidad, supervisión humana y documentación. Un error pequeño puede escalar rápido. Un mal parámetro. Un dato histórico cargado de sesgo. Un informe incompleto. El resultado es el mismo. Riesgo legal. Riesgo de reputación. Riesgo de perder tiempo y dinero.

Qué vigila la norma cuando usas IA en selección

La norma no mira solo el resultado final. Mira el camino. Quiere saber si hubo auditoría, si hubo información al talento, si hubo supervisión humana y si el sistema fue usado dentro de límites claros. Eso obliga a ordenar el proceso desde el principio. ¿Quién aprueba la herramienta? ¿Quién revisa el sesgo? ¿Quién firma el uso en cada país? Si no hay dueño interno, la responsabilidad se dispersa. Y cuando la responsabilidad se dispersa, el riesgo crece.

En la práctica, tres piezas pesan mucho. Primero, el registro del uso. Segundo, la explicación del criterio aplicado. Tercero, la capacidad de intervención humana. Un sistema puede ser útil para priorizar currículos, pero si no dejas rastro de por qué lo hace, la defensa se debilita. En este punto, la ética no es decorativa. Es operativa.

Por qué el sesgo aparece aunque nadie lo quiera

Un algoritmo aprende con datos pasados. Si los datos reflejan decisiones desiguales, el modelo puede repetirlas. Esto pasa más de lo que parece. Por ejemplo, cuando el historial de contratación premia trayectorias muy parecidas, el sistema tiende a copiar esa foto. ¿Y si esa foto excluye perfiles valiosos? ¿Y si penaliza cambios de carrera, huecos o estudios no lineales? Entonces el sesgo no nace de mala fe. Nace de la muestra.

Por eso la supervisión no puede ser un gesto simbólico. Tiene que ser continua. La AEPD insiste en que el tratamiento de datos requiere proporcionalidad y control. En selección, eso significa limitar variables, revisar resultados y documentar cada decisión sensible.

Ley NYC 144 y AI Act: por qué tu proceso de selección está dentro del radar

Si tu empresa selecciona talento con apoyo de IA, tu proceso ya está dentro del radar regulatorio. No importa si la sede está en Madrid, en Bogotá o en Ciudad de México. Tampoco importa si el proveedor está en otro país. Lo que cuenta es el uso real. ¿El sistema clasifica personas? ¿Las descarta? ¿Las ordena por probabilidad de éxito? Entonces hay impacto directo en selección.

La biblioteca de pruebas de RRHH de SIGMUND ayuda a estructurar la evaluación con más control. Eso importa porque la regulación no castiga la tecnología. Castiga el uso opaco. Y eso cambia la conversación interna. Ya no preguntas solo si la herramienta ahorra tiempo. Preguntas si resiste auditoría, si está documentada y si permite intervenir a tiempo.

En el mercado, muchos equipos siguen pensando que el problema nace solo cuando hay una decisión automática. No. También nace cuando la máquina influye de forma fuerte en la decisión humana. Ese matiz cambia todo. Si el ranking de perfiles condiciona la entrevista, la herramienta ya participa en el proceso. Y si participa, debe poder explicarse.

Dónde empieza la exposición legal

La exposición legal empieza cuando no puedes responder con claridad a tres preguntas. ¿Qué datos usa el sistema? ¿Qué criterio ordena a las personas? ¿Quién revisa el resultado? Si una de esas respuestas falta, el proceso pierde solidez. No hace falta una crisis enorme para llegar ahí. Basta un informe incompleto. Basta una configuración heredada. Basta una actualización del proveedor no revisada.

Un dato útil para dimensionar el contexto: según la U.S. Department of Labor, las prácticas de selección deben evitar impacto desigual y sostenerse en criterios vinculados al puesto. En IA, esa exigencia sube de nivel porque la escala cambia. Lo que antes revisaba una persona, ahora lo puede procesar un sistema en segundos.

Qué ocurre cuando compras una herramienta para varios países

El error clásico es pensar que un único contrato basta para todo. No basta. Si compras una solución global, cada jurisdicción puede pedir evidencias distintas. Una filial en Europa puede necesitar más trazabilidad. Una unidad en Estados Unidos puede requerir otro tipo de auditoría. Y si el equipo local no sabe qué está usando, la gobernanza se rompe. ¿Quién responde entonces? Normalmente, quien firmó sin preguntar.

Por eso conviene separar compra, uso y control. La compra la hace el área que negocia. El uso lo hace el equipo de selección. El control lo debe coordinar una figura con visión jurídica y de datos. Si una de esas piezas falla, la conformidad se vuelve frágil.

Auditoría, transparencia y supervisión humana: lo que te van a pedir

La auditoría no es un papel para guardar en una carpeta. Es la forma de probar que el sistema no está sesgando de manera injusta. En una revisión seria, te pedirán criterios de decisión, registros de cambios, versión del modelo y evidencia de seguimiento. Si no tienes eso, tendrás explicaciones, pero no prueba. Y en selección, la prueba vale más que la intención.

La transparencia también cuenta. No hablo de exponer secretos del proveedor. Hablo de informar con claridad al talento. Si una persona pasa por una herramienta automatizada, debe saberlo. Debe saber para qué se usa. Debe saber qué peso tiene. La falta de claridad erosiona la confianza. Y sin confianza, el proceso se enfría.

«En selección, lo que no se puede explicar termina pareciendo arbitrariedad.»

Tres evidencias que conviene tener desde ya

• Registro de uso por país, puesto y versión de la herramienta.
• Evidencia de supervisión humana antes de descartar a una persona.
• Informe de sesgo con fecha, método y responsables.

Si hoy no puedes reunir esas tres piezas en poco tiempo, tu proceso necesita orden. No mañana. Hoy. La buena noticia es que esto se puede corregir. Pero no se corrige solo con una política bonita. Se corrige con disciplina operativa.

Datos que debes tener bajo control

Un informe sólido suele apoyarse en números concretos. Por ejemplo, el impacto del sistema por sexo, edad, origen o trayectoria. También el porcentaje de perfiles descartados por cada etapa. Y el tiempo medio de revisión humana. Esos datos no resuelven el problema por sí solos, pero permiten verlo. Sin medición, solo hay intuición. Y la intuición no defiende ante un auditor.

Según el benchmark de la Comisión Europea sobre el marco de IA, el uso de sistemas de alto riesgo exige controles reforzados. Esa lógica encaja con selección. Si la herramienta influye en la entrada al empleo, el nivel de exigencia sube. Y con razón.

Herramientas SIGMUND para revisar sesgo en selección sin perder control

Si necesitas evaluar personas con más orden, los tests de selección de personal pueden ayudarte a estructurar el proceso. No sustituyen la supervisión humana. No sustituyen la auditoría. Pero sí aportan un marco más claro para comparar perfiles, documentar criterios y reducir improvisación. Eso ya cambia mucho.

La clave está en usar herramientas que permitan coherencia entre puesto, competencia y decisión. Cuando el proceso se apoya en criterios bien definidos, la conversación con legal, con la DRH y con el área de datos se vuelve más sencilla. Menos ruido. Más trazabilidad. Más control del riesgo.

Si además quieres ampliar tu enfoque, revisa el catálogo de pruebas. Ahí puedes encontrar recursos para afinar selección, onboarding y desarrollo interno sin caer en un uso confuso de la IA. Porque el problema no es medir. El problema es medir mal.

La pregunta final de esta primera parte es directa. ¿Tu sistema decide por ti o decide contigo? Si la respuesta no está clara, ya tienes tarea. Y no es menor.

Cómo demostrar supervisión humana real en evaluación de IA

La supervisión humana no es decorar el proceso. Es decidir de verdad. Si un sistema propone, la persona revisa. Si el sistema clasifica, la persona entiende por qué. Si el sistema excluye, la persona puede parar la decisión. ¿Puede decir hoy quién revisa cada paso en su proceso de selección?

La Local Law 144 de Nueva York pide auditoría de sesgo independiente en los 12 meses previos y aviso a la persona afectada con 10 días de antelación. Ese dato importa fuera de Nueva York. Enseña una regla simple. Si no puede explicar el sistema, no puede defenderlo. Y si no puede defenderlo, no está listo para producción.

Qué debe quedar escrito

Deje trazas claras. No suponga que bastan las conversaciones internas. El expediente debe mostrar quién autorizó la herramienta, quién la configuró, quién la revisa y qué criterio humano corrige la recomendación automática. En selección, eso significa guardar el motivo de cada exclusión, cada cambio manual y cada validación final. Sin eso, la supervisión humana es una frase vacía.

• Nombre de la persona responsable por fase.
• Regla de revisión humana antes de cada decisión sensible.
• Registro de cambios manuales y motivo.
• Fecha de cada validación interna.

Qué no debe pasar

No basta con decir “el sistema ayuda”. Eso no protege a nadie. Tampoco sirve que la persona firme al final sin haber entendido nada. La verdadera revisión exige capacidad de intervenir. ¿Quién puede detener el proceso si detecta un sesgo contra perfiles sénior, brechas de género o una puntuación incoherente?

Riesgos, trazabilidad y auditoría de sesgo: lo que no puede faltar

La trazabilidad no es un archivo bonito. Es la prueba de que el proceso puede auditarse de principio a fin. Sin trazabilidad no hay control. Sin control no hay confianza. Y sin confianza, la compra de la herramienta se convierte en un riesgo de negocio. ¿Está guardando datos sobre entradas, criterios, versiones del modelo y salidas?

El caso de Nueva York es claro. La norma exige auditoría independiente. Además, la ciudad publicó sanciones de 375 dólares por la primera infracción y hasta 1.500 dólares por las siguientes. En paralelo, un informe del órgano fiscalizador estatal señaló en 2025 que solo el 30 % de las herramientas usadas en el sector público había pasado una auditoría de sesgo conforme. Ese dato no es teórico. Muestra lo que pasa cuando la revisión se retrasa.

Qué datos guardar

Guarde lo necesario para reconstruir una decisión. No guarde ruido. Guarde evidencia. La revisión interna debe poder ver qué variable pesó, qué versión del sistema estaba activa, qué cambios se introdujeron y quién aprobó cada ajuste. En selección, esto evita discusiones infinitas cuando una persona pregunta por qué fue descartada.

• Versión de la herramienta usada en cada proceso.
• Fecha de activación y de cambio de configuración.
• Motivo de cada exclusión automática o semiautomática.
• Evidencia de revisión humana posterior.

Qué auditar antes de comprar

No compre primero y pregunte después. Pida el informe de auditoría. Pida la metodología. Pida el alcance real. Si el proveedor no puede enseñar cómo midió el sesgo, usted está comprando una promesa, no una solución. La referencia de Office of the New York State Comptroller muestra justo eso: cuando la supervisión flojea, la proporción de herramientas auditadas cae y el riesgo sube.

La trazabilidad no sirve para impresionar. Sirve para resistir una revisión seria.

Qué pedir al proveedor

Haga una lista corta y exigente. Si falla una sola pieza crítica, negocie de nuevo o pare el proceso. La herramienta debe permitir revisión, exportación de evidencias y explicación operativa de cada salida. Si no, la carga de prueba cae sobre su equipo, y su equipo no tendrá defensa suficiente.

• Informe de auditoría externa reciente.
• Descripción de variables usadas.
• Historial de versiones y cambios.
• Procedimiento de revisión manual documentado.

Fechas, contratos y compras: por qué 2026 llega antes de lo que parece

El 2 de agosto de 2026 no es una fecha lejana. Es una línea de corte. Las obligaciones sobre sistemas de alto riesgo no aparecen de golpe. Se preparan antes. Por eso los contratos, las renovaciones y las integraciones técnicas ya deben estar revisados. Esperar a la última semana es una mala idea. ¿Qué contrato de su cartera necesita una cláusula nueva hoy?

La práctica útil es sencilla. Haga un inventario de herramientas. Separe las que puntúan, filtran, clasifican o priorizan personas. Después, identifique dónde entra el juicio humano. Luego, lea el contrato. Busque auditoría, responsabilidad, acceso a datos, conservación de registros y salida ordenada. Si un proveedor no acepta claridad, el problema no es jurídico. Es de riesgo.

Qué revisar ahora mismo

Revise el lenguaje del contrato y también el uso real. A veces el texto dice una cosa y el equipo hace otra. Esa brecha es donde nacen los incidentes. Asegure que compras, tecnología, legal y personal hablen el mismo idioma. Sin eso, cada área cree que el control lo tiene la otra.

1. 1. Inventario completo de sistemas usados en selección.
2. 2. Mapa de decisiones automáticas y semiautomáticas.
3. 3. Revisión de cláusulas de auditoría, datos y salida.
4. 4. Calendario de renovación con margen suficiente.
5. 5. Responsable interno para cada herramienta.

Qué hacer con los proveedores

No espere a la renovación para negociar. Pida anexos. Pida evidencias. Pida un compromiso escrito sobre la supervisión humana. Si el proveedor trabaja con evaluación, selección o priorización, su documentación debe reflejarlo. La transparencia no es un lujo. Es parte del producto.

Si quiere una referencia metodológica para ordenar pruebas y evaluación, revise las pruebas de RRHH de Sigmund y la prueba de selección de personal. Le ayudan a pasar de la intuición al dato. Y eso cambia la conversación.

Plan de acción para la DRH: de la teoría al control diario

La mejor estrategia es práctica. No persiga perfección. Persiga control. Un equipo pequeño puede hacerlo bien si trabaja con disciplina. Una empresa grande también puede fallar si nadie sabe quién hace qué. ¿Su proceso tiene una sola persona responsable o una cadena difusa de aprobaciones?

Empiece con una revisión de uso. Luego haga una evaluación de riesgos. Después ajuste el proceso. Al final, forme al equipo. La formación no puede ser genérica. Tiene que explicar cuándo el sistema ayuda, cuándo confunde y cuándo debe detenerse. El feedback de usuarios internos también cuenta. Si la gente no entiende la herramienta, la herramienta no está lista.

Plan de 30 días

En 30 días puede dejar el proceso mucho más sólido. No necesita una reforma total. Necesita orden. Empiece con una sola herramienta crítica. Documente todo. Corrija lo que no se pueda explicar. Repita luego con el resto. El objetivo es llegar a agosto de 2026 sin improvisar.

• Día 1-7 Inventario y mapa de decisiones.
• Día 8-15 Revisión contractual y de auditorías.
• Día 16-22 Ajuste de supervisión humana y registros.
• Día 23-30 Formación interna y validación final.

Qué medir

Sin KPI no hay control. Mida el número de revisiones humanas reales, el tiempo de respuesta ante una excepción, el porcentaje de decisiones explicables y el número de incidencias detectadas antes del cierre. Si puede medirlo, puede mejorar. Si no puede, solo está esperando suerte.

Qué gana su empresa si actúa hoy

Actuar hoy no es solo evitar multas. Es reducir riesgo, ganar credibilidad y proteger decisiones de personal. También mejora la experiencia de la persona evaluada. Cuando el proceso es claro, la confianza sube. Cuando la lógica es opaca, aparecen quejas, retrasos y ruido interno. ¿Quiere una selección más firme o más frágil?

Hay una ventaja más. La disciplina documental acelera el trabajo. Menos dudas. Menos correos. Menos discusiones. Más velocidad con más control. Esa es la combinación que buscan las áreas de personal y dirección. Si el sistema está bien gobernado, el equipo trabaja mejor y la decisión final tiene más fuerza.

Beneficios concretos

La mejora no es abstracta. Se ve en el día a día. Se ve cuando un proceso no se cae por una revisión tardía. Se ve cuando la auditoría interna no descubre huecos graves. Se ve cuando un proveedor responde con claridad. Y se ve cuando la dirección entiende que el control no frena el negocio. Lo protege.

• Mejor Evidencia clara para auditorías y revisiones.
• Mejor Menos riesgo operativo y reputacional.
• Mejor Decisiones más defendibles ante la dirección.
• Mejor Experiencia más clara para la persona candidata.

Si quiere ordenar la base técnica de su proceso, visite el catálogo de pruebas de Sigmund. Si busca una visión más amplia, también puede consultar las novedades de RRHH de Sigmund.