Qué puede inferir una IA sobre una skill y qué no debería inferir
¿Qué puede afirmar una IA sobre una skill a partir de rastros digitales? Entre dato, señal, inferencia y decisión existen saltos que necesitan control.
Supongamos que una herramienta analiza mensajes, documentos y entregables. Encuentra vocabulario, secuencias y formas de participación vinculadas históricamente con desempeño.
El volumen produce apariencia de objetividad.
Todavía quedan preguntas esenciales: quién realizó el trabajo, qué contexto permitió hacerlo y qué significa el patrón para una decisión nueva.
Detectar no equivale a interpretar
Dentro de un uso definido, una IA puede recuperar evidencia, clasificar fragmentos, comparar con criterios y señalar inconsistencias para revisión.
También puede identificar ausencia de información o casos donde las fuentes no alcanzan. Estas funciones reducen carga cuando se conoce su precisión, sus errores y la población donde fueron probadas.
La salida sigue siendo una señal. Para interpretarla hay que explicar qué constructo representa, qué parte del trabajo observa y qué alternativas podrían producir el mismo patrón.
La documentación debería permitir repetir el recorrido desde la fuente hasta la salida. Debe mostrar qué datos entraron, qué transformación se aplicó, qué versión del sistema intervino y qué umbral produjo la señal. Sin esa cadena, una persona puede recibir una explicación general sobre el modelo sin poder cuestionar el caso concreto.
Cuatro saltos exceden la señal
La presencia de vocabulario técnico no demuestra aplicación. Un entregable exitoso no identifica quién tomó cada decisión. La frecuencia de participación no revela autonomía. Una correlación histórica no prueba causa ni asegura validez en otro rol.
Inferir potencial, intención o rasgos personales agrega objetos que los datos no observaron. El sistema puede convertir acceso desigual a proyectos, idioma o visibilidad en una aparente diferencia individual.
La precisión estadística tampoco corrige una definición defectuosa. Un modelo puede reproducir de forma consistente una etiqueta que nunca fue válida para el uso previsto.
El propósito determina la exigencia
Una búsqueda que sugiere evidencia para una conversación de desarrollo tiene consecuencias distintas de una calificación que bloquea una postulación.
El mismo modelo puede ser útil en el primer uso e inaceptable en el segundo. Cambiar la finalidad modifica la relación requerida entre datos, constructo, error y reparación, aunque el componente técnico permanezca igual.
NIST presenta el AI RMF como un marco voluntario para incorporar consideraciones de confiabilidad durante diseño, desarrollo, uso y evaluación de sistemas de IA. Organiza el trabajo mediante gobernar, mapear, medir y gestionar. NIST, AI Risk Management Framework 1.0 (se abre en una nueva pestaña).
El perfil de IA generativa amplía riesgos y acciones específicas para esos sistemas. No valida una herramienta de talento; orienta controles según contexto y finalidad. NIST, Generative AI Profile, 2024 (se abre en una nueva pestaña).
Cinco compuertas antes de usar la inferencia
Defina el objeto que se quiere inferir y sus manifestaciones observables. Autorice las fuentes según propósito, acceso y conservación. Evalúe desempeño del sistema en la población pertinente. Limite el uso a la decisión validada. Diseñe revisión y contradicción con efecto real.
También pregunte quién queda menos observado. El trabajo presencial, oral, confidencial o realizado fuera de las plataformas puede producir menos rastros sin implicar menor capacidad.
Pruebe el sistema con casos de evidencia abundante, escasa y contradictoria. Compare errores entre roles, idiomas, modalidades y niveles de acceso digital. Una tasa promedio aceptable puede ocultar que el modelo funciona bien para quienes documentan mucho y falla de forma sistemática donde el trabajo deja menos huella.
La causa sigue fuera del modelo
Si la IA detecta una diferencia, todavía no sabe por qué existe. Puede reflejar oportunidad, asignación, herramienta, apoyo, idioma, acceso o un cambio real de desempeño.
Responder con desarrollo automático convierte una señal en diagnóstico. Responder con exclusión convierte incertidumbre en consecuencia y puede activar revisión humana obligatoria. Ambos usos requieren evidencia adicional sobre el contexto.
La respuesta proporcional puede ser pedir otra fuente, abrir una conversación, limitar la conclusión o abstenerse de decidir. “No inferible con estos datos” es una salida válida y debe existir técnicamente. Si el sistema siempre entrega una etiqueta, transforma ausencia de evidencia en certeza aparente.
Una revisión necesita algo más que presencia humana
La persona revisora debe conocer el trabajo, acceder a la evidencia pertinente y poder cambiar la conclusión. Si solo confirma una salida o carece de tiempo para reconstruirla, la intervención humana es decorativa.
La revisión también necesita registrar qué se confirmó, qué se corrigió y qué límite permanece. Esa información permite detectar patrones de error y decidir si el uso debe pausarse.
El límite útil impide que una señal atraviese sin control la distancia entre dato, interpretación y consecuencia. Antes de una decisión sensible, exija mayor evidencia y compruebe que la posibilidad de contradecir la inferencia puede cambiar el resultado.
Para ampliar esta lectura, pueden consultarse Quién puede ver qué: acceso, privacidad y propósito en datos de talento, Cómo adaptar una evaluación sin cambiar lo que realmente quiere medir y Sources of Power: cuándo la intuición experta merece un lugar en la evaluación, que desarrollan dimensiones complementarias del problema.
Sigue explorando
Quién puede ver qué: acceso, privacidad y propósito en datos de talento
¿Quién necesita ver un dato de talento, con qué detalle y durante cuánto tiempo? La respuesta nace de la tarea autorizada, no del rango jerárquico.
Cuánto tiempo sigue vigente una evaluación de skills
Aunque una evaluación antigua puede seguir orientando desarrollo, quizá resulte insuficiente para asignar una responsabilidad crítica. La fecha no decide sola su vigencia.
Cómo diseñar un proceso de revisión o apelación de una evaluación
¿Qué debe ocurrir cuando una persona cuestiona una evaluación? La revisión debe comprobar datos, reglas, interpretación y uso sin convertir el resultado en una negociación.
Qué significa que una evaluación sea válida para una decisión concreta
¿Qué vuelve válida una evaluación para una decisión concreta? La respuesta conecta el uso previsto con la evidencia necesaria, la interpretación admisible y el límite de cualquier conclusión.
Cómo mantener una arquitectura sin convertirla en un proyecto permanente
Antes de mantener una arquitectura, hay que distinguir la señal registrable, el cambio pequeño con dueño y la decisión estructural que merece revisión deliberada.
Sesgos y equidad: la misma escala no garantiza la misma oportunidad de demostrar
Un hallazgo incómodo de la evaluación es que una escala común no produce equidad cuando las personas carecen de oportunidades semejantes para generar y mostrar evidencia.