Qué significa en la práctica

La empresa debe definir cuándo interviene la persona, qué información recibe, qué señales de error revisa, cómo documenta la decisión y quién puede escalar. La métrica no debería premiar la aprobación automática de la máquina. El primer paso es observar el proceso real: formularios, correos, planillas, sistemas, conversaciones y excepciones. El control debe ser suficientemente simple para que el equipo lo use bajo presión y suficientemente claro para que otra persona pueda verificarlo.

La dimensión jurídica y de riesgo

La Ley 21.719 reconoce derechos frente a decisiones automatizadas, incluida explicación, intervención humana, punto de vista y revisión en los casos previstos. El alcance depende del efecto, base y diseño del tratamiento. La supervisión no elimina la obligación de evaluar el sistema. En caso de duda, conviene formular la conclusión con prudencia y escalarla a asesoría jurídica. Una recomendación de buena práctica no debe presentarse como obligación legal, y una obligación legal no debe ampliarse a usos que la norma no exige.

Un ejemplo empresarial

En selección, el sistema prioriza currículums; una persona debe revisar candidatos descartados por datos incompletos, no solo confirmar el ranking. En crédito o atención, debe existir una vía para explicar y reconsiderar sin exigir que el titular entienda el algoritmo. La respuesta madura no parte por comprar una herramienta ni por redactar una política aislada. Parte por delimitar la finalidad, reducir el dato, asignar responsables y probar si el control funciona en la operación cotidiana.

Errores que conviene evitar

Una revisión simbólica puede reproducir sesgos y dar apariencia de control. También puede crear responsabilidad concentrada en un supervisor sin herramientas ni capacitación. Otro error frecuente es trasladar toda la decisión a TI o al proveedor. La tecnología puede ejecutar controles, pero la empresa conserva decisiones de negocio: qué recopilar, por qué usarlo, con quién compartirlo y cuándo dejar de tratarlo.

Qué debería revisar la gerencia

  • Definir decisiones que no pueden ser automáticas.
  • Dar autoridad y contexto al revisor.
  • Crear canal de explicación y reconsideración.
  • Medir errores y diferencias por grupos.
  • Actualizar el modelo y el procedimiento.

Estas acciones deben tener un dueño, una fecha y una evidencia observable. Si la organización es pequeña, puede concentrar funciones; lo importante es que las responsabilidades estén claras y que las excepciones no se conviertan en la forma habitual de operar.

Evidencia y seguimiento

Conservar reglas de intervención, casos revisados, motivos, cambios, capacitación, métricas de error y solicitudes de revisión. La trazabilidad debe mostrar quién decidió y por qué. La evidencia debe ser proporcional: no se trata de archivar todo, sino de conservar lo suficiente para reconstruir decisiones, demostrar que se actuó y corregir lo que no funcionó. Un control sin dueño, prueba o fecha de revisión es una intención, no un control operativo.

Preguntas para una reunión de trabajo

  • ¿Puede la persona cambiar el resultado?
  • ¿Qué información ve para revisar?
  • ¿Cómo sabremos que el control funciona?

Responder estas preguntas permite priorizar. Puede existir un riesgo aceptable, una medida pendiente o una cuestión que requiera análisis especializado. Lo importante es que la decisión quede visible, que la persona responsable tenga capacidad de actuar y que la gerencia conozca las dependencias críticas.

La revisión tampoco debería quedar congelada en la fecha de publicación. Cambios de proveedor, nuevas campañas, reorganizaciones, incidentes, tecnologías y modificaciones regulatorias pueden alterar el análisis. Una fecha de seguimiento y un responsable de actualización convierten el artículo en una pauta de gestión, no en una declaración aislada.

Cierre: cumplir conectando decisiones

La gestión de human in the loop decisiones automatizadas no debería reducirse a un documento o a una herramienta. Requiere coordinar la finalidad jurídica con el proceso, la tecnología, las personas y la capacidad real de respuesta. En VEORA Advisory podemos acompañar a la organización en el diagnóstico, diseño de controles y puesta en marcha de una hoja de ruta proporcional. Diseñar una supervisión humana que pueda cambiar el resultado y dejar evidencia.

Fuentes consultadas

Biblioteca del Congreso Nacional de Chile, Ley N.º 21.719, texto con vigencia diferida al 1 de diciembre de 2026: https://www.bcn.cl/leychile/navegar?idNorma=1209272

Biblioteca del Congreso Nacional de Chile, Ley N.º 19.628, versión vigente hasta el 30 de noviembre de 2026: https://www.bcn.cl/leychile/Navegar?dt=open&idLey=19628

Nota editorial: este artículo entrega orientación general y no reemplaza un análisis jurídico, laboral, técnico o sectorial de un caso concreto. La vigencia y aplicación de la Ley N.º 21.719 debe revisarse según la fecha de publicación y las normas, reglamentos e instrucciones disponibles.