Glosario

Humano en el bucle (human-in-the-loop)

¿Qué es Humano en el bucle (human-in-the-loop)?

Humano en el bucle describe procesos en los que las personas intervienen en puntos definidos de un flujo de IA: revisan resultados, los aprueban, los corrigen o asumen los casos difíciles. Este principio reduce el riesgo de errores y mantiene la responsabilidad en manos humanas, sobre todo en decisiones que afectan a personas, dinero o cuestiones legales. Ejemplo: un agente de IA redacta respuestas a clientes y un empleado las revisa antes de enviarlas.

Cómo ayuda KI.ordo

En los proyectos de KI.ordo, los agentes entregan borradores que aprueban personas, y el chat web puede pasar la conversación al equipo mediante un formulario de contacto.

Más información →

Temas

Aprobación
Supervisión
Responsabilidad

Probar KI.ordo

Agentes, flujos y plantillas en un solo espacio de trabajo – demo gratuita de 24 horas.

Iniciar demo

← Todos los términos

Términos relacionados

Sistema de automatización con IA

Un sistema de automatización con IA combina la automatización clásica de procesos con capacidades de IA como la comprensión de textos, la clasificación o el apoyo a decisiones. Así puedes automatizar también procesos con entradas no estructuradas, como correos, formularios o consultas. El esquema típico es una cadena de disparador, pasos de procesamiento, condiciones y salida, con aprobación humana en los puntos críticos. Ejemplo: las consultas entrantes se clasifican, resumen y envían automáticamente al departamento adecuado.

Automatización
Procesos
+1

Agentes inteligentes

Un agente inteligente es un sistema que percibe su entorno, procesa información y elige por sí mismo acciones para alcanzar un objetivo. Hoy el término se refiere sobre todo a software basado en grandes modelos de lenguaje que sigue instrucciones, usa conocimiento y llama a herramientas como una búsqueda o una API. Conviene que decidas conscientemente cuánto puede hacer un agente por su cuenta. Ejemplo: un agente responde preguntas de clientes a partir de la documentación del producto.

Agentes
Autonomía
+1

Aprendizaje por refuerzo con retroalimentación humana (RLHF)

El RLHF es un método de entrenamiento que hace que los modelos de lenguaje sean más útiles y seguros. Varias personas comparan y valoran distintas respuestas del modelo; con esos juicios se entrena un modelo de recompensa, que después reentrena el propio modelo de lenguaje mediante aprendizaje por refuerzo. Así aprende, por ejemplo, a responder con más claridad o a rechazar peticiones problemáticas. El RLHF lo realiza el proveedor del modelo antes de publicarlo, no cada usuario.

entrenamiento
retroalimentación humana
+1

Alucinación

Se llama alucinación a la respuesta de un modelo de IA que suena convincente pero es falsa o inventada, como una sentencia judicial inexistente, una cifra errónea o una fuente ficticia. La causa: los modelos de lenguaje generan formulaciones probables; no consultan hechos de forma automática. El riesgo baja cuando las respuestas se basan en fuentes verificadas, se citan las referencias y una persona revisa los resultados importantes.

Modelos de lenguaje
Fiabilidad
+1

Plantilla