WhatsApp e inteligencia artificial
Humano en el bucle
Humano en el bucle (human-in-the-loop) es el diseño de un sistema automatizado en el que una persona participa en la operación, la supervisión o las decisiones. En un asistente de IA quiere decir que hay cosas que la máquina prepara o detecta, pero que decide o confirma alguien del equipo.
También se le llamahuman-in-the-loop · HITL · supervisión humana · humano en el ciclo
Qué es exactamente
La expresión viene del aprendizaje automático y de los sistemas autónomos, donde se distinguen tres grados. Con el humano dentro del bucle, la persona autoriza o inicia la acción; sobre el bucle, el sistema actúa y la persona supervisa y puede pararlo; fuera del bucle, no interviene nadie. En un centro la pregunta útil es qué tarea va en cada grado, y conviene contestarla antes de poner el asistente, no después del primer susto.
| Grado | En una residencia |
|---|---|
| Dentro del bucle | Una excepción al reglamento, un asunto de convivencia o lo que se le contesta a una familia sobre su hijo: lo decide una persona. |
| Sobre el bucle | El asistente contesta horarios y recoge averías; el equipo lo revisa y lo corrige cuando algo no cuadra. |
| Fuera del bucle | Confirmar que una baja de comedor ha quedado apuntada antes de la hora de corte. |
El Reglamento (UE) 2024/1689 pide que los sistemas de alto riesgo se diseñen para que personas físicas puedan vigilarlos de manera efectiva (art. 14), y advierte del sesgo de automatización: la tendencia a fiarse en exceso de lo que dice la máquina. Un asistente que atiende a residentes no figura entre los sistemas de alto riesgo del anexo III, pero la idea sirve igual: lo que exige una decisión pasa a una persona, que es el escalado a humano.
Fuentes
Términos relacionados
- Asistente de IAUn asistente de IA es un programa que conversa en lenguaje natural y, con un modelo de lenguaje detrás, entiende lo que se le escribe aunque no use palabras clave. En un centro atiende el canal de mensajes: contesta lo que está en la normativa, recoge avisos y pasa a una persona lo demás.
- Escalado a humanoEl escalado a humano es el paso de una conversación del asistente de IA a una persona del equipo, porque quien escribe lo pide o porque el asunto exige una decisión. Bien hecho, llega a un móvil concreto con el contexto y, si nadie contesta, sube al responsable.