WhatsApp e inteligencia artificial
Alucinación
Una alucinación, en inteligencia artificial, es una respuesta que un modelo da con seguridad pero que no se apoya en ningún dato: un horario que no existe, una norma inventada, un servicio que el centro no presta. Suena igual de convincente que una respuesta correcta.
También se le llamaalucinación de la IA · respuesta inventada · confabulación · hallucination
Por qué pasa y cómo se acota
Un modelo de lenguaje genera el texto palabra a palabra según lo que le parece probable, y cada palabra se apoya en las anteriores, así que un error al principio puede arrastrar el resto. Si alguien pregunta a qué hora cierra el gimnasio y el dato no está en lo que se le ha dado, el modelo puede rellenar el hueco con una hora que suena razonable. El fenómeno no se entiende del todo y se sigue investigando cómo reducirlo; lo que sí se sabe es cómo acotarlo:
- Darle la fuente. Contestar a partir de una base de conocimiento del centro las reduce, pero no las elimina: el modelo puede equivocarse también al leer esa fuente.
- Permitirle no saber. Que «no lo sé, se lo paso al equipo» cuente como una respuesta correcta y no como un fallo.
- Sacar las decisiones del modelo. Una excepción al reglamento o una promesa en nombre de alguien van a una persona: es el escalado a humano.
Ojo con esto
Lo que se da por hecho: que la alucinación es un fallo raro que desaparece con un modelo mejor. Las propias fuentes técnicas la tratan como un problema abierto. La pregunta útil para un centro no es si el asistente puede inventar, sino qué hace cuando no sabe algo: si lo dice y lo pasa, o si rellena el hueco.
Fuentes
Términos relacionados
- Modelo de lenguajeUn modelo de lenguaje es un modelo de inteligencia artificial entrenado con enormes cantidades de texto que genera lenguaje prediciendo la palabra siguiente; si es de gran tamaño, se le llama LLM. Es lo que permite a un asistente entender un mensaje escrito a su manera y redactar la respuesta.
- Base de conocimientoUna base de conocimiento es el conjunto ordenado de información del que un asistente de IA saca sus respuestas: en un centro, el reglamento, los horarios, los servicios y las preguntas frecuentes. Si el modelo la consulta antes de contestar, la técnica se llama generación aumentada por recuperación (RAG).