Hallucination (alucinación)
Cuando un LLM genera información plausible pero falsa. El modelo no "miente" — completa estadísticamente lo que parece probable, aunque no esté respaldado por datos reales.
Definición completa
Una **hallucination** (alucinación) ocurre cuando un LLM produce una respuesta gramaticalmente perfecta y plausible pero factualmente incorrecta. Por ejemplo: inventarse un artículo de ordenanza que no existe, atribuir una declaración a un alcalde que nunca la dijo o citar una norma derogada.
Las alucinaciones ocurren porque los LLM completan secuencias por probabilidad estadística, no por consulta a una verdad de referencia. Si nadie les da datos reales, completan con lo que "suena bien" según los patrones aprendidos.
**Cómo Pueblania las evita:**
1. **RAG con triple defensa** — la IA solo responde con respaldo de tus ordenanzas reales.
2. **Citas obligatorias** — cada afirmación factual lleva la fuente.
3. **Escalado al humano** — si no encuentra respaldo, escala al Ayuntamiento en vez de inventar.
4. **Prompt de sistema** prohibe explícitamente inventar fechas, importes y nombres.
5. **Auditoría** — cada respuesta queda en log para revisión.
Eliminar al 100 % las alucinaciones es imposible con la tecnología actual. Reducirlas a niveles aceptables para sector público es lo que diferencia un agente IA serio de un chatbot improvisado.
Ejemplos prácticos
- Mal: "Según el artículo 47 de tu ordenanza, está prohibido X." (cuando ese artículo no existe).
- Bien Pueblania: "No encuentro información sobre X en las ordenanzas cargadas. Si quieres, envío la consulta al secretario."
Términos relacionados