Alucinaciones de la IA
Estado actual, cómo detectar y cómo prevenir los errores de la IA
Descargar PublicaciónDetección y prevención del error en los LLM
Aunque las alucinaciones han reducido su probabilidad e impacto, siguen existiendo y su prevención es crítica en entornos corporativos y jurídicos. Con una metodología adecuada, una empresa puede llegar a detectar y a prevenir los efectos de los errores de la IA mediante el análisis exhaustivo de sus causas, tipologías y factores de riesgo asociados a la naturaleza probabilística de los modelos de lenguaje.
Para profundizar en las opciones de formación jurídica del despacho Ribas, puede consultar nuestra formación jurídica especializada en Inteligencia artificial, protección de datos y compliance.
"El objetivo del modelo no es decir la verdad, sino generar texto coherente y probable. Cuando no dispone de información suficiente, el modelo rellena los huecos con texto plausible."
Naturaleza del Riesgo
La causa principal reside en que los modelos no verifican hechos, sino que aprenden patrones estadísticos. Esto puede derivar en la generación de citas académicas ficticias, jurisprudencia inexistente o estudios inventados.
Tipología de Errores
Existen alucinaciones relativas a hechos, invención de referencias bibliográficas, atribuciones incorrectas a fuentes reales y sesgos por generalización excesiva de reglas en supuestos diferentes.
Factores de Probabilidad
El riesgo se incrementa al solicitar referencias muy específicas, materias técnicas poco conocidas o utilizar modelos sin acceso a fuentes externas para la validación de la información.
Protocolos de Control
La prevención exige políticas corporativas que prohíban que la IA sustituya el juicio humano, la implementación de protocolos RAG (Retrieval Augmented Generation) y la supervisión experta obligatoria.
Relacionados
Caso de uso IA farma 04 – Uso de la IA en ensayos clínicos
Caso de uso IA Farma 04 – Uso de la IA en ensayos clínicos. Análisis de riesgos del uso de un sistema de IA basado en PLN y aprendizaje automático en el reclutamiento, el diseño, la monitorización y la gestión de datos del ensayo clínico.
Claves de una evaluación de impacto en 2026
La sanción de 10 millones de euros a AENA por incumplimiento del artículo 35 del RGPD fija los criterios que debe cumplir una evaluación de impacto en protección de datos: RAT completo, gestión correcta del riesgo, juicios de idoneidad, necesidad y proporcionalidad por finalidad, y análisis documentado de alternativas.
La hiperregulación como atenuante
La hiperregulación dificulta cumplir el 100 % de las obligaciones legales. Juan Pablo Tornos analiza cómo el cumplimiento parcial puede atenuar la sanción.