Alucinaciones de la IA
Estado actual, cómo detectar y cómo prevenir los errores de la IA
Descargar PublicaciónDetección y prevención del error en los LLM
Aunque las alucinaciones han reducido su probabilidad e impacto, siguen existiendo y su prevención es crítica en entornos corporativos y jurídicos. Con una metodología adecuada, una empresa puede llegar a detectar y a prevenir los efectos de los errores de la IA mediante el análisis exhaustivo de sus causas, tipologías y factores de riesgo asociados a la naturaleza probabilística de los modelos de lenguaje.
Para profundizar en las opciones de formación jurídica del despacho Ribas, puede consultar nuestra formación jurídica especializada en Inteligencia artificial, protección de datos y compliance.
"El objetivo del modelo no es decir la verdad, sino generar texto coherente y probable. Cuando no dispone de información suficiente, el modelo rellena los huecos con texto plausible."
Naturaleza del Riesgo
La causa principal reside en que los modelos no verifican hechos, sino que aprenden patrones estadísticos. Esto puede derivar en la generación de citas académicas ficticias, jurisprudencia inexistente o estudios inventados.
Tipología de Errores
Existen alucinaciones relativas a hechos, invención de referencias bibliográficas, atribuciones incorrectas a fuentes reales y sesgos por generalización excesiva de reglas en supuestos diferentes.
Factores de Probabilidad
El riesgo se incrementa al solicitar referencias muy específicas, materias técnicas poco conocidas o utilizar modelos sin acceso a fuentes externas para la validación de la información.
Protocolos de Control
La prevención exige políticas corporativas que prohíban que la IA sustituya el juicio humano, la implementación de protocolos RAG (Retrieval Augmented Generation) y la supervisión experta obligatoria.
Relacionados
Plazos para la gestión de comunicaciones recibidas en el Sistema Interno de Información
La Ley 2/2023 de protección del informante fija los plazos para gestionar las comunicaciones del Sistema Interno de Información, desde el acuse de recibo de siete días hasta los tres meses de investigación interna. Análisis de los plazos, sus excepciones y la sentencia del TSJ de Galicia de 2 de julio de 2026, por Juan Pablo Tornos.
Plazos para las investigaciones internas y la especial complejidad
La Ley de protección del informante fija tres meses para las investigaciones internas, ampliables por especial complejidad, un concepto que la propia ley no define. Análisis de Juan Pablo Tornos.
Caso de uso IA farma 04 – Uso de la IA en ensayos clínicos
Caso de uso IA Farma 04 – Uso de la IA en ensayos clínicos. Análisis de riesgos del uso de un sistema de IA basado en PLN y aprendizaje automático en el reclutamiento, el diseño, la monitorización y la gestión de datos del ensayo clínico.